Técnica. El algoritmo de Facebook identifica erróneamente a negros y monos

Un algoritmo de recomendación de Facebook preguntó a los usuarios si querían ver otros “videos clave” dentro de un video sensacionalista del Reino Unido que mostraba a personas de raza negra, Los New York Times Viernes. Video correo diario, hace más de un año, titulado “El hombre blanco llama a la policía contra los hombres negros en Marina”. Solo muestra personas, no monos.

A continuación, la pregunta “¿Ves más videos de primates?” Las opciones “Sí / Rechazar” se mostraron en la pantalla de algunos usuarios, según una captura de pantalla publicada en Twitter por Darci Groves, el ex diseñador del gigante de las redes sociales. “Es una vergüenza”, comentó, y pidió a sus antiguos colegas de Facebook que intensifiquen el asunto.

Un portavoz de Facebook respondió: “Este es claramente un error inaceptable”. “Pedimos disculpas a todos los que vieron estas recomendaciones insultantes”, agregó. Dijo que el grupo de California desactivó la herramienta de recomendación sobre este tema “tan pronto como notamos lo que estaba sucediendo para investigar las causas del problema y prevenir su recurrencia”.

Inteligencia artificial ‘imperfecta’

El caso destaca los límites de las tecnologías de inteligencia artificial, que la plataforma destaca regularmente en sus esfuerzos por crear un feed personalizado para cada uno de sus 3 mil millones de usuarios mensuales. El portavoz de Facebook continuó: “Como hemos dicho, aunque hemos mejorado nuestros sistemas de inteligencia artificial, sabemos que no es perfecto y que tenemos que progresar”.

También lo utilizan ampliamente para moderar el contenido, para identificar y bloquear mensajes y fotos problemáticos antes de que se vean.

Antecedentes de Twitter

Facebook, al igual que sus competidores, es acusado regularmente de no abordar el racismo y otras formas de odio y discriminación.

READ  El MacBook Air de 13 pulgadas (256/8 GB) con el nuevo procesador M1 está a la venta por 1030 €

El año pasado, el algoritmo de Twitter ha sido criticado por racista. Los internautas han notado que la inteligencia artificial de la red social utilizada para parafrasear las fotos publicadas en la plataforma muestra a blancos a expensas de negros.

Ejemplo de tweet a continuación: La imagen, verticalmente, incluye el rostro de Barack Obama y el del senador republicano blanco Mitch McConnell. Independientemente del orden en que se coloquen las caras, el recorte automático de Twitter solo coloca la imagen en el centro de la imagen en la segunda cara.

El tema genera más tensión ya que varias organizaciones de la sociedad civil acusan a las redes sociales y sus algoritmos de contribuir a la división de la sociedad estadounidense, en el contexto de las manifestaciones del movimiento Black Lives Matter. contar).