El caso causó revuelo en las redes sociales. Un algoritmo de recomendación de Facebook que pregunta a los usuarios si quieren ver otros «videos clave» debajo de un video del desierto del Reino Unido que muestra a personas negras, reveló el viernes.
Los New York Times.
Un portavoz de Facebook respondió después de los descubrimientos, diciendo: «Pedimos disculpas a cualquiera que haya visto estas recomendaciones insultantes», y confirmó que el grupo de California había desactivado la herramienta de recomendación sobre el tema «tan pronto como notamos que esto sucedía para investigar las causas de el problema y evitar que vuelva a suceder «.
Una función de recomendación de Facebook impulsada por inteligencia artificial ha etiquetado un video de hombres negros como «sobre primates». Causó alboroto y vergüenza entre los empleados actuales y anteriores.
Facebook ha cerrado la función y está investigando. También se disculpó después de que lo contactamos.https://t.co/p29Bayd5MX
– Ryan Mac 🙃 (@ RMac18) 3 de septiembre de 2021
«¿Estás viendo más videos sobre primates?» «
Video correo diario, hace más de un año, titulado «El hombre blanco llama a la policía contra los hombres negros en Marina». Solo muestra personas, no monos. A continuación, la pregunta «¿Ves más videos de primates?» Con las opciones «Sí / Rechazar» mostradas en la pantalla de algunos usuarios, según una captura de pantalla publicada en Twitter por Darci Groves, el ex diseñador del gigante de las redes sociales.
Y comentó sobre esto diciendo: «Es escandaloso», pidiendo a sus antiguos colegas en Facebook que intensifiquen el asunto.
Nuestros sistemas de inteligencia artificial no son perfectos.
«Aunque hemos mejorado nuestros sistemas de inteligencia artificial, sabemos que no son perfectos y tenemos algunos avances que hacer», dijo el portavoz de Facebook.
El caso destaca los límites de las tecnologías de inteligencia artificial, que la plataforma destaca regularmente en sus esfuerzos por crear un feed personalizado para cada uno de sus 3 mil millones de usuarios mensuales. También lo utilizan ampliamente para moderar el contenido, para identificar y bloquear mensajes y fotos problemáticos antes de que se vean.
Pero Facebook, al igual que sus competidores, es acusado regularmente de no luchar contra el racismo y otras formas de odio y discriminación. El tema genera más tensión ya que varias organizaciones de la sociedad civil acusan a las redes sociales y sus algoritmos de contribuir a la división de la sociedad estadounidense, en el contexto de las protestas del movimiento. Movimiento Black Lives Matter.
