Ingeniero de Google suspendido después de afirmar que la IA estaba consciente

Este escenario ha inspirado muchas obras de ciencia ficción, entre ellas: 2001, vuelo espacial Y su asesina computadora HAL 9000 a bordo, apareció en las noticias después de una entrevista con El Correo de Washington (Una nueva ventana) Con el ingeniero de por medio, Blake Lemoine.

El mandato de este último era, al principio, entablar una conversación con el bot, llamado LaMDA para un «Modelo de lenguaje para aplicaciones de diálogo» o Modelo de lenguaje para funciones de diálogo. para ver si pronunció un discurso discriminatorio o de odio.

Un chatbot como este aprende por imitación y se alimenta de miles de millones de palabras, textos y discusiones en Internet, Wikipedia o cualquier otro lugar en Internet.

Pero el ingeniero estaba confundido por algunas de las reacciones del robot. Cuando se le preguntó a qué tipo de cosas le tenía miedo, Lambda dijo que tenía Miedo profundo a ser extinguido. El robot escribió: “Sería como la muerte para mí, según él. El Correo de Washington. Me va a asustar mucho»

Google refuta esta afirmación

Blake Lemoine compartió sus pensamientos en un documento enviado a los ejecutivos de Google que recopiló las conversaciones que tuvo con LaMDA.

Pero estas personas no se adhirieron a su idea. Nuestro equipo, que incluye especialistas en ética y tecnólogos, revisó las inquietudes que Blake planteó sobre el cumplimiento de nuestros principios de IA y le informó que la evidencia no respalda su afirmación.dijo un portavoz de Google en El Correo de Washington.

Google había indicado un peligroantropomórfico [donner un aspect humain à une chose] Chatbots. Estos sistemas imitan el tipo de intercambios que aparecen en millones de oraciones y pueden improvisar sobre cualquier tema fascinante.Argumentó el vocero.

READ  IntroducerarElbilsladdare: Tar dig ett steg närmare en Netto-Noll framtid

Blake Lemoine, disconforme con la reacción del empleador, contactó a los medios y políticos sobre el asunto, lo que resultó en su suspensión por violar las reglas de confidencialidad de la empresa.

Desde entonces ha publicado su texto completo una entrevista Con LaMDA en un blog, donde ataca a su empleador, lo acusa de querer silenciar a los críticos sobre el nivel moral de sus tecnologías de IA.

Con información del Washington Post