Facebook dice que su inteligencia artificial puede detectar deepfakes e identificar su origen – Marseille News

La inteligencia artificial (IA) ha avanzado hasta el punto en que las computadoras pueden aprender a crear “falsificaciones profundas” combinando fotos y videos originales. Hemos visto deepfakes antes, videos que supuestamente presentan celebridades conocidas, que en realidad son falsificaciones. Los resultados de una foto o video falso profundo pueden ser divertidos e inofensivos, como la foto de arriba. Imagina cómo se habría visto el Capitán América de John Krasinski. Pero las personas malintencionadas pueden usar la tecnología deepfake para difundir información errónea, ya que la tecnología permite que los atacantes aparezcan como políticos y les haga decir casi cualquier cosa.

Estos deepfakes pueden propagarse como la pólvora en las redes sociales y tienen el potencial de causar mucho daño antes de que puedan quedar expuestos. Aquí es donde Facebook puede acudir al rescate, ya que los investigadores de inteligencia artificial de la compañía han desarrollado una tecnología que hace más que solo detectar deepfakes. Facebook afirma que su inteligencia artificial puede rastrear el origen de los deepfakes al encontrar características únicas que pueden ayudarlo a identificar la fuente de los deepfakes destinados a difundir desinformación.

LA MEJOR OFERTA DEL DÍA ¿Cómo es que estos nuevos mini enchufes inteligentes en Amazon cuestan solo $ 4.24 cada uno? Precio de lista: $ 21.96 Precio: $ 16.97 Ahorrarás: $ 4.99 (23%) Disponible en amazon. Puede recibir una comisión Comprar ahora disponible en Amazon. Puedes conseguir comisión

Ver a Facebook a la vanguardia de la lucha contra los deepfakes ya es refrescante, ya que la tecnología deepfakes se está extendiendo ampliamente por las aplicaciones sociales de Facebook, incluidas Facebook, Messenger, WhatsApp e Instagram.

READ  Precio de Canon en el procesador para las ventas de verano

La compañía se ha asociado con la Universidad Estatal de Michigan para crear tecnología que pueda detectar si un video o una foto es falsa o real.

Facebook usa su propia inteligencia artificial para buscar evidencia de que una foto o video ha sido alterado. La misma técnica se puede utilizar para identificar los puntos en común entre los deepfakes y crear una huella digital que pueda identificar el origen de los deepfakes maliciosos:

Nuestro método de ingeniería inversa se basa en el descubrimiento de patrones únicos detrás del modelo de IA utilizado para crear una sola imagen deepfake. Comenzamos mapeando las imágenes y luego calculamos las propiedades del modelo que se usó para crear la imagen. Al generalizar la asignación de imágenes al reconocimiento de grupos abiertos, podemos inferir más información sobre el modelo generativo utilizado para crear falsificaciones profundas más allá de darnos cuenta de que nunca se ha visto antes. Y al rastrear similitudes entre modelos en un lote de fotos falsas, también podemos saber si una serie de fotos provienen de una sola fuente. Esta capacidad de detectar deepfakes generados a partir del mismo modelo de IA puede ser útil para detectar instancias de desinformación coordinada u otros ataques maliciosos lanzados mediante deepfakes.

Si bien los atacantes pueden ocultar sus huellas mientras fabrican una falsificación profunda con fines maliciosos, la IA de Facebook aún puede recuperar elementos de huellas dactilares que podrían permitir a los investigadores determinar su origen.

Facebook compara los algoritmos con la tecnología que permite a alguien identificar los componentes de un automóvil en función de su sonido, incluso si nunca antes han escuchado el sonido de un automóvil:

Para comprender mejor los hiperparámetros, piense en el modelo generativo como un tipo de automóvil y sus hiperparámetros como varios componentes específicos del motor. Diferentes autos pueden tener el mismo aspecto, pero bajo el capó pueden tener motores muy diferentes con componentes muy diferentes. Nuestro enfoque de la ingeniería inversa es un poco como reconocer los componentes de un automóvil en función de su sonido, aunque es un automóvil nuevo del que nunca hemos oído hablar.

Facebook aún está perfeccionando su tecnología de detección de deepfake, pero dice que “este trabajo brindará a los investigadores y profesionales herramientas para investigar mejor los incidentes de desinformación orquestada utilizando deepfakes, así como abrir nuevas direcciones para la investigación en el futuro”. El blog completo de Facebook sobre este tema está disponible en este enlace.

La mejor oferta de hoy ¡El nuevo Roku Express 4K + ha recibido su primer gran descuento en Amazon! Precio de lista: $ 39.99 Precio: $ 29.99 Ahorro: $ 10.00 (25%) Disponible en amazon. Puede recibir una comisión Comprar ahora disponible en Amazon. Puedes conseguir comisión