Según un nuevo artículo, las caras generadas por IA se han vuelto tan avanzadas que los humanos ahora no pueden distinguir entre lo real y lo falso la mayoría de las veces.

“Nuestra evaluación del fotorrealismo de rostros sintetizados por IA indica que los motores de síntesis han atravesado el valle inquietante y son capaces de crear rostros que son indistinguibles y más confiables que los rostros reales”, explicaron los investigadores.

Los investigadores, Sophie J. Nightingale, Departamento de Psicología, Universidad de Lancaster, y Hanry Farid, Departamento de Ingeniería Eléctrica y Ciencias de la Computación, Universidad de California, destacan la preocupante tendencia de que las “falsificaciones profundas” se conviertan en armas.

El video, el audio, el texto y las imágenes generadas por las redes adversarias generativas (GAN, por sus siglas en inglés) se utilizan cada vez más para imágenes íntimas no consensuadas, fraude financiero y campañas de desinformación.

Las GAN funcionan enfrentando dos redes neuronales, un generador y un discriminador, entre sí. El generador comenzará con píxeles aleatorios y seguirá mejorando la imagen para evitar la penalización del discriminador. Este proceso continúa hasta que el discriminador ya no puede distinguir una cara sintetizada de una real.

Así como el discriminador ya no podía distinguir un rostro sintetizado de uno real, tampoco los participantes humanos. En el estudio, los participantes humanos identificaron imágenes falsas solo el 48,2 por ciento de las veces.

Se encontró que la precisión era mayor para identificar correctamente las caras reales de hombres blancos y asiáticos del este que las mujeres. Sin embargo, tanto para rostros sintéticos masculinos como femeninos, los rostros blancos se identificaron con menor precisión y los hombres blancos menos que las mujeres blancas.

Los investigadores plantearon la hipótesis de que “las caras blancas son más difíciles de clasificar porque están sobrerrepresentadas en el conjunto de datos de entrenamiento de StyleGAN2 y, por lo tanto, son más realistas”.

Aquí están las caras reales (R) y sintéticas (S) clasificadas con mayor precisión (líneas superior y media superior) y menos (inferior y media inferior):

Hay un rayo de esperanza para los humanos, ya que los participantes pueden distinguir caras reales el 59 por ciento de las veces después de recibir capacitación sobre cómo detectar las falsificaciones. Ese no es un porcentaje particularmente cómodo, pero al menos inclina la balanza hacia los humanos que detectan falsificaciones la mayoría de las veces.

Lo que vuelve a hacer sonar las alarmas es que las caras sintéticas fueron calificadas como más “confiables” que las reales. En una escala de 1 (muy poco confiable) a 7 (muy confiable), la calificación promedio para las caras reales (barras azules) de 4,48 es menor que la calificación de 4,82 para las sintéticas.

“Es más probable que una cara sonriente sea calificada como confiable, pero el 65,5 por ciento de nuestras caras reales y el 58,8 por ciento de las caras sintéticas sonríen, por lo que la expresión facial por sí sola no puede explicar por qué las caras sintéticas son calificadas como más confiables”, escribieron los investigadores. .

Los resultados del artículo muestran la importancia de desarrollar herramientas que puedan detectar las diferencias cada vez más pequeñas que distinguen lo real de lo sintético porque los humanos tendrán dificultades incluso si todos recibieron capacitación específica.

Con las agencias de inteligencia occidentales llamando a contenido falso supuestamente de las autoridades rusas para justificar una invasión de Ucrania, la creciente facilidad con la que tales medios pueden generarse en masa plantea una seria amenaza que ya no es obra de ficción.

(Foto de NeONBRAND en Unsplash)

Relacionados: James Cameron advierte de los peligros de los deepfakes

¿Quiere aprender más sobre IA y big data de los líderes de la industria? Echa un vistazo a AI & Big Data Expo. Los próximos eventos de la serie se llevarán a cabo en Santa Clara los días 11 y 12 de mayo de 2022, Ámsterdam los días 20 y 21 de septiembre de 2022 y Londres los días 1 y 2 de diciembre de 2022.

Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados ​​por TechForge aquí.

La publicación La lucha de los humanos por distinguir entre rostros reales y generados por IA apareció primero en AI News.