Facebook se ha comprometido a tomar medidas enérgicas contra los falsos engaños antes de las elecciones presidenciales de EE. UU. A finales de este año.
La manipulación de los votantes es una preocupación para cualquier democracia que funcione y las falsificaciones profundas proporcionan un desafío completamente nuevo para las plataformas de redes sociales.
Un video falso de Nancy Pelosi, presidenta de la Cámara de Representantes de los Estados Unidos, se hizo viral el año pasado después de que supuestamente la mostraba arrastrando las palabras como si estuviera intoxicada. El clip muestra cómo incluso un video relativamente poco sofisticado (no era una farsa real) podría usarse para causar daño a la reputación y cambiar los votos.
Facebook se negó a eliminar el video de Nancy Pelosi y en su lugar dijo que mostraría un artículo de un sitio web de verificación de hechos de terceros destacando que ha sido editado y tomará medidas para limitar su alcance. El enfoque, por supuesto, fue muy criticado.
Las nuevas reglas de Facebook afirman que los videos falsos diseñados para ser engañosos serán prohibidos. El problema con las reglas es que no cubren videos alterados por parodia o aquellos editados "únicamente para omitir o cambiar el orden de las palabras", lo que no sonará alentador para aquellos que desean una postura firme contra la manipulación.
En la era de las "noticias falsas", muchas personas se han dado cuenta de que no necesariamente creen lo que leen. Del mismo modo, un número creciente de personas también sabe con qué facilidad se manipulan las imágenes. Los videos de Deepfake plantean tal preocupación porque el público en general aún no es lo suficientemente consciente de su existencia o de cómo detectarlos.
Un informe del Centro Stern de NYU para Empresas y Derechos Humanos en septiembre pasado, cubierto por nuestra publicación hermana MarketingTech, destacó las diversas formas en que la desinformación podría usarse antes de las elecciones presidenciales de este año.
Una de las ocho predicciones es que los videos falsos se utilizarán "para representar a los candidatos que dicen y hacen cosas que nunca dijeron o hicieron". Otra predicción es que Irán y China pueden unirse a Rusia como fuentes de desinformación, la primera quizás ahora sea aún más probable debido a las recientes escaladas entre EE. UU. E Irán y el deseo de represalias no militares.
Se está introduciendo legislación para criminalizar la producción de deepfakes sin revelar que han sido modificados, pero el mejor enfoque es limitarlos para que no se compartan ampliamente en primer lugar.
"Un mejor enfoque, y uno que evite el peligro de extralimitar la censura del gobierno, sería que las plataformas de redes sociales mejoren su tecnología de detección de IA, mejoren la revisión humana y eliminen las falsificaciones profundas antes de que puedan causar mucho daño", sugiere el informe.
El mes después de que Facebook se negó a eliminar el video editado de Pelosi, una falsificación profunda creada por la startup israelí Canny AI tenía como objetivo crear conciencia sobre el problema al hacer que pareciera que el CEO de Facebook, Mark Zuckerberg, dijo: "Imagine esto por un segundo: un hombre, con control total de miles de millones de datos robados de personas, todos sus secretos, sus vidas, sus futuros ".
El deepfake de Canny AI fue diseñado para ser claramente falso, pero muestra cuán fácil se está volviendo manipular las opiniones de las personas. En un mundo tenso, no es difícil imaginar qué devastación podría ser causada simplemente al lanzar una falsa mentira de un líder político que declara la guerra o planea lanzar un misil.
¿Interesado en escuchar a líderes de la industria discutir temas como este? Asista a la 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo y Cyber Security & Cloud Expo World Series con eventos próximos en Silicon Valley, Londres y Amsterdam.