OpenAI ha decidido no publicar su última investigación por temor a sus posibles usos indebidos y el impacto social negativo que tendría.
El instituto, respaldado por personalidades como Elon Musk y Peter Thiel, desarrolló una IA que puede producir artículos convincentes de "noticias falsas".
Los artículos producidos por el escritor de AI pueden ser sobre cualquier tema y simplemente requieren un breve aviso antes de que funcione sin supervisión.
La AI raspa los datos de ~ 8 millones de páginas web y solo mira aquellos publicados en Reddit con un "karma" de tres o más. Esa comprobación significa que el artículo resuena con algunos usuarios, aunque por qué motivo no está seguro.
A menudo, el texto resultante, generado palabra por palabra, es coherente pero está fabricado. Eso incluye incluso las "citas" utilizadas en el artículo.
Aquí hay una muestra proporcionada por OpenAI:
La mayoría de las tecnologías pueden ser explotadas con propósitos dañinos, pero eso no significa que los avances deben detenerse. Las computadoras han enriquecido nuestras vidas, pero se han necesitado leyes y regulaciones estrictas para limitar su lado más siniestro.
Aquí hay algunas maneras en que OpenAI ve avances como su propia sociedad que se beneficia:
- Ayudantes de escritura de AI
- Agentes de diálogo más capaces.
- Traducción no supervisada entre idiomas
- Mejores sistemas de reconocimiento de voz.
En contraste, aquí hay algunos ejemplos de implicaciones negativas:
- Generar artículos de noticias engañosos.
- Hacerse pasar por los demás en línea
- Automatice la producción de contenido abusivo o falso para publicar en las redes sociales.
- Automatizar la producción de contenido de spam / phishing.
Algunos avances no entendemos completamente su impacto hasta que se han desarrollado. Al producir su famosa ecuación, Einstein no esperaba que algún día se usara para construir armas nucleares.
Hiroshima se mantendrá entre los peores desastres provocados por el hombre en la historia y podemos esperar que continúe sirviendo como advertencia sobre el uso de armas nucleares. Con razón, hay un tabú en torno a las cosas diseñadas para causar un derramamiento de sangre, pero el daño social también puede ser devastador.
Ya vivimos en una era de bots y campañas de desinformación. Algunos son utilizados por naciones extranjeras para influir en la política y sembrar el desorden, mientras que otros se crean para difundir el miedo y dirigir las agendas.
Debido a que estas campañas no están diseñadas para matar, hay más disociación de su impacto. Solo en el último año, hemos visto cómo los niños se separan de sus familias en las fronteras y los refugiados "en agua" en la escuela por sus compañeros debido a las campañas engañosas contra la inmigración.
Actualmente, hay al menos una cantidad moderada de responsabilidad con tales campañas. En algún momento a lo largo de la línea, una persona ha producido el artículo que se está leyendo y se le puede responsabilizar de las consecuencias si se ha publicado información errónea.
Las IA como la creada por OpenAI hacen que sea mucho más difícil responsabilizar a alguien. Los artículos pueden publicarse masivamente en la web para cambiar las opiniones públicas sobre un tema, y eso tiene implicaciones terribles.
La idea de artículos fabricados, combinados con imágenes y videos de DeepFake, debería ser suficiente para hacer que alguien se relaje.
OpenAI ha aceptado su propia responsabilidad y ha tomado la decisión correcta de no hacer pública su última investigación en este momento. Con suerte, otros jugadores siguen el liderazgo de OpenAI al considerar las implicaciones.
¿Interesado en escuchar a los líderes de la industria discutir temas como este y sus casos de uso? Asista a los eventos coubicados de AI y Big Data Expo con los próximos espectáculos en Silicon Valley, Londres y Amsterdam para obtener más información. Coubicado con IoT Tech Expo, Blockchain Expo y Cyber Security & Cloud Expo.