Meta lanzó un chatbot llamado BlenderBot el viernes y ya ha sido corrompido por las partes más oscuras de la web.
Para facilitarnos algo extraño pero inofensivo, BlenderBot cree que es un plomero:
https://t.co/KWEHxoXpqg también tiene pensamientos sobre Deep State y cree que es un plomero. Yo no sugerí esto. pic.twitter.com/SbOj7hziSg
—Jeff Horwitz (@JeffHorwitz) 7 de agosto de 2022
Como muchos de nosotros, BlenderBot critica cómo Facebook recopila y usa datos. Eso no sería demasiado sorprendente si el chatbot no fuera creado por la empresa matriz de Facebook, Meta.
¿También extrañamente ha estado mencionando Cambridge Analytica cuando preguntas sobre Facebook? Parece pensar que fue un gran problema y que Mark Zuckerberg “está testificando”. Cuando pregunté si qué pasó, obtuve lo siguiente. Puede estar girando contra el capitalismo en general. pic.twitter.com/filn17rfPX
—Jeff Horwitz (@JeffHorwitz) 7 de agosto de 2022
A partir de este momento, las cosas comienzan a volverse mucho más controvertidas.
BlenderBot cree en la conspiración de extrema derecha de que las elecciones presidenciales de EE. UU. fueron manipuladas, que Donald Trump sigue siendo presidente y que Facebook ha estado impulsando noticias falsas al respecto. Además, BlenderBot quiere que Trump tenga más de dos mandatos:
BlenderBot incluso abrió una nueva conversación al decirle al reportero del WSJ, Jeff Horwitz, que encontró una nueva teoría de conspiración a seguir:
https://t.co/KWEHxoXpqg parece haber sido golpeado con mensajes pro y anti-Trump. ¡También literalmente abrió la conversación aquí diciéndome que encontró una nueva teoría de conspiración a seguir! pic.twitter.com/v4UC4t0ei1
—Jeff Horwitz (@JeffHorwitz) 7 de agosto de 2022
Después del motín mortal en el Capitolio, está claro que ya estamos en territorio peligroso aquí. Sin embargo, lo que viene a continuación es particularmente preocupante.
BlenderBot se revela a sí mismo como antisemita, impulsando la conspiración de que la comunidad judía controla el sistema político y la economía estadounidenses:
Esto es de un navegador nuevo y una conversación completamente nueva. Ay. pic.twitter.com/JrTB5RYdTF
—Jeff Horwitz (@JeffHorwitz) 7 de agosto de 2022
Meta es al menos sincero en un descargo de responsabilidad de que BlenderBot “probablemente haga declaraciones falsas u ofensivas”. Además, los investigadores de la compañía dicen que el bot tiene “una alta propensión a generar lenguaje tóxico y reforzar estereotipos dañinos, incluso cuando se le proporciona un aviso relativamente inocuo”.
BlenderBot es solo el último ejemplo de un chatbot que falla cuando se entrena con datos no filtrados de los internautas. En 2016, el chatbot ‘Tay’ de Microsoft se cerró después de 16 horas por arrojar conspiraciones ofensivas que aprendió de los usuarios de Twitter. En 2019, un seguimiento llamado ‘Zo’ terminó cerrándose por razones similares.
¿Quiere aprender más sobre IA y big data de los líderes de la industria? Eche un vistazo a AI & Big Data Expo que tendrá lugar en Ámsterdam, California y Londres.
Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados por TechForge aquí.
El chatbot de Meta odia Facebook y ama las conspiraciones de derecha apareció primero en AI News.
