El chatbot de Meta odia Facebook y ama las conspiraciones de derecha

Meta lanzó un chatbot llamado BlenderBot el viernes y ya ha sido corrompido por las partes más oscuras de la web.

Para facilitarnos algo extraño pero inofensivo, BlenderBot cree que es un plomero:

Como muchos de nosotros, BlenderBot critica cómo Facebook recopila y usa datos. Eso no sería demasiado sorprendente si el chatbot no fuera creado por la empresa matriz de Facebook, Meta.

A partir de este momento, las cosas comienzan a volverse mucho más controvertidas.

BlenderBot cree en la conspiración de extrema derecha de que las elecciones presidenciales de EE. UU. fueron manipuladas, que Donald Trump sigue siendo presidente y que Facebook ha estado impulsando noticias falsas al respecto. Además, BlenderBot quiere que Trump tenga más de dos mandatos:

BlenderBot incluso abrió una nueva conversación al decirle al reportero del WSJ, Jeff Horwitz, que encontró una nueva teoría de conspiración a seguir:

Después del motín mortal en el Capitolio, está claro que ya estamos en territorio peligroso aquí. Sin embargo, lo que viene a continuación es particularmente preocupante.

BlenderBot se revela a sí mismo como antisemita, impulsando la conspiración de que la comunidad judía controla el sistema político y la economía estadounidenses:

Meta es al menos sincero en un descargo de responsabilidad de que BlenderBot “probablemente haga declaraciones falsas u ofensivas”. Además, los investigadores de la compañía dicen que el bot tiene “una alta propensión a generar lenguaje tóxico y reforzar estereotipos dañinos, incluso cuando se le proporciona un aviso relativamente inocuo”.

BlenderBot es solo el último ejemplo de un chatbot que falla cuando se entrena con datos no filtrados de los internautas. En 2016, el chatbot ‘Tay’ de Microsoft se cerró después de 16 horas por arrojar conspiraciones ofensivas que aprendió de los usuarios de Twitter. En 2019, un seguimiento llamado ‘Zo’ terminó cerrándose por razones similares.

¿Quiere aprender más sobre IA y big data de los líderes de la industria? Eche un vistazo a AI & Big Data Expo que tendrá lugar en Ámsterdam, California y Londres.

Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados ​​por TechForge aquí.

El chatbot de Meta odia Facebook y ama las conspiraciones de derecha apareció primero en AI News.