Los bots de AI de moderación de contenido de Twitter siguen confundiendo los cohetes con los genitales masculinos

Después de despedir a la mayoría de los empleados así como contratistas que moderaron contenido en Twitter, Elon Musk hizo que su equipo dependiera en gran medida de los bots de IA para hacer el trabajo. Como resultado de esto, varias fotos y tweets normales fueron eliminados o restringieron su alcance, accidentalmente. Sin embargo, una hilarante consecuencia de que Twitter use bots de IA para moderar el contenido ha salido a la luz recientemente.
Los bots de IA de moderación de contenido de Twitter han sido codificados de tal manera que pueden eliminar una publicación o incluso suspender una cuenta si están 95 por ciento seguros de que una publicación ha violado las reglas de la plataforma. Hablando con Quartz, un ex empleado de Twitter que dejó la empresa recientemente, reveló que los bots de IA que usa TwitterSigue confundiendo fotos de cohetes con la de los genitales masculinos. No solo eso, las cuentas que publicaban fotos de cohetes fueron suspendidas de la plataforma. Por ejemplo, Spaceflight Now y el usuario Michael Baylor, quienes transmiten en vivo lanzamientos para la NASA, fueron bloqueados de sus cuentas después de publicar contenido sobre un lanzamiento de SpaceX el martes. Del mismo modo, Starbase Watcher, que rastrea la actividad en las instalaciones de SpaceX en Texas, también fue bloqueado. Del mismo modo, el fotógrafo de vuelos espaciales John Kraus dijo que su cuenta también fue suspendida después de compartir un video del lanzamiento de Artemis I de la NASA. Desde entonces, las cuatro cuentas se han desbloqueado. En respuesta a un tweet del colega de Baylor sobre la suspensión de su cuenta, Musk respondió: “¡Parece que nuestro reconocimiento de imágenes necesita algo de trabajo!”. Quartz entrevistó a un ex empleado anónimo que solía trabajar en los sistemas de moderación de contenido de Twitter. Le dijeron al medio que se sabía que las herramientas identificaban erróneamente imágenes apropiadas para contenido pornográfico. Esto podría incluir, por ejemplo, una foto de pedicura que contenga muchos píxeles de color carne.
Los bots de IA han sido codificados de tal manera que pueden eliminar una publicación o incluso suspender una cuenta, si están 95 por ciento seguros de que una publicación ha violado las reglas de la plataforma, Musk y su equipo tomar medidas enérgicas contra la pornografía en la plataforma es sin duda una gran cosa. Pero como es el caso con todo lo demás que Muks ha hecho con Twitter desde que asumió, la ejecución ha sido un desastre. Si Twitter realmente quiere depender menos de los moderadores humanos, debería reducir los umbrales de precisión de los bots de IA y las herramientas de aprendizaje automático que utiliza para distinguir el contenido confidencial, de modo que no marque cada publicación como inapropiada.
Via: FirstPost