El editor de IA de Microsoft publica historias sobre su propio error racista

El reemplazo de editores humanos por parte de Microsoft con inteligencia artificial ha enfrentado su primera gran vergüenza.

A fines de mayo, Microsoft decidió despedir a muchos de sus editores humanos para MSN News y reemplazarlos por una IA.

A principios de esta semana, apareció una noticia sobre la experiencia del miembro de la banda Little Mix, Jade Thirlwall, frente al racismo. La historia parece bastante inocente hasta que te das cuenta de que la IA de Microsoft confundió a dos de los miembros de la banda de raza mixta. El error fue rápidamente señalado por Thirlwall.

En una historia de Instagram, Thirlwall escribió: "@MSN Si va a copiar y pegar artículos de otros medios de comunicación precisos, es posible que desee asegurarse de que está utilizando una imagen del miembro correcto del grupo de raza mixta".

Ella agregó: "Esta mierda le sucede a @leighannepinnock y TODO EL TIEMPO que se ha convertido en una broma … Me ofende que no pudieras diferenciar a las dos mujeres de color de cuatro miembros de un grupo … ¡MEJOR!"

Según los informes, a los editores humanos de Microsoft se les dijo que fueran conscientes de que la IA posteriormente podría publicar historias sobre su propio error racista y eliminarlas manualmente.

La aplicación Microsoft News terminó inundada de historias sobre el incidente. Está claro que los editores humanos restantes no pudieron moverse lo suficientemente rápido contra su contraparte automatizada.

Según Waterson, se le ha dicho al personal humano recientemente despedido de MSN que deje de informarle lo que está haciendo la IA.

Esta no es la primera vez que una solución de Microsoft basada en inteligencia artificial ha sido criticada por racismo.

Un chatbot de Twitter infame desarrollado por Microsoft llamado Tay terminó lanzando vitriolo racista y misógino en 2016. El chatbot obviamente no fue diseñado para ser un personaje tan desagradable, pero Microsoft, por alguna razón, pensó que sería una buena idea permitir Internet ciudadanos para entrenarlo.

Una de las preocupaciones más urgentes en este mundo cada vez más draconiano en el que vivimos es la vigilancia masiva y el reconocimiento facial. Si bien IBM anunció esta semana que no quiere tener nada más que ver con la tecnología, Microsoft sigue siendo un jugador clave.

Un experimento realizado por la Algorithmic Justice League el año pasado encontró serias disparidades entre el desempeño de los algoritmos de reconocimiento facial basados ​​en el género y el color de la piel.

El algoritmo de Microsoft en realidad obtuvo el mejor rendimiento de los probados y logró una precisión del 100 por ciento al detectar hombres de piel más clara. Sin embargo, el algoritmo tenía una precisión de solo 79.2 por ciento cuando se usaba en mujeres de piel más oscura.

Si esa versión del sistema de reconocimiento facial de Microsoft se usara para la vigilancia, casi dos de cada diez mujeres con piel más oscura corren el riesgo de ser marcadas falsamente. En áreas concurridas, eso podría significar cientos, si no miles de personas que enfrentan perfiles automáticos cada día.

Si bien, idealmente, los algoritmos no tendrían sesgos o problemas, todos los incidentes muestran exactamente por qué muchos humanos casi siempre deberían estar involucrados en las decisiones finales. De esa manera, cuando las cosas salen mal, al menos hay responsabilidad ante una persona específica en lugar de simplemente culpar a un error de IA.

(Crédito de la imagen: Little Mix por vagueonthehow bajo licencia CC BY 2.0)

¿Interesado en escuchar a líderes de la industria discutir temas como este? Asista a la 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo y Cyber ​​Security & Cloud Expo World Series con eventos próximos en Silicon Valley, Londres y Amsterdam.

Etiquetas: ai, inteligencia artificial, blm, Destacado, Jade Thirlwall, little mix, microsoft, racismo