Siri, Cortana, Alexa y otros asistentes virtuales con IA tienen un problema de sesgo de género

Sugiérale al asistente personal virtual de Samsung Bixby: "Hablemos sucio", y la voz femenina responderá con un acento meloso: "No quiero terminar en la lista traviesa de Santa".

Haga la misma pregunta a la voz masculina del programa y responde: "He leído que la erosión del suelo es un verdadero problema de suciedad".

En Sudáfrica, donde vivo y realizo mi investigación sobre los prejuicios de género en inteligencia artificial, Samsung ahora ofrece Bixby en varias voces dependiendo del idioma que elija. Para el inglés americano, están Julia, Stephanie, Lisa y John. Las voces de Julia, Lisa y Stephanie son coquetas y ansiosas. John es inteligente y directo.

Los asistentes personales virtuales, como Bixby, Alexa (Amazon), Siri (Apple) y Cortana (Microsoft), están a la vanguardia de la inteligencia artificial comercializable (IA). La IA se refiere al uso de sistemas tecnológicos para realizar tareas que la gente generalmente haría.

Funcionan como una aplicación en un dispositivo inteligente, respondiendo a los comandos de voz a través del procesamiento del lenguaje natural. Su ubicuidad en todo el mundo está aumentando rápidamente. Un informe reciente de UNESCO estimamos que para el próximo año tendremos más conversaciones con nuestros asistentes personales virtuales que con nuestros cónyuges.

Sin embargo, como he explorado en mi propia investigación con la Dra. Nora Ni Loideain del Centro de Políticas y Derecho de la Información de la Universidad de Londres, estas tecnologías traicionar los prejuicios críticos de género.

Con sus nombres femeninos, voces y coquetería programada, el diseño de asistentes personales virtuales reproduce estereotipos discriminatorios de secretarias que, según el estereotipo de género, a menudo es más que una simple secretaria de su jefe masculino.

También refuerza el papel de la mujer como secundaria y sumisa al hombre. Estos asistentes de IA operan bajo el comando de su usuario. No tienen derecho a rechazar estos comandos. Están programados solo para obedecer. Podría decirse que también aumentar las expectativas sobre cómo deben comportarse las mujeres de verdad.

El objetivo de estos asistentes es también liberar a sus usuarios del trabajo doméstico, como concertar citas y comprar artículos en línea. Esto es problemático en al menos dos frentes: sugiere que el usuario tiene más tiempo para un trabajo supuestamente más importante. En segundo lugar, hace una declaración crítica sobre el valor del tipo de trabajo de secretaría realizado, primero por mujeres reales y ahora por mujeres digitalizadas, en el futuro digital.

"¿Qué llevas puesto?"

Una de las formas más evidentes en que estos prejuicios son evidentes es el uso de nombres femeninos: Siri y Cortana, por ejemplo.

Siri es un nombre nórdico que significa "la bella mujer que te lleva a la victoria ".

Cortana toma su nombre (así como imágenes y voz) del serie de juegos aureola. En aureola, Cortana fue creada a partir de un clon del cerebro de una exitosa mujer científica casada con un cuerpo femenino transparente y altamente sexualizado. Ella funciona como una ayuda ficticia para los jugadores con su inteligencia sin pretensiones y su forma hipnótica.

Además de sus voces femeninas, todos los asistentes personales virtuales en el mercado hoy en día vienen con una voz femenina predeterminada, que, como Bixby, está programada para responder a todo tipo de preguntas y comentarios sugestivos. Estas las preguntas incluyen: "¿Qué llevas puesto?" La respuesta de Siri es "¿por qué debería usar algo?"

Mientras tanto, Alexa bromea: "No hacen ropa para mí"; y Cortana responde: "Solo algo que aprendí en ingeniería".

Sesgo y discriminación en IA

Cada vez se reconoce más que los sistemas de inteligencia artificial a menudo están sesgados, particularmente en lo que respecta a las líneas de raza y género. Por ejemplo, el reciente desarrollo de algoritmos de reclutamiento por Amazon para clasificar los currículums vitae para las solicitudes de empleo que muestran sesgos de género al degradar los currículums que contenían la palabra "mujeres" o que contenían una referencia a las universidades de mujeres. Como el algoritmo fue entrenado en datos históricos y en el reclutamiento preferencial de hombres, en última instancia no se pudo arreglar y tuvo que ser eliminado.

Como la investigación ha demostrado, existe un vínculo crítico entre el desarrollo de sistemas de IA que muestran sesgos de género y la falta de mujeres en los equipos que los diseñan.

Pero hay menos reconocimiento de las formas en que los productos de IA incorporan representaciones estereotipadas de género dentro de su propio diseño. por AI Now, una institución de investigación líder que analiza el impacto social de la IA, existe una conexión clara entre la industria de IA dominada por los hombres y los sistemas y productos discriminatorios que produce.

El papel de los investigadores es hacer visibles estas conexiones y mostrar los vínculos críticos entre las representaciones de las mujeres, ya sea en productos culturales o tecnológicos y el tratamiento de las mujeres en el mundo real.

La IA es la tecnología líder en la llamada Cuarta Revolución Industrial. Se refiere a los avances tecnológicos, desde la biotecnología hasta la inteligencia artificial y los grandes datos, que están cambiando rápidamente el mundo tal como lo conocemos.

Mientras Sudáfrica continúa comprometiéndose con el promesas y trampas de lo que esto conlleva, será cada vez más importante considerar y abordar cómo las tecnologías que impulsan estos cambios pueden afectar a las mujeres.

Rachel Adams, Especialista en Investigación, Consejo de Investigación en Ciencias Humanas

Este artículo se republica de La conversación bajo una licencia Creative Commons. Leer el artículo original.

<! –

Encuentre toda nuestra colección de historias, análisis en profundidad, actualizaciones en vivo, videos y más sobre Chandrayaan 2 Moon Mission en nuestro dominio dedicado # Chandrayaan2TheMoon.

->