Google está realizando cambios en la forma en que revisa los documentos luego de una revuelta interna por las controvertidas prácticas de la empresa.
El investigador líder en ética de IA, Timnit Gebru, fue despedido de Google en diciembre del año pasado después de enviar un correo electrónico a sus colegas en el que criticaba las prácticas de la empresa.
Gebru afirma que Google bloquea la publicación de artículos que puedan generar críticas al trabajo de la empresa; incluida la más reciente, que cuestionaba si los modelos lingüísticos pueden ser demasiado grandes, quién se beneficia de ellos y si pueden aumentar los prejuicios y las desigualdades.
En un correo electrónico a los empleados tras el despido de Gebru, Jeff Dean, director de investigación de Google, dijo:
“Los artículos a menudo requieren cambios durante el proceso de revisión interna (o incluso se consideran inadecuados para su envío). Desafortunadamente, este documento en particular solo se compartió con un día de anticipación antes de su fecha límite (necesitamos dos semanas para este tipo de revisión) y luego, en lugar de esperar los comentarios de los revisores, se aprobó para su envío y envío.
Luego, un equipo multidisciplinario revisó el documento como parte de nuestro proceso regular y se informó a los autores que no cumplía con nuestro estándar de publicación y se les dio su opinión sobre el motivo ".
Muchos empleados de Google no están satisfechos con la respuesta de la empresa. Varios expertos en inteligencia artificial de alto perfil dejaron Google por el despido de Gebru y otros incidentes similares.
Luego, para agregar a una serie de malos eventos de relaciones públicas, Google despidió a Margaret Mitchell la semana pasada, otra persona respetada del equipo de IA ética de la empresa:
En un comunicado, Google afirmó que despidió a Mitchell después de encontrar "múltiples violaciones de nuestro código de conducta, así como de nuestras políticas de seguridad, que incluían la exfiltración de documentos confidenciales sensibles al negocio y datos privados de otros empleados".
No todos los empleados de Google creen en las afirmaciones de la empresa:
Después de la revuelta, Google finalmente parece estar asumiendo las críticas y haciendo cambios en sus prácticas internas. En una grabación de una reunión de personal de Google de una hora que escuchó Reuters, los ejecutivos de Google Research dijeron que estaban trabajando para recuperar la confianza después de la serie de incidentes.
Durante la grabación, Dean habría dicho que la revisión de "temas sensibles" "es y fue confusa". Ha encargado al director senior de investigación Zoubin Ghahramani que realice los cambios necesarios para simplificar el proceso.
Sobre la investigación crítica, Ghahramani dijo: "Necesitamos sentirnos cómodos con esa incomodidad".
Se dice que el proceso de revisión de temas delicados de Google, que cubre temas como análisis de sentimientos, prejuicios, aplicaciones militares y afiliaciones políticas, ordenó que se modifiquen al menos tres documentos de IA para no causar vergüenza a la empresa.
El comentario de Ghahramani puede ayudar a sofocar a algunos rebeldes; mientras que otros pueden necesitar un poco más de convicción. Después de todo, las acciones hablan más que las palabras y todo eso.
(Foto de Mitchell Luo en Unsplash)
¿Está interesado en escuchar a los líderes de la industria discutir temas como este? Asista a la 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo, y Cyber Security & Cloud Expo World Series, ubicadas en el mismo lugar, con los próximos eventos en Silicon Valley, Londres y Ámsterdam.
