Google les está diciendo a sus científicos que le den a la IA un giro "positivo"

Según se informa, Google ha estado diciendo a sus científicos que le den a la IA un giro "positivo" en los trabajos de investigación.

Los documentos obtenidos por Reuters sugieren que, en al menos tres casos, se pidió a los investigadores de Google que se abstuvieran de ser críticos con la tecnología de IA.

Google estableció una revisión de "temas sensibles" a principios de este año para captar los artículos que arrojan una luz negativa sobre la IA antes de su publicación.

Google pide a sus científicos que consulten con los equipos legales, de políticas y de relaciones públicas antes de publicar cualquier cosa sobre temas que podrían considerarse sensibles, como el análisis de sentimientos y las categorizaciones de personas basadas en la raza y / o afiliación política.

La nueva revisión significa que es posible que nunca se publiquen los artículos de los investigadores expertos de Google que plantean preguntas sobre los desarrollos de la IA. Reuters dice que cuatro investigadores del personal creen que Google está interfiriendo con los estudios sobre posibles daños tecnológicos.

Google se enfrentó recientemente a un escrutinio después de despedir al investigador líder en ética de inteligencia artificial Timnit Gebru.

Gebru es considerado un pionero en el campo e investigó los riesgos y las desigualdades que se encuentran en los grandes modelos lingüísticos. Afirma haber sido despedida por Google por un artículo no publicado y por enviar un correo electrónico en el que criticaba las prácticas de la empresa.

En un correo electrónico interno contra las afirmaciones de Gebru, el jefe de investigación de Google, Jeff Dean, escribió:

“Hemos aprobado docenas de artículos que Timnit y / o los otros empleados de Google han escrito y luego publicado, pero como saben, los artículos a menudo requieren cambios durante el proceso de revisión interna (o incluso se consideran inadecuados para su envío).

Desafortunadamente, este documento en particular solo se compartió con un día de anticipación antes de su fecha límite (necesitamos dos semanas para este tipo de revisión) y luego, en lugar de esperar los comentarios de los revisores, se aprobó para su envío y envío.

Luego, un equipo multidisciplinario revisó el documento como parte de nuestro proceso habitual y se informó a los autores que no cumplía con nuestro estándar de publicación y se les dio su opinión sobre el motivo ".

Si bien es una palabra contra otra, no es una gran apariencia para Google.

"Los avances en tecnología y la creciente complejidad de nuestro entorno externo están conduciendo cada vez más a situaciones en las que proyectos aparentemente inofensivos plantean problemas éticos, de reputación, regulatorios o legales", informó Reuters citando uno de los documentos de Google.

En su sitio web de cara al público, Google dice que sus científicos tienen una libertad "sustancial", pero cada vez parece más que no es el caso.

(Foto de Mitchell Luo en Unsplash)

¿Está interesado en escuchar a los líderes de la industria discutir temas como este? Asista a la 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo, y Cyber ​​Security & Cloud Expo World Series, ubicadas en el mismo lugar, con los próximos eventos en Silicon Valley, Londres y Ámsterdam.

Etiquetas: ai, inteligencia artificial, ética, Destacados, Google, papel, privacidad, informe, investigación, tecnología, timnit gebru