Se espera que un centro de investigación de ética independiente de AI reciba $ 7.5 millones de fondos de cortesía de la gente de Facebook.
El nuevo centro de investigación se llama Instituto de Ética en Inteligencia Artificial y se creó en colaboración con la Universidad Técnica de Munich (TUM).
Facebook, al igual que muchas compañías, está luchando contra las preocupaciones externas sobre el desarrollo de la inteligencia artificial y su potencial impacto social. El centro debería ayudar a garantizar que Facebook se mantenga al día con las mejores prácticas éticas.
Joaquín Quiñonero Candela, Director de Applied Machine Learning en Facebook, escribió en una entrada de blog:
“En Facebook, garantizar el uso responsable y reflexivo de la IA es fundamental para todo lo que hacemos, desde las etiquetas de datos que utilizamos, los algoritmos individuales que construimos, hasta los sistemas de los que forman parte.
Estamos desarrollando nuevas herramientas como Flujo de equidad, lo que puede ayudar a generar métricas para evaluar si hay sesgos no deseados en ciertos modelos. También trabajamos con grupos como el Alianza para la IA, de la cual Facebook es miembro fundador, y la Iniciativa AI4People.
Sin embargo, la IA plantea problemas complejos que la industria por sí sola no puede responder, y las contribuciones académicas independientes del Instituto desempeñarán un papel crucial en el avance de la investigación ética sobre estos temas ".
El instituto llevará a cabo una investigación independiente basada en la evidencia para proporcionar información y orientación para la sociedad, la industria, los legisladores y los responsables de la toma de decisiones en los sectores público y privado.
Además, el instituto desea abordar específicamente las inquietudes que rodean a AI, como la seguridad, la privacidad, la imparcialidad y la transparencia.
El Dr. Christoph Lütge, profesor de TUM y director del instituto, comentó:
“En el Instituto de Ética en Inteligencia Artificial de TUM, exploraremos los problemas éticos de la IA y desarrollaremos pautas éticas para el uso responsable de la tecnología en la sociedad y la economía.
Nuestra investigación basada en la evidencia abordará los problemas que se encuentran en la interfaz de la tecnología y los valores humanos. Las preguntas centrales surgen sobre la confianza, la privacidad, la imparcialidad o la inclusión, por ejemplo, cuando las personas dejan rastros de datos en Internet o reciben cierta información por medio de algoritmos.
También nos ocuparemos de la transparencia y la rendición de cuentas, por ejemplo, en escenarios de tratamiento médico, o con los derechos y la autonomía en la toma de decisiones humanas en situaciones de interacción entre humanos y AI ".
AI tiene el potencial de hacer un inmenso bien en el mundo al mejorar cosas como el cuidado de la salud, la productividad y la mejora de los estilos de vida. Por otro lado, podría ser devastador si se usa con fines militares, reemplaza los trabajos de nivel de entrada o si cosas como el reconocimiento facial continúan sufriendo sesgos.
Escuchar centros de ética de AI independientes es siempre bienvenido, solo esperemos que suficientes empresas estén dispuestas a invertir tiempo en escuchar, así como dinero.
¿Interesado en escuchar a los líderes de la industria discutir temas como este y sus casos de uso? Asista a los eventos coautorizados de AI y Big Data Expo con los próximos espectáculos en Silicon Valley, Londres y Ámsterdam para obtener más información. Coubicado con IoT Tech Expo, Blockchain Expo y Cyber Security & Cloud Expo.