Una encuesta de los principales actores de la industria concluye que las principales compañías tecnológicas como Amazon y Microsoft están poniendo el mundo "en riesgo" de una IA asesina.
PAX, una ONG holandesa, clasificó a 50 empresas según tres criterios:
- Si la tecnología que están desarrollando pudiera usarse para una IA asesina.
- Su participación en proyectos militares.
- Si se comprometieron a no involucrarse con aplicaciones militares en el futuro.
Microsoft y Amazon son nombrados entre las compañías tecnológicas de "mayor riesgo" del mundo que ponen al mundo en riesgo, mientras que Google lidera el camino entre las grandes compañías tecnológicas que implementan las garantías adecuadas.
La clasificación de Google entre las compañías tecnológicas más seguras puede sorprender a algunos dada la reputación de la compañía para la recolección masiva de datos. Mountain View también se vio envuelto en una protesta por su controvertido contrato del "Proyecto Maven" con el Pentágono.
El Proyecto Maven era un contrato que Google tenía con el Pentágono para suministrar tecnología de inteligencia artificial para drones militares. Varios empleados de alto perfil renunciaron por el contrato, mientras que más de 4,000 empleados de Google firmaron una petición exigiendo que su gerencia cesara el proyecto y nunca más "construyera tecnología de guerra".
Tras la reacción violenta del Proyecto Maven, el CEO de Google, Sundar Pichai, prometió en una publicación de blog que la compañía no desarrollará tecnologías o armas que causen daño, ni nada que pueda usarse para la vigilancia que viole las "normas aceptadas internacionalmente" o los "principios ampliamente aceptados del derecho internacional y derechos humanos".
La promesa de Pichai de no involucrarse con tales contratos en el futuro parece haber satisfecho a PAX en sus clasificaciones. Desde entonces, Google ha intentado mejorar su imagen pública en torno a sus desarrollos de inteligencia artificial con cosas como la creación de un panel de ética dedicado, pero eso fracasó y colapsó rápidamente después de presentar a un miembro de un grupo de expertos de derecha y un magnate de aviones no tripulados de defensa.
"¿Por qué las compañías como Microsoft y Amazon no niegan que actualmente están desarrollando estas armas altamente controvertidas, que podrían decidir matar a personas sin participación humana directa?", Dijo Frank Slijper, autor principal del informe publicado esta semana.
Microsoft, que se encuentra entre las compañías tecnológicas de mayor riesgo en la lista de PAX, advirtió a los inversores en febrero que sus ofertas de inteligencia artificial podrían dañar la reputación de la compañía.
En un informe trimestral, Microsoft escribió:
“Algunos escenarios de IA presentan problemas éticos. Si habilitamos u ofrecemos soluciones de IA que son controvertidas debido a su impacto en los derechos humanos, la privacidad, el empleo u otros problemas sociales, podemos experimentar daños a la marca o a la reputación ".
Algunas de las incursiones de Microsoft en la tecnología ya han resultado problemáticas, como el chatbot ‘Tay’, que se convirtió en un personaje racista, sexista y generalmente desagradable después de que los usuarios de Internet aprovecharan sus capacidades de aprendizaje automático.
Microsoft y Amazon están actualmente haciendo una oferta por un contrato del Pentágono de $ 10 mil millones para proporcionar infraestructura en la nube para el ejército de los EE. UU.
"Las empresas tecnológicas deben ser conscientes de que, a menos que tomen medidas, su tecnología podría contribuir al desarrollo de armas autónomas letales", comenta Daan Kayser, líder del proyecto PAX en armas autónomas. "Establecer políticas claras y disponibles al público es una estrategia esencial para evitar que esto suceda".
Puede encontrar la evaluación completa de riesgos de las compañías por parte de PAX aquí (PDF)
¿Interesado en escuchar a líderes de la industria discutir temas como este? Asista a la 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo y Cyber Security & Cloud Expo World Series con eventos próximos en Silicon Valley, Londres y Amsterdam.