El jefe de Microsoft, Brad Smith, emitió una advertencia durante el fin de semana de que los robots asesinos son "imparables" y que se requiere una nueva Convención digital de Ginebra.
La mayoría de los fanáticos de la ciencia ficción pensarán en Terminator cuando escuchen de los robots asesinos. En la serie de películas clásicas, una IA militar deshonesta llamada Skynet adquirió autoconciencia después de extenderse a millones de servidores en todo el mundo. Al concluir que los humanos intentarían apagarlo, Skynet buscó exterminar a toda la humanidad en aras de la autoconservación.
Si bien alguna vez fue solo una película de palomitas de maíz, Terminator ahora ofrece una advertencia grave de lo que podría ser si no se toman precauciones.
Como con la mayoría de las tecnologías, la IA se usará cada vez más para aplicaciones militares. El objetivo final de la inteligencia artificial general es el autoaprendizaje. Combine ambos, y Skynet ya no parece la dramatización salvaje que alguna vez lo hizo.
Hablando con The Telegraph, Smith parece estar de acuerdo. Smith apunta hacia desarrollos en los EE. UU., China, Reino Unido, Rusia, Isreal, Corea del Sur y otros, que están desarrollando sistemas de armas autónomos.
Un día, las guerras podrían librarse en los campos de batalla con robots, un escenario que tiene muchas ventajas y desventajas. Por un lado, reduce el riesgo para las tropas humanas. Por otro lado, hace que declarar la guerra sea más fácil y corre el riesgo de que las máquinas funcionen mal.
Muchos tecnólogos han comparado la carrera por militarizar la IA con la carrera de armamentos nucleares. En una búsqueda por ser el primero y el mejor, se pueden tomar riesgos peligrosos.
Todavía no existe una entidad responsable clara por muerte o lesiones causadas por una máquina autónoma: el fabricante, el desarrollador o un supervisor. Esto también ha sido un tema de mucho debate con respecto a cómo funcionará el seguro con los automóviles sin conductor.
Con las aplicaciones militares, muchos tecnólogos han pedido a la IA que nunca tome una decisión de combate, especialmente una que resulte en muertes, por sí sola. Si bien la IA puede hacer recomendaciones, un humano debe tomar una decisión final.
Prevenir la devastación inimaginable
La historia del teniente coronel ruso Stanislav Petrov en 1983 ofrece una advertencia de cómo una máquina sin supervisión humana puede causar una devastación inimaginable.
Las computadoras de Petrov informaron que Estados Unidos había lanzado un misil intercontinental hacia la Unión Soviética. La estrategia de la Unión Soviética fue un contraataque nuclear inmediato y obligatorio contra los Estados Unidos en tal escenario. Petrov utilizó su instinto de que la computadora era incorrecta y decidió no lanzar un misil nuclear, y tenía razón.
Si en 1983 se hubiera tomado la decisión de desplegar un misil nuclear únicamente en la computadora, se habría lanzado uno y se habrían recibido represalias de los EE. UU. Y sus aliados.
Smith quiere ver una nueva Convención digital de Ginebra para unir a las potencias mundiales de acuerdo sobre normas aceptables en lo que respecta a la IA. “La seguridad de los civiles está en riesgo hoy. Necesitamos una acción más urgente, y la necesitamos en forma de una Convención digital de Ginebra, normas que protegerán a los civiles y soldados ".
Muchas compañías, incluidos miles de empleados de Google, luego de una reacción violenta por un contrato del Pentágono para desarrollar tecnología de inteligencia artificial para drones, se han comprometido a no desarrollar tecnologías de inteligencia artificial para uso dañino.
Smith ha lanzado un nuevo libro llamado Herramientas y armas. En el lanzamiento, Smith también pidió reglas más estrictas sobre el uso de la tecnología de reconocimiento facial. "Es necesario que haya una nueva ley en este espacio, necesitamos una regulación en el mundo del reconocimiento facial para protegernos contra posibles abusos".
El mes pasado, un informe de la ONG holandesa PAX dijo que las principales firmas tecnológicas están poniendo al mundo "en riesgo" de una IA asesina. Microsoft, junto con Amazon, se clasificó entre los de mayor riesgo. Microsoft advirtió a los inversores en febrero que sus ofertas de inteligencia artificial podrían dañar la reputación de la compañía.
"¿Por qué las compañías como Microsoft y Amazon no niegan que actualmente están desarrollando estas armas altamente controvertidas, que podrían decidir matar a personas sin participación humana directa?", Dijo Frank Slijper, autor principal del informe de PAX.
Una campaña global titulada simplemente Campaign To Stop Killer Robots ahora incluye 113 ONG en 57 países y se ha duplicado en tamaño durante el año pasado.
¿Interesado en escuchar a líderes de la industria discutir temas como este? Asista a la 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo y Cyber Security & Cloud Expo World Series con eventos próximos en Silicon Valley, Londres y Amsterdam.