El primer ministro británico, Boris Johnson, utilizó su discurso inaugural en la ONU para advertir sobre los peligros de la IA e invitar a los líderes mundiales a una cumbre del Reino Unido.
Johnson abrió su discurso al repasar algunas de las cosas habituales que, según él, se esperaría de un primer ministro británico: promover valores democráticos, reglas de un mundo pacífico, proteger la libertad de navegación en el mar y encontrar una solución "biestatal" al conflicto en Oriente Medio.
"Por supuesto, estoy orgulloso de hacer todas estas cosas", dice Johnson. “Pero nadie puede ignorar una fuerza de reunión que está remodelando el futuro de cada miembro de esta asamblea. No ha habido nada igual.
Se dan ejemplos de logros tecnológicos pasados como la máquina de vapor, la aviación y la energía nuclear. Finalmente, todas estas tecnologías fueron controladas por humanos, para bien o para mal.
La automatización, por su propia naturaleza, está eliminando cada vez más el control humano. Justo a principios de esta semana, AI News informó sobre los comentarios del jefe de Microsoft, Brad Smith, quien advirtió que los robots asesinos son "imparables" y que se necesita una nueva Convención digital de Ginebra.
Antes de compartir sus preocupaciones personales sobre tecnologías emergentes como la IA y el IoT, Johnson reconoce sus enormes beneficios potenciales.
"Las ciudades inteligentes funcionarán con sensores, todos unidos por Internet de las cosas", dice Johnson. "De modo que ningún contenedor queda vacío, ninguna calle sin barrer, y el entorno urbano es tan antiséptico como una farmacia de Zurich".
“La conectividad conectada por voz estará en cada habitación y en casi todos los objetos. Su colchón controlará sus pesadillas, su refrigerador emitirá un pitido para obtener más queso, su puerta principal se abrirá de par en par en el momento en que se acerque como un mayordomo silencioso, su medidor inteligente se activará por sí solo para obtener la electricidad más barata ".
Por supuesto, Johnson no está aquí para anunciar los beneficios de las tecnologías emergentes sino para advertir sobre los desafíos que presentarán a las naciones de todo el mundo.
"También podrían usarse para mantener a todos los ciudadanos bajo vigilancia las 24 horas", explica Johnson. "Cada uno de ellos transcribirá minuciosamente cada hábito en una pequeña taquigrafía electrónica, almacenada no en sus chips donde pueda encontrarla, sino en una gran nube de datos que se cierne cada vez más opresivamente sobre la raza humana".
Johnson expresa la preocupación de que, con cada clic o toque, nos estamos convirtiendo en un recurso.
Indiscutiblemente, cada vez más datos sobre personas se vuelven cada vez más valiosos. Esto podría ser para fines tales como apuntar e influir en la opinión pública, como vimos con el escándalo de Cambridge Analytica, o para cosas como la capacitación de modelos de IA.
"Los datos son el petróleo crudo de la economía moderna y ahora estamos en un entorno en el que no sabemos quién debería ser el propietario de estos nuevos campos petroleros, quién debería tener los derechos o el título de estos flujos de efectivo, y nosotros no" No sé quién decide cómo usar esos datos ".
Johnson presenta a la audiencia una serie de preguntas retóricas sobre el futuro de la IA y los impactos sociales que podría tener:
“¿Se puede confiar en estos algoritmos con nuestras vidas y nuestras esperanzas? ¿Deben las máquinas decidir si somos elegibles para una hipoteca o seguro? ¿Qué cirugía o medicamentos debemos recibir? ¿Estamos condenados a un futuro frío y despiadado en el que una computadora dice sí o no con la sombría finalidad de un emperador en la arena? ¿Cómo se declara con un algoritmo? ¿Cómo logras ver circunstancias atenuantes? ¿Cómo sabemos que las máquinas no han sido programadas insidiosamente para engañarnos?
Al proporcionar un ejemplo de cómo se usa la IA hoy en día con fines maliciosos, Johnson destaca que los algoritmos están permitiendo la censura en tiempo real en las plataformas de mensajería en algunos países.
“El autoritarismo digital no es, por desgracia, material de fantasía distópica, sino una realidad emergente. La razón por la que estoy pronunciando este discurso hoy con este sombrío programa es que el Reino Unido es uno de los líderes tecnológicos del mundo, y creo que los gobiernos simplemente han sido sorprendidos por las consecuencias involuntarias de Internet ".
A pesar de sus advertencias, Johnson dice que es optimista sobre la capacidad de las nuevas tecnologías para "servir como un liberador y rehacer el mundo maravillosamente".
Johnson apunta hacia avances en nanotecnología que permiten el desarrollo de robots una fracción del tamaño de los glóbulos rojos que pueden nadar a través de nuestros cuerpos liberando medicamentos y atacando células malignas. También destaca la tecnología de interfaz neuronal que permite nuevos implantes cocleares y brinda audición a quienes no la tienen; permitiéndoles escuchar a sus seres queridos y sonidos una vez más, o, tal vez, incluso por primera vez.
"Cómo diseñamos las tecnologías emergentes detrás de estos avances y qué valores informan su diseño dará forma al futuro de la humanidad", dice Johnson. “Está en juego si legamos un mundo orwelliano diseñado para la censura, la opresión y el control; o un mundo de emancipación, debate y aprendizaje. Donde la tecnología amenaza el hambre y las enfermedades, pero no nuestras libertades ".
Johnson reconoce el trabajo que se está llevando a cabo en todo el mundo para elaborar reglas sobre el desarrollo de tecnologías innovadoras como la IA, que tendrán un efecto importante en la estructura misma de nuestras sociedades:
“Mes a mes, se están tomando decisiones vitales en los comités académicos, las salas de juntas de la compañía y los grupos de estándares de la industria, están escribiendo los libros de reglas del futuro, haciendo juicios éticos, eligiendo lo que se hará posible o no. Juntos, debemos asegurarnos de que los nuevos avances reflejen nuestros valores por diseño.
Se está haciendo un excelente trabajo en la UE, la Commonwealth y, por supuesto, la ONU, que tiene un papel vital para garantizar que ningún país esté excluido de los maravillosos beneficios de esta tecnología y la revolución industrial que está provocando.
Pero debemos ser aún más ambiciosos. Necesitamos encontrar el equilibrio correcto entre libertad y control, entre innovación y regulación, entre la empresa privada y la supervisión del gobierno. Debemos insistir en que los juicios éticos inherentes al diseño de las nuevas tecnologías sean transparentes para todos y debemos hacer que nuestras voces se escuchen más fuerte en los organismos de normalización que escriben las reglas. Sobre todo, debemos acordar un conjunto común de principios globales para dar forma a las normas y estándares que guiarán el desarrollo de la tecnología emergente ".
Hay pocos lugares mejores para defender una nueva Convención digital de Ginebra, tal como la imaginó Brad Smith, que en la ONU. Johnson utilizó su discurso para abogar por una nueva declaración universal e invitó a los líderes mundiales a una cumbre en el Reino Unido:
“Hace siete décadas, esta asamblea general adoptó la Declaración Universal de los Derechos Humanos sin voces disidentes, uniendo a la humanidad por primera vez detrás de un conjunto de principios. Nuestra declaración conjunta defiende la libertad de opinión y expresión, la privacidad del hogar y la correspondencia, y el derecho a buscar e impartir información e ideas. A menos que nos aseguremos de que la nueva tecnología refleje este espíritu, me temo que la declaración no significará nada y ya no será válida. Por lo tanto, la misión del Reino Unido, y todos los que comparten nuestros valores, debe ser garantizar que las tecnologías emergentes estén diseñadas desde el principio para la libertad, la apertura y el pluralismo; con las salvaguardas adecuadas para proteger a nuestros pueblos.
Te invito el año que viene a una cumbre en Londres. Tenemos, en el Reino Unido, con mucho, el sector tecnológico más grande: fintech, biotech, edtech, medtech, nanotech, greentech, todo tipo de tecnología, en Europa.
Intentaremos reunir la coalición más amplia posible para llevar a cabo esta tarea vital, aprovechando que todo el Reino Unido contribuye a esta misión como líder mundial en tecnología ética y responsable. Si superamos este desafío, y no tengo dudas de que podemos hacerlo, no solo salvaguardaremos nuestros ideales, superaremos los límites que una vez restringieron a la humanidad y conquistaremos los peligros que una vez acabaron con tantas vidas ".
Johnson termina con una nota positiva, con un llamado a los líderes mundiales para que sea posible desbloquear los enormes beneficios de las tecnologías emergentes, mientras se minimizan sus desventajas, con un enfoque unido.
“Juntos venceremos las enfermedades mortales, eliminaremos la hambruna, protegeremos el medio ambiente y transformaremos nuestras ciudades. El éxito dependerá ahora, como siempre, de la libertad, la apertura y el pluralismo; La fórmula que no solo emancipa el espíritu humano, sino que libera el ingenio y la inventiva ilimitados de la humanidad. Y que, sobre todo, el Reino Unido se esforzará por preservar ".
¿Interesado en escuchar a líderes de la industria discutir temas como este? Asista a la 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo y Cyber Security & Cloud Expo World Series con eventos próximos en Silicon Valley, Londres y Amsterdam.