La agencia de inteligencia británica GCHQ publica el informe "Ética de la IA"

El primer informe público de la agencia de inteligencia detalla cómo la IA se puede utilizar "éticamente" para las operaciones cibernéticas.

GCHQ (Sede de Comunicaciones del Gobierno) tiene la tarea de proporcionar inteligencia de señales y seguridad de la información al gobierno y las fuerzas armadas del Reino Unido y sus aliados.

Jeremy Fleming, director de GCHQ, dijo:

“Necesitamos conversaciones honestas y maduras sobre el impacto que las nuevas tecnologías podrían tener en la sociedad.

Esto debe suceder mientras se desarrollan los sistemas, no después. Y al hacerlo, debemos asegurarnos de proteger nuestro derecho (de los ciudadanos) a la privacidad y maximizar las enormes ventajas inherentes a la revolución digital ".

Si bien el potencial criminal de las tecnologías de inteligencia artificial recibe mucha cobertura, lo que aumenta los temores del público, la capacidad de usar la inteligencia artificial para abordar algunos de los problemas que han afectado a la humanidad no ha recibido tanta atención.

El artículo de GCHQ destaca cómo se puede utilizar la IA para:

• Mapeo de redes internacionales que permitan el tráfico de personas, drogas y armas;
• Verificación de hechos y detección de medios falsos para abordar la desinformación de estados extranjeros;
• Examinar las salas de chat en busca de pruebas de acicalamiento para prevenir el abuso sexual infantil;
• Analizar la actividad a escala para identificar software malicioso y proteger al Reino Unido de los ciberataques.

El documento establece cómo la inteligencia artificial puede ser una herramienta poderosa para el bien, ayudando a examinar cantidades cada vez mayores de datos, pero los analistas humanos seguirán siendo indispensables para decidir sobre qué información se debe actuar.

“La IA, como tantas tecnologías, ofrece una gran promesa para la sociedad, la prosperidad y la seguridad. Su impacto en GCHQ es igualmente profundo. La IA ya es invaluable en muchas de nuestras misiones, ya que protegemos el país, su gente y su forma de vida.

Permite a nuestros brillantes analistas gestionar grandes volúmenes de datos complejos y mejora la toma de decisiones frente a amenazas cada vez más complejas, desde proteger a los niños hasta mejorar la ciberseguridad ".

GCHQ cree que todavía no es posible utilizar la inteligencia artificial para predecir cuándo alguien ha llegado a un punto de radicalización en el que podría cometer un delito terrorista, que muchos han expresado su preocupación por arrestos "previos al delito" similares a los que se muestran en la película Minority Report.

La IA tendrá un gran impacto en casi todas las áreas de la vida en los próximos años, para bien o para mal, y las reglas aún no se han escrito.

Ken Miller, CTO de Panintelligence, comentó:

“GCHQ detallar cómo usará la IA de manera justa y transparente es un paso crucial en el desarrollo de la tecnología y uno que las empresas deben seguir, no solo cuando se trata de abordar el crimen, sino para todos los usos de la IA que afectan nuestras vidas. Como sociedad, todavía estamos algo indecisos sobre si la IA es un amigo o un enemigo, pero en última instancia es solo una herramienta que se puede implementar como queramos.

No se equivoquen, la IA está aquí y ya toca muchos aspectos de su vida, y lo más probable es que haya tomado decisiones sobre usted hoy. Es fundamental generar confianza en la tecnología, y su implementación debe ser transparente para que todos comprendan cómo funciona, cuándo se usa y cómo toma decisiones. Esto permitirá a las personas desafiar las decisiones de la IA si lo consideran necesario y, de alguna manera, desmitificará cualquier estigma.

Pasará algún tiempo antes de que el público se sienta completamente cómodo con la toma de decisiones de la IA, pero la responsabilidad y una regulación más estricta sobre cómo se implementará la tecnología para el bien público ayudarán absolutamente en ese proceso.

Vivimos en un mundo que lamentablemente está lleno de prejuicios humanos, pero existe una oportunidad real de eliminar estos prejuicios ahora. Sin embargo, esto solo es posible si entrenamos los modelos de manera efectiva, esforzándonos por usar los datos sin limitaciones.

Debemos arrojar luz sobre el comportamiento humano cuando muestra prejuicios y buscar cambiar de opinión a través del debate y la educación; debemos hacer lo mismo que enseñamos a las máquinas a 'pensar' por nosotros ".

A pesar de los abusos flagrantes en los últimos años, al igual que existe un orden internacional en torno a las reglas en la guerra, como que las armas químicas no se pueden usar y los prisioneros de guerra deben ser tratados con humanidad, muchos argumentan que es necesario que existan tales reglas que gobiernen la IA para decidir qué es una conducta aceptable. .

Con el lanzamiento de este documento, GCHQ planea comenzar a establecer cómo puede ser este marco ético. Fleming dijo:

“Si bien esta evolución tecnológica sin precedentes viene con una gran oportunidad, también plantea importantes desafíos éticos para toda la sociedad, incluido GCHQ.

Hoy establecemos nuestro plan y compromiso con el uso ético de la IA en nuestra misión. Espero que inspire más ideas en el país y en el extranjero sobre cómo podemos garantizar la equidad, la transparencia y la responsabilidad para respaldar el uso de la IA ".

GCHQ también aprovecha la oportunidad para presumir de cómo está apoyando al sector de la IA en rápido crecimiento en el Reino Unido.

Algunas de las formas en que GCHQ ha apoyado o apoyará los desarrollos de IA del Reino Unido incluyen:

• Establecer un laboratorio de inteligencia artificial orientado a la industria en su oficina de Manchester, dedicado a la creación de prototipos de proyectos que ayudan a mantener la seguridad del país;
• Asesoramiento y apoyo a empresas emergentes basadas en las oficinas de GCHQ en Londres, Cheltenham y Manchester a través de planes de aceleración;
• Apoyando la creación del Instituto Alan Turing en 2015, el instituto nacional de ciencia de datos e inteligencia artificial.

El año pasado, GCHQ encargó un documento al Royal United Services Institute, el grupo de expertos en defensa y seguridad internacional más antiguo del mundo, que concluyó que los adversarios "indudablemente buscarán usar la inteligencia artificial para atacar el Reino Unido" y el país necesitará usar la tecnología. para contrarrestar las amenazas.

Se puede encontrar el documento completo "Ética de la IA" de GCHQ aquí (PDF).

¿Está interesado en escuchar a los líderes de la industria discutir temas como este? Asista a la 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo, y Cyber ​​Security & Cloud Expo World Series, ubicadas en el mismo lugar, con los próximos eventos en Silicon Valley, Londres y Ámsterdam.

Etiquetas: ai, destacado, etica, gchq, gobierno, inteligencia, inteligencia artificial, papel, reino unido, informe, seguridad