IBM ha anunciado que ya no generará reconocimiento facial en medio de una creciente preocupación por las implicaciones de la tecnología.
En una carta al Congreso, el CEO de IBM, Arvind Krishna, escribió:
"IBM se opone firmemente y no tolerará el uso de ninguna tecnología (de reconocimiento facial), incluida la tecnología de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas, o cualquier propósito que no sea coherente con nuestro valores y Principios de confianza y transparencia.
Creemos que ahora es el momento de comenzar un diálogo nacional sobre si las agencias nacionales encargadas de hacer cumplir la ley deberían emplear la tecnología de reconocimiento facial y de qué manera ”.
Se ha descubierto que las tecnologías de reconocimiento facial tienen prejuicios raciales. Un estudio realizado en 2010 por investigadores del NIST y la Universidad de Texas en Dallas descubrió que los algoritmos diseñados y probados en Asia oriental son mejores para reconocer a los asiáticos orientales, mientras que los diseñados en países occidentales son más precisos para detectar a los caucásicos.
La investigación de la American Civil Liberties Union descubrió que cuando la herramienta de reconocimiento facial de Amazon se usó para comparar imágenes de todos los miembros de la Cámara y el Senado con 25,000 fotos de arresto, las coincidencias falsas afectaron desproporcionadamente a miembros del Caucus Negro del Congreso.
El mes pasado, la ACLU presentó una demanda contra la controvertida firma de reconocimiento facial Clearview AI, calificándola de "escenario de pesadilla" por la privacidad. La compañía, que ha tenido amplios vínculos con la extrema derecha, ha sido criticada en repetidas ocasiones debido a su práctica de extraer miles de millones de fotos de Internet.
En el Reino Unido, la Comisión de Igualdad y Derechos Humanos (EHRC) pidió que se detuviera el uso público del reconocimiento facial después de que los juicios hayan sido un completo fracaso. Un juicio inicial realizado por la Policía Meteorológica en el Carnaval de Notting Hill 2016, no permitió identificar a una sola persona. Un ensayo de seguimiento al año siguiente no dio lugar a coincidencias legítimas, sino a 35 falsos positivos.
Un informe independiente sobre los ensayos de reconocimiento facial de la Policía Met, realizado por el profesor Peter Fussey y el Dr. Daragh Murray el año pasado, concluyó que solo era verificablemente preciso en solo el 19 por ciento de los casos.
IBM ha dejado en claro que no quiere tener nada que ver con el desarrollo de ninguna tecnología que pueda utilizarse para la vigilancia masiva, especialmente cuando sigue teniendo serios problemas de precisión que pueden conducir a la creación de perfiles raciales automatizados. Krishna ha pedido reformas políticas más amplias que incluyan la vigilancia, el uso responsable de la tecnología y la ampliación de habilidades y oportunidades educativas.
(Foto de Carson Masterson en Unsplash)
¿Interesado en escuchar a líderes de la industria discutir temas como este? Asista a la 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo y Cyber Security & Cloud Expo World Series con eventos próximos en Silicon Valley, Londres y Amsterdam.
