El | Nueva Delhi |
Publicado: 21 de enero de 2020 5:21:47 pm
El debate sobre el uso de la tecnología de reconocimiento facial solo se está haciendo más grande, y aquí es donde las compañías tecnológicas se posicionan sobre el tema. (Imagen representativa a través de Getty Images)
El apoyo de Sundar Pichai a la prohibición temporal de la Unión Europea sobre el uso del reconocimiento facial ha resaltado una vez más cómo el sector tecnológico en general y los gigantes tecnológicos en particular tienen diferentes puntos de vista sobre cómo se debe utilizar esta nueva pero controvertida tecnología.
En una conferencia en Bruselas, el CEO de Alphabet habló de la posibilidad de que el reconocimiento facial pueda usarse para propósitos nefastos. "Creo que es importante que los gobiernos y las regulaciones lo aborden más temprano que tarde y den un marco para ello", dijo Pichai, quien estuvo al frente de Google hasta hace poco. "Puede ser inmediato, pero tal vez haya un período de espera antes de que realmente pensemos en cómo se está utilizando", agregó.
La declaración de Pichai se suma al creciente debate sobre el uso del reconocimiento facial, especialmente por parte de las agencias policiales de todo el mundo. Y él no es el único que exige más regulación.
¿Cuál es la aprensión en torno a la tecnología de reconocimiento facial?
Los investigadores han señalado que existen preocupaciones sobre la precisión de estos sistemas, especialmente cuando se trata de detectar diferentes géneros, personas con tonos de piel más oscuros y rasgos raciales. El reconocimiento facial se basa en la inteligencia artificial y el aprendizaje automático para que coincida con la cara de un usuario en una base de datos determinada. Pero la precisión de estos sistemas será crucial en el futuro, dado que su caso de uso estará más extendido en todo el mundo, incluida la India y países como el Reino Unido y los Estados Unidos.
También hay problemas de privacidad con respecto al uso de tales tecnologías y preocupaciones acerca de los gobiernos que usan esta tecnología para llevar a cabo una vigilancia masiva, especialmente contra grupos minoritarios. En China, por ejemplo, el New York Times informó que el gobierno estaba utilizando herramientas sofisticadas de reconocimiento facial para rastrear y llevar a cabo una vigilancia masiva de los uigures, la minoría musulmana en el país.
Tampoco se puede ignorar la cuestión de cómo se obtiene el consentimiento para tales herramientas de reconocimiento facial, especialmente cuando no hay una regulación clara en la mayoría de las partes del mundo. Cuando dicha tecnología se utiliza en el dominio público, especialmente para recopilar y construir bases de datos, las preguntas sobre cómo se obtuvo el consentimiento del usuario a menudo quedan sin respuesta.
En esta foto de archivo fechada el domingo 12 de enero de 2020, los fanáticos del fútbol se aglomeran fuera del estadio de fútbol de Cardiff City antes del partido del Campeonato Inglés contra Swansea City, en Cardiff, Gales, ya que la policía de Gales del Sur está programada para probar la tecnología de reconocimiento facial en vivo para monitorear fanáticos que llegan para el partido de fútbol. (David Davies / PA a través de AP)
Por ejemplo, en el sur de Gales, la policía del Reino Unido utilizó el reconocimiento facial para controlar a los fanáticos del fútbol que llegaban para un partido entre Cardiff v Swansea el 12 de enero de 2020, lo que causó una ira considerable ya que los fanáticos alegaron que esto era una violación de sus derechos.
En India, las protestas contra la CAA han mostrado varios casos en los que la policía graba imágenes de manifestantes en varias partes del país, lo que plantea preguntas sobre cómo se recopilan, almacenan y utilizan estos datos. Por ejemplo, en Chennai, un video se volvió viral de un policía grabando imágenes de mujeres cerca de una parada de autobús en un teléfono móvil.
El incidente aumentó los temores de que la policía estaba utilizando la aplicación Facetagr, que es un software de reconocimiento facial desarrollado por la policía de Tamil Nadu. En el video viral, se vio a un policía haciendo clic en fotografías de mujeres en una parada de autobús en el área; las mujeres ni siquiera estaban en la protesta. La policía no dio su consentimiento para registrar a estas mujeres.
Dado que las grandes compañías tecnológicas serán las impulsoras de esta tecnología, he aquí un vistazo a cuál ha sido su postura con respecto al uso de la tecnología de reconocimiento facial.
El CEO de Google, Sundar Pichai, ha estado de acuerdo con la prohibición temporal de la Unión Europea sobre el uso de la tecnología de reconocimiento facial. (Fuente de la imagen: Reuters)
Los comentarios de Pichai no son la primera vez que Google muestra un enfoque ligeramente moderado hacia el uso del reconocimiento facial. En una publicación de blog en 2018, que se centró en el uso de la inteligencia artificial para el bien, Kent Walker, vicepresidente sénior de Asuntos Globales de Google, escribió que la tecnología como el reconocimiento facial todavía necesita una cuidadosa consideración para garantizar que su uso evite el "abuso y otros resultados perjudiciales".
"Google Cloud ha optado por no ofrecer API de reconocimiento facial de propósito general antes de trabajar en cuestiones importantes de tecnología y políticas", dijo la publicación. Pero, curiosamente, Google utiliza el reconocimiento facial en productos como Google Photos, que se ofrece a todos los usuarios. Google Cloud compite con Amazon Web Services y Microsoft Azure, que ofrecen herramientas de reconocimiento facial como parte de sus servicios.
Jeff Bezos 'Amazon es uno de los nombres más importantes en el negocio de la tecnología de reconocimiento facial. (Andrew Harrer / Bloomberg)
Amazon y Rekognition
Uno de los nombres más importantes en el segmento de reconocimiento facial es Amazon, que ofrece su herramienta de "Reconocimiento" como parte de sus servicios de AWS a las agencias de aplicación de la ley, así como a clientes habituales. Ha defendido todas las críticas contra Rekognition, alegando que la tecnología tiene varios casos de buen uso, incluida la prevención del tráfico de personas y la capacidad de encontrar niños desaparecidos. El año pasado, Amazon reveló que Rekognition ahora puede detectar "miedo" y afirmó que estaba mejorando la precisión con respecto a la clasificación de género y la estimación del rango de edad.
Cualquier regulación afectaría más a Amazon. Esta es también la razón por la cual, en septiembre pasado, el CEO de Amazon, Jeff Bezos, reveló que la compañía estaba trabajando en sus propias leyes para el reconocimiento facial y su uso, que compartiría con los legisladores estadounidenses. "Tiene mucho sentido regular eso", dijo Bezos.
Amazon también publicó cinco pautas para el uso de esta tecnología, la primera de las cuales establece que las herramientas "siempre deben usarse de acuerdo con la ley, incluidas las leyes que protegen los derechos civiles", y reconoció que en algunos casos la ley "puede restringir "El uso del reconocimiento facial.
Los principios también agregan que la "revisión humana" es necesaria cuando estas herramientas se utilizan "con fines de aplicación de la ley", para garantizar que no haya violación de los derechos humanos. También recomienda un umbral de puntaje de confianza del 99% cuando se usa para la aplicación de la ley.
Además, quiere que las agencias de aplicación de la ley sean transparentes en la forma en que usan la tecnología y que debe haber un "aviso cuando la tecnología de videovigilancia y reconocimiento facial se usan juntas en entornos públicos o comerciales".
En marzo de 2019, varios investigadores escribieron una carta abierta cuestionando la precisión de estas herramientas. En la carta, los investigadores afirmaron que no había leyes para auditar el uso de esta tecnología, y que Amazon no había revelado clientes ni había revelado "tasas de error" para diferentes datos demográficos, lo que sigue siendo una preocupación.
Amazon, por su parte, no estuvo de acuerdo con investigaciones anteriores y afirmó que los investigadores utilizaron "una versión desactualizada" de su herramienta de reconocimiento facial. En 2018, la Unión Estadounidense de Libertades Civiles (ACLU) demostró que el sistema de reconocimiento facial de Amazon había igualado falsamente los rostros de 28 miembros del Congreso contra disparos policiales, lo que nuevamente planteó dudas sobre su precisión.
En la misma conferencia, Brad Smith, el Presidente y Director Jurídico de la compañía, dio el ejemplo de las ONG que utilizan el reconocimiento facial para encontrar niños desaparecidos para argumentar que la tecnología también se puede usar para bien. (Imagen de Brad Smith de un evento anterior de Microsoft. Fuente de la imagen: Reuters)
Microsoft y reconocimiento facial
Microsoft también ofrece reconocimiento facial como parte de sus servicios en la nube de Azure. En la misma conferencia, Brad Smith, el Presidente y Director Jurídico de la compañía, dio el ejemplo de las ONG que utilizan el reconocimiento facial para encontrar niños desaparecidos para argumentar que la tecnología también se puede usar para bien. "Soy muy reacio a decir que evitemos que las personas usen la tecnología de una manera que reunirá a las familias cuando pueda ayudarlas a hacerlo", dijo Smith.
"Lo segundo que diría es que no lo prohíbe si realmente cree que hay una alternativa razonable que nos permitirá, por ejemplo, abordar este problema con un bisturí en lugar de un cuchillo de carnicero".
Sin embargo, Microsoft fue criticado cuando publicó que estaba "orgulloso" de ofrecer servicios en la nube de Azure, que incluían "reconocimiento e identificación facial" al Servicio de Inmigración y Control de Aduanas (ICE) de EE. UU. Más tarde dijo que no apoyaba el uso de esta tecnología para separar a los niños de los padres.
Al igual que Amazon, Microsoft también ha tratado de esbozar algunos principios que cree deben tenerse en cuenta al usar el reconocimiento facial. En 2018, Smith había escrito una publicación de blog detallada que abordaba las preocupaciones sobre el reconocimiento facial y la necesidad de regulación.
“A menos que actuemos, corremos el riesgo de despertar dentro de cinco años para encontrar que los servicios de reconocimiento facial se han extendido de manera que exacerban los problemas sociales. Para entonces, estos desafíos serán mucho más difíciles de reprimir ”, había escrito.
El presidente de Microsoft, Brad Smith, había escrito anteriormente una publicación describiendo las pautas para el uso de la tecnología de reconocimiento facial. (Imagen de Brad Smith de un evento de Microsoft. Fuente de la imagen: Reuters)
La publicación también dijo que Microsoft y "otras compañías tecnológicas necesitan comenzar a crear salvaguardas para abordar la tecnología de reconocimiento facial", y que debe desarrollarse y usarse con cuidado, reconociendo los temores de violación de la privacidad y la vigilancia masiva por parte del gobierno.
Al igual que Amazon, Microsoft también anunció seis principios con respecto al uso del reconocimiento facial, argumentando que también era necesario abordar las preocupaciones sobre el sesgo.
Los principios son
- Trabajaremos para desarrollar y desplegar tecnología de reconocimiento facial de una manera que se esfuerce por tratar a todas las personas de manera justa.
- Transparencia. Documentaremos y comunicaremos claramente las capacidades y limitaciones de la tecnología de reconocimiento facial.
- Responsabilidad. Alentaremos y ayudaremos a nuestros clientes a implementar tecnología de reconocimiento facial de una manera que garantice un nivel adecuado de control humano para usos que puedan afectar a las personas de manera consecuente.
- No discriminación Prohibiremos en nuestros términos de servicio el uso de tecnología de reconocimiento facial para participar en la discriminación ilegal.
- Aviso y consentimiento. Alentaremos a los clientes del sector privado a notificar y garantizar el consentimiento para la implementación de la tecnología de reconocimiento facial.
- Vigilancia legal. Abogaremos por salvaguardas para las libertades democráticas de las personas en escenarios de vigilancia de la aplicación de la ley, y no implementaremos tecnología de reconocimiento facial en escenarios que creemos que pondrán en riesgo estas libertades.
Con Apple y Face ID, la clave es que los datos nunca salen del dispositivo. (Fuente de la imagen: Bloomberg)
ID de Apple y Face
Un área donde Apple usa el reconocimiento facial es con su función Face ID, que es parte de los nuevos iPhones y iPads. Face ID puede reconocer al usuario y desbloquear el teléfono o la tableta, y se basa en una serie de hardware y software complejos para garantizar una alta precisión.
Una parte crucial de Face ID de Apple es que todos los datos relacionados con esto se almacenan en el dispositivo y nunca se envían a la nube, de acuerdo con la filosofía de Apple de garantizar que la privacidad del usuario siga siendo primordial. Cuando Apple introdujo la tecnología por primera vez, surgieron preguntas sobre seguridad y privacidad, y la compañía luego publicó una página de soporte detallada explicando cómo funcionaba realmente.
A diferencia de otros fabricantes de teléfonos inteligentes, que confían en los métodos menos seguros como los modelos 2D de reconocimiento facial, Apple está utilizando modelos 3D para configurar Face ID.
La página de soporte explica que los datos de Face ID, que incluyen "representaciones matemáticas de su rostro" están "encriptados y protegidos por el Enclave seguro" del dispositivo. Los datos se actualizan con el tiempo para garantizar que Face ID pueda continuar con los cambios naturales en horas extras utilizando redes neuronales complejas.
La parte crucial es que esta identificación de rostro "datos no salen del dispositivo". El único momento en que dichos datos se envían a Apple es cuando el usuario decide hacerlo como parte de los datos de diagnóstico de Face ID a AppleCare, y eso también puede ser revisado por el usuario.
Face ID de Apple también se basa en redes neuronales complejas para reconocer los cambios en la apariencia de un usuario a fin de mantener la precisión con el tiempo. “Capacitamos a esta red con más de 2 mil millones de imágenes, incluidas imágenes infrarrojas y de profundidad recopiladas en estudios extensivos. Y, por supuesto, todo se hizo con el consentimiento informado de los usuarios ", dijo Kaiann Drance, vicepresidenta de marketing de productos de Apple, a indianexpress.com antes.
Apple había dicho que las imágenes provenían de todo el mundo para garantizar la diversidad de género, edad, etnia y otros factores para representar a una amplia gama de personas y que este era un estudio en curso. La compañía también dice que Face ID no se puede falsificar gracias a las redes neuronales, incluso con máscaras 3D o imágenes básicas del usuario, como se ha observado con el desbloqueo facial en algunos otros teléfonos.
Curiosamente, Apple se ha enfrentado a preguntas sobre el uso del reconocimiento facial en sus tiendas después de que un adolescente de Nueva York demandó a la compañía por $ 1 mil millones. Ousmane Bah afirmó que fue arrestado injustamente porque una tienda de Apple identificó su rostro en un robo que no cometió. Apple, sin embargo, negó el uso del reconocimiento facial en sus tiendas.
Facebook tiene el reconocimiento facial desactivado de forma predeterminada en la configuración, aunque la función está disponible para todos los usuarios desde 2019. (Fuente de la imagen: Bloomberg)
Facebook y reconocimiento facial
En abril de 2018, cuando el CEO de Facebook, Mark Zuckerberg, había dicho en la reunión conjunta de los comités judiciales y de comercio del Senado de EE. UU. Que las empresas deberían obtener un "consentimiento afirmativo" al usar tecnología como el reconocimiento facial. Pero el propio historial de Facebook en cuanto a la privacidad del usuario no ha inspirado mucha confianza, dados los recientes escándalos que han salido a la luz.
Facebook ha ofrecido herramientas de reconocimiento facial desde hace algún tiempo, aunque en 2019 lanzó la función para todos los usuarios. En 2017, Facebook anunció que probaría la función con fines de "seguridad de la cuenta" y verificación.
La función se utiliza para analizar fotos y videos donde Facebook cree que el usuario podría estar presente y crea un "número único" llamado plantilla. Si el reconocimiento facial como opción está activado en la configuración, esta plantilla se compara con otras fotos, videos y otros lugares donde se usa la cámara (como video en vivo) para reconocer si el usuario aparece en ese contenido.
Facebook dice que no comparte esta "plantilla" con nadie. La configuración de reconocimiento facial está desactivada de manera predeterminada, aunque puede activarla según sus preferencias. La compañía también afirma que la característica ayuda a proteger a los usuarios y a otros "suplantación de identidad y uso indebido de identidad, y mejorar la confiabilidad de la plataforma". La configuración solo se aplica a aquellos que tienen más de 18 años.
© TecNoticias
