El CEO de Amazon, Jeff Bezos, espera que el Congreso permita a su compañía redactar leyes sobre tecnología de reconocimiento facial.

Bezos dijo a los periodistas después del evento de hardware de Amazon esta semana que la compañía ya tiene un equipo de políticas públicas "trabajando en regulaciones de reconocimiento facial".

La noticia será alarmante para muchos activistas de derechos humanos que han expresado serias preocupaciones sobre la tecnología de reconocimiento facial de Amazon en particular.

Una prueba del sistema de reconocimiento facial de Amazon Rekognition de la American Civil Liberties Union (ACLU) comparó fotos de todos los miembros de la Cámara y el Senado con 25,000 fotos de arresto. Los partidos falsos afectaron de manera desproporcionada a los miembros del Caucus Negro del Congreso, lo que aumenta el temor a la creación de perfiles raciales automatizados.

"Nuestra prueba refuerza que la vigilancia en la cara no es segura para el uso del gobierno", dijo Jacob Snow, Abogado de Tecnología y Libertades Civiles de la Fundación ACLU del Norte de California. "La vigilancia facial se utilizará para potenciar la vigilancia y la vigilancia discriminatorias que se dirigen a comunidades de color, inmigrantes y activistas".

El sistema de reconocimiento facial de Amazon se vendió a las fuerzas policiales y se lanzó a agencias estadounidenses con prácticas controvertidas como el Servicio de Inmigración y Control de Aduanas (ICE).

Tras los titulares del año pasado sobre el enjaulamiento de ICE y la separación de los niños de sus familias en los centros de detención, los empleados de Amazon escribieron una carta a Bezos:

“Nos negamos a construir la plataforma que impulsa a ICE, y nos negamos a contribuir a herramientas que violen los derechos humanos.

Como amazónicos éticamente preocupados, exigimos una elección en lo que construimos y una opinión sobre cómo se usa ”.

Amazon ha defendido su tecnología de reconocimiento facial. Al responder a los hallazgos de la ACLU, el Dr. Matt Wood, gerente general de IA de Amazon Web Services, dijo que el sindicato dejó la configuración de confianza predeterminada de Rekognition del 80 por ciento cuando sugiere un 95 por ciento o más para la aplicación de la ley.

Wood continuó diciendo que la situación era evidencia de la necesidad de normas que garanticen que los sistemas de reconocimiento facial se usen correctamente y pidió que "el gobierno evalúe y especifique qué temperatura (o niveles de confianza) quiere que cumplan las agencias policiales para ayudar en su trabajo de seguridad pública ".

En sus comentarios a los periodistas esta semana, Bezos dijo que el equipo de políticas de Amazon está trabajando en las regulaciones de reconocimiento facial. La idea es que redactará sus propios reglamentos con la esperanza de que los legisladores adopten la mayor cantidad posible.

"Es un ejemplo perfecto de algo que tiene usos realmente positivos, por lo que no desea frenarlo", explicó Bezos. "Pero, al mismo tiempo, también existe la posibilidad de abusos de ese tipo de tecnología; entonces sí quieres regulaciones ".

En el Reino Unido, la comisionada de información Elizabeth Denham anunció que su oficina identificó la tecnología de reconocimiento facial como una prioridad para establecer qué protecciones son necesarias para el público. Un estudio, comisionado por el organismo asesor del gobierno, el Centro de Ética e Innovación de Datos, advirtió que la policía sintió que la IA puede "amplificar" los prejuicios.

Joy Buolamwini, fundadora de Algorithmic Justice League, hizo una presentación fantástica durante el Foro Económico Mundial en enero sobre la necesidad de luchar contra los prejuicios de IA en las tecnologías de todos los proveedores.

¿Interesado en escuchar a líderes de la industria discutir temas como este? Asista a la 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo y Cyber ​​Security & Cloud Expo World Series con eventos próximos en Silicon Valley, Londres y Amsterdam.