La Policía de Orlando ha decidido abandonar el controvertido sistema de reconocimiento facial de Amazon debido a problemas técnicos.
La Asociación Americana de Libertades Civiles (ACLU, por sus siglas en inglés) denunció a Rekognition por etiquetar erróneamente a aquellos con tonos de piel más oscuros como criminales con más frecuencia en una prueba que utiliza una base de datos de fotografías policiales.
Jacob Snow, abogado de tecnología y libertades civiles de la Fundación ACLU del norte de California, dijo:
“La vigilancia facial se utilizará para impulsar la vigilancia discriminatoria y la vigilancia policial que se dirige a las comunidades de color, los inmigrantes y los activistas. Una vez desatado, ese daño no se puede deshacer ".
Amazon cuestionó la metodología utilizada por la ACLU alegando que la configuración de "confianza" predeterminada del 80 por ciento se dejó activada cuando sugiere al menos el 95 por ciento para fines de aplicación de la ley.
La policía de Orlando estaba usando Rekognition para detectar automáticamente a los presuntos delincuentes en imágenes en vivo tomadas por cámaras de vigilancia. A pesar de la ayuda de Amazon, la policía pasó 15 meses sin lograr que funcionara correctamente.
"Ni siquiera hemos establecido un flujo hoy", dijo la directora de información de la ciudad, Rosa Akhtarkhavari, al Orlando Weekly. "Estamos hablando de más de un año después. Hoy no hemos establecido un flujo confiable ".
Los empleados de Amazon recientemente escribieron una carta al CEO Jeff Bezos expresando su preocupación por la venta de software de reconocimiento facial y otros servicios a organismos del gobierno de EE. UU., Como ICE (Inmigración y Control de Aduanas).
En su carta, los amazónicos escribieron:
“Nos negamos a construir la plataforma que impulsa a ICE, y nos negamos a contribuir con herramientas que violan los derechos humanos. "Como personas éticas amazónicas, exigimos una elección en lo que construimos y una opinión sobre cómo se utiliza".
La policía de Orlando ha cancelado su contrato con Amazon. Las noticias serán de algún alivio para aquellos preocupados por las implicaciones de privacidad de tales sistemas similares a los de grandes hermanos.
¿Interesado en escuchar a los líderes de la industria discutir temas como este y sus casos de uso? Asista a los eventos coubicados de AI y Big Data Expo con los próximos espectáculos en Silicon Valley, Londres y Amsterdam para obtener más información. Co-localizado con la IoT Tech Expo, Blockchain Expo, y Cyber Security & Cloud Expo.