A pesar de las protestas y las reclamaciones de que tiene problemas de sesgo, el CEO de AWS informó a los empleados que continuará vendiendo reconocimiento facial a las autoridades.

Según una fuente de Verge, el CEO de AWS, Andrew Jassy, ​​dijo a los empleados en una reunión:

"Nos sentimos muy bien y muy convencidos del valor que Amazon Rekognition está brindando a nuestros clientes de todos los tamaños y tipos de industrias en la aplicación de la ley y fuera de la ley".

Los empleados de los gigantes de Silicon Valley, incluidos Amazon, Microsoft y Google, han estado presionando a sus líderes para que no firmen contratos en los que la tecnología que construyen pueda ser objeto de abuso, ya sea para ser opresivos para la sociedad o para uso militar.

En julio, nuestra publicación hermana AI News informó sobre los hallazgos de la ACLU (American Civil Liberties Union) que descubrieron que el software de reconocimiento facial de Amazon marcaba de manera desproporcionada a los miembros del Caucus Negro del Congreso como criminales en una prueba con miembros del Congreso para ver si coinciden con Una base de datos de mugshots.

Jacob Snow, abogado de tecnología y libertades civiles de la Fundación ACLU del norte de California, dijo:

“Nuestra prueba refuerza que la vigilancia de la cara no es segura para el uso del gobierno.

La vigilancia facial se utilizará para impulsar la vigilancia discriminatoria y la vigilancia policial que se dirige a comunidades de color, inmigrantes y activistas.

Una vez desatado, ese daño no se puede deshacer ".

Sin embargo, Amazon argumentó que ACLU dejó la configuración de confianza predeterminada de Rekognition del 80 por ciento cuando la compañía sugiere un 95 por ciento o más para la aplicación de la ley.

Al comentar sobre los hallazgos de la ACLU, el Dr. Matt Wood, gerente general de Deep Learning e AI en AWS, escribió en una entrada de blog:

“El umbral de confianza predeterminado para las API de reconocimiento facial en Reconocimiento es del 80%, lo que es bueno para un amplio conjunto de casos de uso general (como la identificación de celebridades en redes sociales o miembros de la familia que se parecen en las aplicaciones de fotos), pero no es el escenario adecuado para los casos de uso de seguridad pública.

El umbral de confianza del 80% utilizado por la ACLU es demasiado bajo para garantizar la identificación precisa de las personas; esperaríamos ver falsos positivos en este nivel de confianza ".

Wood proporcionó un ejemplo de caso de su propia prueba en la que, utilizando un conjunto de datos de más de 850,000 rostros comúnmente utilizados en el mundo académico, la compañía realizó búsquedas en las fotos públicas de todos los miembros del Congreso de EE. UU. "De manera similar" a la ACLU.

Usando el umbral de confianza del 99 por ciento, la tasa de identificación errónea se redujo a cero a pesar de compararse con un número mayor de caras.

Un mes antes, los empleados de Amazon escribieron una carta al CEO Jeff Bezos. Un extracto leído:

“Nos negamos a construir la plataforma que alimenta a ICE. [Immigration and Customs Enforcement] y nos negamos a contribuir con herramientas que violan los derechos humanos.

"Como personas éticas amazónicas, exigimos una elección en lo que construimos y una opinión sobre cómo se utiliza".

A principios de este año, algunos empleados de Google renunciaron en protesta por el contrato de defensa de Project Maven de la compañía con el Pentágono. Google ha anunciado desde entonces que no renovará el contrato y no realizará este tipo de trabajo en el futuro.

Queda por verse si algunos amazónicos decidirán renunciar en protesta. Hay un argumento para hacer que esta tecnología se desarrolle de una manera u otra, y que la mayoría de los desarrollos tecnológicos podría ser utilizado para el daño.

Al menos aquellos con principios morales que permanecen en Amazon significa que pueden ayudar a guiar el proyecto, impulsar la transparencia y garantizar que se utilice de manera ética. Quizás sea lo mejor que podemos esperar para evitar que el futuro se convierta en un completo horror distópico.

¿Interesado en escuchar a los líderes de la industria discutir temas como este? Asista a la IoT Tech Expo, Blockchain Expo, AI y Big Data Expo y Cyber ​​Security & Cloud Expo World Series con los próximos eventos en Silicon Valley, Londres y Amsterdam.