La policía británica ha expresado su preocupación de que el uso de IA en sus operaciones puede conducir a un mayor sesgo y una dependencia excesiva de la automatización.
Un estudio encargado por el organismo consultivo del gobierno del Reino Unido, el Centro para la Ética e Innovación de los Datos, advirtió que la policía sintió que la IA puede "amplificar" los prejuicios.
El Royal United Services Institute (RUSI) entrevistó a 50 expertos para la investigación, incluidos los altos oficiales de policía.
La elaboración de perfiles raciales sigue siendo un gran problema. Se detienen más jóvenes negros que jóvenes blancos. Los expertos entrevistados por el RUSI están preocupados de que estos prejuicios humanos puedan llegar a los algoritmos si reciben capacitación sobre los datos policiales existentes.
También se observa cómo las personas de entornos desfavorecidos tienden a usar más transporte público. Dado que es probable que se recopilen datos del uso del transporte público, esto aumenta la probabilidad de que esas personas sean marcadas.
La precisión de los algoritmos de reconocimiento facial a menudo ha sido cuestionada. A principios de este año, la Liga de Justicia Algorítmica probó todas las tecnologías principales y descubrió que los algoritmos luchaban particularmente con las mujeres de piel más oscura.
Un informe similar publicado por la American Civil Liberties Union se centró en el llamado sistema de reconocimiento facial Rekognition de Amazon. Cuando se probó contra miembros del congreso, marcó incorrectamente a aquellos con piel más oscura con más frecuencia.
Ambos hallazgos muestran el impacto social potencialmente devastador si dicha tecnología se implementara públicamente hoy. Es bueno escuchar que las autoridades británicas son al menos conscientes de las posibles complicaciones.
El RUSI informa que los expertos en el estudio quieren ver pautas más claras establecidas para el uso aceptable de la tecnología. Esperan que esto brinde confianza a las fuerzas policiales para adoptar nuevas tecnologías potencialmente beneficiosas, pero de manera segura y responsable.
"Durante muchos años, las fuerzas policiales han buscado ser innovadoras en el uso de la tecnología para proteger al público y evitar daños, y continuamos explorando nuevos enfoques para lograr estos objetivos", dijo el jefe auxiliar de policía Jonathan Drake a BBC News.
"Pero nuestros valores significan que vigilamos por consentimiento, por lo que cada vez que usamos nueva tecnología consultamos con las partes interesadas para garantizar que cualquier táctica nueva sea justa, ética y produzca los mejores resultados para el público".
Puede encontrar los resultados completos del estudio de RUSI aquí.
¿Interesado en escuchar a líderes de la industria discutir temas como este? Asista a la 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo y Cyber Security & Cloud Expo World Series con eventos próximos en Silicon Valley, Londres y Amsterdam.