San Francisco pronto implementará AI en un intento por evitar el sesgo cuando se procesa a un posible criminal.
Incluso los prejuicios humanos subconscientes pueden afectar las decisiones de la corte. El sesgo racial en el sistema legal está particularmente bien documentado (PDF) y a menudo conduce a que las personas con piel más oscura sean procesadas más, o con sentencias más duras, que las personas con tonos de piel más claros acusados de delitos similares.
Hablando en una rueda de prensa de hoy, el fiscal de distrito de San Francisco George Gascón dijo: "Cuando vean a las personas encarceladas en este país, serán desproporcionadamente hombres y mujeres de color".
Para combatir esto, San Francisco usará una "herramienta de mitigación de sesgos" que automáticamente elimina cualquier información de un informe policial que pueda identificar la raza de un sospechoso.
La información eliminada de los informes no solo incluirá descripciones de la raza, sino también cosas como el color del cabello y los ojos. La herramienta de mitigación de sesgos incluso eliminará cosas como los vecindarios y los nombres de personas que pueden indicar el origen racial de un individuo.
La IA que reduce los prejuicios de San Francisco incluso elimina la información que identifica a los oficiales de policía específicos, como su número de placa. La eliminación de estos datos ayuda a garantizar que el fiscal no esté sesgado a través de conocer a un oficial.
La herramienta de inteligencia artificial está siendo desarrollada por Alex Chohlas-Wood del Laboratorio de Políticas Computacionales de Stanford. Se usan varios algoritmos de visión artificial para reconocer palabras y reemplazarlos con equivalentes más genéricos como el Oficial # 2 o el Asociado # 1.
San Francisco espera comenzar a utilizar la herramienta de mitigación de sesgos a principios de julio. Con suerte, ayudará a abordar el problema del sesgo en el sistema legal al tiempo que reduce la percepción de que solo AI introduce parcialidad.
¿Interesado en escuchar a los líderes de la industria discutir temas como este y sus casos de uso? Asista a los eventos coubicados de AI y Big Data Expo con los próximos espectáculos en Silicon Valley, Londres y Amsterdam para obtener más información. Co-localizado con la IoT Tech Expo, Blockchain Expo, y Cyber Security & Cloud Expo.