Zoom ha causado revuelo tras los informes de que está desarrollando un sistema de IA para detectar emociones.
El sistema, informado por primera vez por Protocol, pretende escanear las caras de los usuarios y su habla para determinar sus emociones.
Zoom detalló más el sistema en una publicación de blog el mes pasado. La compañía dice que ‘Zoom IQ’ será particularmente útil para ayudar a los vendedores a mejorar sus lanzamientos en función de las emociones de los participantes de la llamada.
Naturalmente, el sistema se considera bastante distópico y ha recibido una buena cantidad de críticas.
El miércoles, más de 25 grupos de derechos humanos enviaron una carta conjunta al CEO de Zoom, Eric Yuan. La carta insta a Zoom a detener la investigación sobre la IA basada en las emociones.
Los firmantes de la carta incluyen la Unión Americana de Libertades Civiles (ACLU), la Liga de la Justicia Musulmana y Access Now.
Una de las preocupaciones clave es que la IA de detección de emociones podría usarse para cosas como contratación o decisiones financieras; como si otorgar préstamos. Eso tiene la posibilidad de aumentar las desigualdades existentes.
“Los resultados no están destinados a ser utilizados para decisiones de empleo u otras decisiones comparables. Todos los rangos recomendados para las métricas se basan en investigaciones disponibles públicamente”, explicó Zoom.
Zoom IQ rastrea métricas que incluyen:
- relación hablar-escuchar
- Velocidad de conversación
- Palabras de relleno
- La perorata más larga (monólogo)
- Paciencia
- Preguntas interesantes
- Próximos pasos configurados
- Análisis de sentimiento/compromiso
Esha Bhandari, subdirectora del Proyecto de Tecnología, Privacidad y Discurso de la ACLU, calificó a la IA de detección de emociones como “espeluznante” y “una ciencia basura”.
(Foto de iyus sugiharto en Unsplash)
¿Quiere aprender más sobre IA y big data de los líderes de la industria? Eche un vistazo a AI & Big Data Expo que tendrá lugar en Ámsterdam, California y Londres.
Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados por TechForge aquí.
La publicación Zoom recibe una reacción violenta por la IA que detecta emociones apareció primero en AI News.
