La plataforma para compartir medios Instagram está lanzando un sistema de "intervención de AI" diseñado para ayudar a contrarrestar el flagelo del acoso cibernético.
Con 95 millones de fotos y videos subidos a Instagram todos los días, la moderación manual del contenido es imposible. El contenido inapropiado debe reportarse para moderación hoy, y el daño psicológico que puede causar a los moderadores humanos está bien documentado.
La IA ha sido anunciada durante mucho tiempo como un medio para automatizar el proceso de moderación, pero hoy en día todavía se necesita un ser humano para tomar una decisión final. Instagram ha decidido seguir el viejo adagio de "la prevención es mejor que una cura" con su nuevo sistema de inteligencia artificial.
Instagram ya utiliza un sistema de este tipo para comentarios negativos, brindando a los usuarios la oportunidad de deshacer el mensaje. Las afirmaciones de Instagram en pruebas anteriores que encontraron "alienta a algunas personas a deshacer su comentario y compartir algo menos perjudicial una vez que hayan tenido la oportunidad de reflexionar".
Ahora, antes de alguna Si se comparte contenido potencialmente dañino, la plataforma intervendrá para preguntar "¿estás seguro de que quieres publicar esto?" para que el usuario realmente piense qué está haciendo.
Instagram también está ayudando a evitar que los agresores reciban la atención que buscan de sus víctimas.
"Hemos escuchado de los jóvenes de nuestra comunidad que se muestran reacios a bloquear, dejar de seguir o denunciar a su agresor porque podría agravar la situación, especialmente si interactúan con su agresor en la vida real", dice el jefe de Instagram, Adam Mosseri.
Los usuarios marcados como acosadores serán invisibles para la víctima. Además, el estado actual en línea de la víctima será desconocido para el acosador.
"Las personas restringidas no podrán ver cuándo estás activo en Instagram o cuando has leído sus mensajes directos", agrega Mosseri.
Un estudio realizado el año pasado encontró que alrededor del 59 por ciento de los adolescentes estadounidenses han sufrido acoso y hostigamiento en línea. Más de la mitad de los encuestados dijeron que los sitios de medios sociales, la policía, los maestros y otros no están haciendo lo suficiente para contrarrestar el problema.
El nuevo sistema de intervención de la IA de Instagram comenzará a implementarse en inglés antes de que esté disponible en todo el mundo.
¿Interesado en escuchar a los líderes de la industria discutir temas como este y sus casos de uso? Asista a los eventos coubicados de AI y Big Data Expo con los próximos espectáculos en Silicon Valley, Londres y Amsterdam para obtener más información. Co-localizado con la IoT Tech Expo, Blockchain Expo, y Cyber Security & Cloud Expo.