Mozilla ha lanzado una campaña para obtener algoritmos más responsables al compartir cuentos de terror de YouTube en colaboración con las redes sociales.
Todos nos hemos rascado la cabeza con algunas recomendaciones al usar plataformas en línea. Justo ayer, la reportera de Verge, Megan Farokhmanesh, compartió cómo sus recomendaciones de Instagram han sido plagadas por algunas imágenes de dientes CGI bastante extrañas.
La cuenta de Farokhmanesh es de un algoritmo de recomendación que se vuelve deshonesto de una manera relativamente inofensiva y divertida, pero ese no es siempre el caso.
Los algoritmos deben ser imparciales. Es fácil imaginar cómo, sin el debido escrutinio, los algoritmos podrían recomendar contenido que influye en una persona para pensar o votar de cierta manera. Es posible que el sesgo ni siquiera sea intencional, pero no lo hace menos peligroso.
Los algoritmos de YouTube, en particular, han sido llamados para promover contenido horrible, incluida la pedofilia y la radicalización. Para poner realmente ese peligro en perspectiva, alrededor del 70 por ciento del tiempo de visualización de YouTube proviene de recomendaciones.
El sitio recién lanzado de Mozilla presenta 28 historias de terror causadas por los algoritmos de YouTube. El sitio se lanzó después de una campaña de medios sociales dirigida por Mozilla donde los usuarios compartieron sus historias usando el hashtag #YouTubeRegrets.
En una historia, un individuo proporcionó una cuenta de su hijo en edad preescolar que, como muchos de su edad, le gustaba ver los videos de Thomas the Tank Engine. Las recomendaciones de YouTube lo llevaron a ver compilaciones gráficas de accidentes de trenes.
En esa etapa temprana de la vida de una persona, lo que ve puede ser perjudicial para su desarrollo a largo plazo. Sin embargo, eso no significa que los adultos tampoco se vean afectados.
Otra persona dijo: “Comencé viendo un combate de boxeo, luego combates de boxeo callejero, y luego vi videos de peleas callejeras, luego accidentes y violencia urbana … Terminé con una horrible visión del mundo y sintiéndome mal, sin realmente querer a."
Otra persona dijo que a menudo miraban a una drag queen que hacía muchos videos de afirmación positiva y fomento de la confianza. Las recomendaciones de YouTube supuestamente sirvieron una tonelada de contenido anti-LGBT durante mucho tiempo, lo que podría tener un impacto devastador en las comunidades ya muy marginadas.
En septiembre, Mozilla informó a YouTube que podría mejorar su servicio, y confiar en él, dando tres pasos clave:
- Proporcione a los investigadores independientes acceso a datos significativos.
- Construir herramientas de simulación para investigadores.
- Empoderar a los investigadores al no implementar límites de velocidad API restrictivos y proporcionar acceso a un archivo histórico de videos.
Tendremos que esperar y ver si YouTube toma el consejo de Mozilla, pero esperamos que los cambios se realicen más temprano que tarde. Alrededor de 250 millones de horas de contenido de YouTube por día se ven a través de recomendaciones, y nunca podemos estar seguros de cuánto durarán esos videos en la mente de quienes los vean.
¿Interesado en escuchar a líderes de la industria discutir temas como este? Asista a la 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo y Cyber Security & Cloud Expo World Series con eventos próximos en Silicon Valley, Londres y Amsterdam.