Twitter se está apoyando demasiado en la moderación de contenido basada en máquinas. He aquí por qué esto es problemático

Twitter ha adoptado un nuevo enfoque para la moderación de contenido, que podría no ser tan fructífero. Si bien la plataforma se ha ocupado de la pornografía infantil y la pedofilia en la plataforma de manera adecuada, la forma en que lo está haciendo puede ser una solución a corto plazo en el mejor de los casos.
Twitter depende en gran medida de la moderación de contenido basada en máquinas y de los usuarios “confiables” para su moderación de contenido. Elon Musk debe darse cuenta de que la moderación de contenido en cualquier plataforma de redes sociales necesita humanos para funcionar correctamente. Crédito de la imagen: AFP La nueva vicepresidenta de Confianza y Seguridad de Twitter, Ella Irwin, reveló recientemente que el Twitter de Elon Musk se está apoyando en gran medida en la automatización para moderar el contenido, eliminando ciertas revisiones manuales y favoreciendo las restricciones en la distribución en lugar de eliminar ciertos discursos por completo. Si bien esto está en línea con lo que Musk dijo sobre la libertad de expresión cuando asumió el cargo, la forma en que la plataforma de redes sociales está moderando su contenido es, en el mejor de los casos, una solución provisional. Twitter también está restringiendo de manera más agresiva los hashtags propensos al abuso y los resultados de búsqueda en áreas que incluyen la explotación infantil, independientemente de los impactos potenciales en los “usos benignos” de esos términos, dijo Irwin. La compañía ha enfrentado duras preguntas sobre su capacidad y disposición para moderar contenido dañino y odioso desde que Musk recortó a la mitad del personal de Twitter y emitió un ultimátum para trabajar muchas horas que resultó en la pérdida de cientos de empleados más. Las cosas para la moderación de contenido empeoraron aún más cuando el equipo de Musk rescindió a más de 4000 moderadores de contenido contractual y varios otros equipos de moderación de contenido en la nómina de Twitter. Dos fuentes familiarizadas con los recortes dijeron que se despidió a más del 50% de la unidad de ingeniería de Salud. Ingeniería de la salud es el término que se utiliza para el equipo de moderación de contenido de Twitter. El viernes, Musk prometió “un refuerzo significativo de la moderación del contenido y la protección de la libertad de expresión” en una reunión con el presidente Emmanuel Macron. Un enfoque, capturado en el mantra de la industria “libertad de expresión, no libertad de alcance”, implica dejar ciertos tweets que violan las políticas de la empresa pero prohibir que aparezcan en lugares como la cronología de inicio y la búsqueda. Twitter ha implementado durante mucho tiempo tales herramientas de “filtro de visibilidad” en torno a la información errónea y ya las había incorporado en su política oficial de conducta odiosa antes de la adquisición de Musk. El enfoque permite un discurso más libre al tiempo que reduce los daños potenciales asociados con el contenido abusivo viral. Los tuits que contenían palabras despectivas para los afroamericanos, asiáticos y judíos triplicaron el número visto en el mes anterior a que Musk asumiera el cargo, mientras que los tuits que contenían un insulto para los homosexuales aumentaron un 31 por ciento. En general, el uso de insultos raciales subió un 500 por ciento el día que Elon Musk se hizo cargo irwin dice Musk se centró en usar más la automatización, argumentando que la empresa se había equivocado en el pasado al usar tiempo y mano de obra intensiva en revisiones humanas de contenido dañino. En cuanto a la seguridad de los niños, por ejemplo, Irwin dijo que Twitter se había desplazado hacia la eliminación automática de tuits informados por figuras confiables con un historial de marcar con precisión publicaciones dañinas. Twitter también está restringiendo los hashtags y los resultados de búsqueda frecuentemente asociados con el abuso, como aquellos destinados a buscar pornografía “adolescente”. Las preocupaciones anteriores sobre el impacto de tales restricciones en los usos permitidos de los términos desaparecieron, dijo. El problema de este modelo es que subcontrata la moderación del contenido a los usuarios, que pueden no estar siempre disponibles para señalar el contenido problemático. Esto también abre una caja de pandora completamente diferente sobre quién se considera una “figura de confianza”. En el caso de la pornografía infantil y la pedofilia, esto fue bastante fácil de determinar, pero las cosas se vuelven mucho más turbias cuando consideras las narrativas que están teñidas de ideología política. Otra razón por la que esto es problemático es que los trolls en Twitter se adaptan, y quizás más rápido de lo que los desarrolladores de Twitter pueden detectar. Si Twitter comienza a usar un sistema que detecta automáticamente ciertos hashtags o palabras clave que utilizan los depredadores y trolls para bloquear sus tweets o contenido de la distribución masiva, estos actores solo necesitarán encontrar un conjunto de caracteres diferentes que se parezcan a esas palabras. Elon Musk tiene que darse cuenta de que a pesar de que pueden ser defectuosos y no tener un éxito completo el 100 por ciento del tiempo, la moderación de contenido en las redes sociales requiere seres humanos.
Via: FirstPost