Todo lo que necesitas saber sobre la controversia de moderación de Meta en India

Meta, la empresa matriz de Facebook e Instagram, se encuentra actualmente en el centro de la controversia en India, donde una publicación local afirma que la empresa eliminó una publicación de Instagram en nombre de un político indio. Desde entonces, Meta ha rechazado estas afirmaciones y acusa al medio de usar evidencia “fabricada”, lo que en realidad puede ser el caso según las refutaciones de Meta y los hallazgos de los usuarios en línea. Es una historia inusualmente difícil de seguir, basándose en los matices. de la política india, el análisis forense del correo electrónico y la polémica relación de Meta con la prensa. Así que hemos resumido la última semana de caos en un simple resumen de lo que sucedió y por qué es importante.

¿Que está pasando aqui?

El 6 de octubre, la publicación independiente de noticias india The Wire publicó un artículo sobre cómo Instagram eliminó incorrectamente una imagen satírica de un hombre que adoraba a Yogi Adityanath, el primer ministro de Uttar Pradesh. El propietario de la cuenta, @cringearchivist, dice que Instagram eliminó la publicación por violar sus políticas de “actividad sexual y desnudez”, a pesar de que no contenía actividad sexual ni desnudez. Muchos habían asumido que la publicación fue marcada debido a una falla en algún sistema automatizado, pero The Wire dijo que esto no era cierto. Según los informes, una fuente interna de Meta le dijo a The Wire que la compañía eliminó la publicación a pedido de Amit Malviya, el jefe del partido gobernante de India, el Partido Bharatiya Janata (o BJP), pero las lagunas en los informes de The Wire hacen que estas acusaciones sean cuestionables. negó el informe de The Wire. Acusa al medio de difundir información falsa y ha intentado desacreditar la “evidencia fabricada” proporcionada por la fuente de The Wire, afirmando que espera que The Wire “sea la víctima de este engaño, no el perpetrador”.

¿Qué dice The Wire que pasó?

Esencialmente, The Wire informó que Malviya prohibió la publicación al usar privilegios especiales otorgados a usuarios de alto perfil. Para respaldar estas afirmaciones, publicaron capturas de pantalla de la documentación que supuestamente usa Instagram como parte de su proceso de revisión interna, que enumeran al usuario de Instagram de Malviya, @amitmalviya, como el usuario que denunció la publicación de @cringearchivist. The Wire también afirma que Malviya “tiene privilegios XCheck” y que “no se requiere” otra revisión del contenido informado. El programa XCheck es indiscutiblemente real: el año pasado, un informe de The Wall Street Journal reveló que Meta usa un sistema XCheck, o verificación cruzada, que permite a los usuarios de alto perfil evitar los procesos de moderación típicos de Facebook e Instagram. Pero los informes de The Wire parecían mostrar que esto se estaba utilizando con fines políticos partidistas en la India, lo que permitió a Malviya “publicar lo que quisiera sin que se le aplicaran las reglas que rigen la plataforma”.

¿Qué dice Meta sobre las afirmaciones de The Wire?

Meta respondió a las acusaciones diciendo que su programa de verificación cruzada “no otorga a las cuentas inscritas el poder de eliminar automáticamente el contenido de nuestra plataforma”. Agrega que la política se implementó para “prevenir posibles errores de aplicación excesiva y verificar dos veces los casos en los que una decisión podría requerir una mayor comprensión”. La compañía también rechazó el informe interno proporcionado por la fuente de The Wire. Guy Rosen, director de información de Meta, dice que la URL instagram.workplace.com incluida en las capturas de pantalla en realidad no existe. “Parece ser una fabricación”, Rosen escribe en Twitter. “La URL de ese ‘informe’ es una que no está en uso. La convención de nomenclatura es una que no usamos. No existe tal informe”. Para probar la legitimidad de su fuente, The Wire publicó un video que muestra lo que el medio afirma que es parte del espacio de trabajo interno de Instagram. El clip muestra a un usuario desplazándose por una lista de supuestos “informes posteriores a incidentes que involucran a VIPS” en el backend de Instagram, al que The Wire dice que los empleados solo pueden acceder a través del subdominio interno de la empresa, instagram.workplace.com. Y aunque el medio dice, “se cercioró de que el video no había sido manipulado”, pranesh prakash, analista legal y de políticas del Center for Internet and Society, detecta una instancia en la que el cursor salta de forma poco natural durante el video. Meta dice que la compañía tiene evidencia de que un usuario creó una cuenta externa de Meta Workplace, alterando la marca de la página para que apareciera pertenecer a Instagram. Dice que la cuenta se creó el 13 de octubre, unos días después de los informes iniciales de The Wire. “Según el momento de la creación de esta cuenta el 13 de octubre, parece haber sido configurada específicamente para fabricar pruebas que respalden la información inexacta de The Wire. informes”, explica Meta. “Hemos bloqueado la cuenta porque viola nuestras políticas y se utiliza para perpetuar el fraude y engañar a los periodistas”.

¿Qué pasa con la otra evidencia de The Wire?

The Wire también afirma que obtuvo un correo electrónico enviado por Andy Stone, el director de comunicaciones de políticas de Meta. En el correo electrónico, Stone supuestamente expresa su frustración por el documento interno filtrado mencionado anteriormente y pide poner a los periodistas detrás de la historia en una “lista de vigilancia”. The Wire llegó incluso a verificar la autenticidad del correo electrónico utilizando una herramienta llamada dkimpy, que valida la firma DKIM (DomainKeys Identified Mail) del correo electrónico. Se supone que el protocolo prueba que un correo electrónico realmente vino de donde dice que vino, y en este caso, ese es el dominio fb.com de Meta. The Wire publicó un video que muestra el proceso de autenticación, que según el medio fue firmado por dos expertos en seguridad independientes, y llegó a la conclusión de que el correo electrónico es real. En respuesta, Meta dijo que el correo electrónico es “falso” y que no existe una “lista de observación”. Stone también niega la existencia del correo electrónico en un comunicado en Twitter. “Esto es completamente falso”, piedra escribe. “Nunca envié, escribí, ni siquiera pensé en lo que se expresa en ese supuesto correo electrónico, ya que ha quedado claro desde el principio que @thewire_inLas historias de The Wire se basan en fabricaciones”. Los usuarios de la web también han criticado las acusaciones de The Wire. En un hilo en twitter, el experto en seguridad cibernética y autor Arnab Ray descubrió que el video de análisis DKIM publicado por The Wire en realidad no prueba que el propio Stone envió el correo electrónico. Como explicó Ray, “DKIM se basa en una clave pública de dominio”, lo que significa que no puede probar que proviene de una persona específica; solo muestra que proviene del dominio adjunto a una organización específica, como fb.com. Esto deja espacio para que alguien con acceso al correo electrónico de la organización falsifique su dirección, haciendo que parezca que el correo electrónico proviene de Stone, pero en realidad no es así. Prakash también muestra lo fácil que es fabricar un resultado falso usando una herramienta DKIM como dkimpy. Prakash pudo obtener un resultado de “firma ok”, que indica que el DKIM está verificado, del programa que usa datos ficticios. Los correos electrónicos entre The Wire y los supuestos expertos en seguridad que verificaron el proceso de autenticación DKIM del medio también son cuestionables. Prakash señala que las fechas de los correos electrónicos no coinciden con las versiones actuales y archivadas del artículo, ya que la primera enumera el año del correo electrónico como 2022 y la segunda dice 2021.

Entonces… ¿a qué se suma todo esto?

Pase lo que pase, no se ve bien para The Wire. De una forma u otra, hay cada vez más pruebas de que sus informes iniciales no contaban toda la historia. algunos escépticos cree que The Wire inventó la evidencia por completo y creó una historia falsa en un intento de difamar a Meta. Mientras tanto, otros piensan The Wire podría haber sido objeto de una artimaña elaborada, con alguien cercano a Meta creando la evidencia falsa y engañando a los periodistas para que crean que es real. Incluso hay quienes piensan que alguien alineado con el BJP filtró la historia en un esfuerzo deliberado por desacreditar la publicación. Pero venga de donde venga la confusión, el objetivo de informar es descubrir estas cosas, y eso claramente no sucedió aquí.

¿Por qué es todo esto importante?

El liderazgo de Meta ha tenido una relación turbulenta con el gobierno indio, y este extraño tira y afloja solo empeorará las cosas. Cuando la denunciante de Facebook, Frances Haugen, se presentó el año pasado, los documentos internos mostraron que Meta (entonces Facebook) ignoraba en gran medida los problemas que sucedían en India. Según The New York Times, Meta asignó el 87 por ciento de su presupuesto para clasificar información errónea en la plataforma a los EE. UU. en 2019, mientras que el 13 por ciento restante se distribuyó en el resto del mundo. Esta falta de moderación dejó una ola de discursos de odio e información errónea en Facebook en el país. También hay problemas relacionados con la relación de Meta con el partido político gobernante BJP de la India. En 2020, la empresa fue acusada de no eliminar las publicaciones antimusulmanas compartidas por el legislador indio T. Raja Singh, miembro del partido BJP. Y el año pasado, documentos internos obtenidos por The Guardian encontraron que Facebook supuestamente permitió que cuentas falsas vinculadas a la promoción de un político del BJP permanecieran en la plataforma. Un informe reciente de Al Jazeera afirma que Meta ofrece una tarifa más económica para los anuncios comprados por políticos pertenecientes al partido pro-hindú.