Recientemente, la India firmó el 'Llamado a la acción de Christchurch', junto con otros 16 países y ocho compañías tecnológicas, destinadas a prevenir el terrorista en línea y el contenido extremista violento.

los Llamada de christchurch fue formulado siguiendo el Ataques terroristas a la comunidad musulmana. de Christchurch en Nueva Zelanda en marzo de 2019 y contiene medidas voluntarias que van desde priorizar la moderación del contenido extremista violento por parte de los proveedores de servicios hasta el desarrollo de un proceso efectivo de reclamos y apelaciones en relación con la eliminación del contenido terrorista y extremista violento.

Al mismo tiempo, la propuesta reconoce la importancia de una Internet libre, abierta y segura y el respeto por los derechos humanos, como la libertad de expresión y expresión. Los países de todo el mundo están adoptando medidas para prevenir la propagación de contenido terrorista y extremista en las plataformas en línea, en abril de este año. La UE aprobó el Reglamento de contenido terrorista en línea. tras los recientes ataques terroristas; mas cerca de casa MeitY publicó un borrador de lineamientos intermediarios de TI para reemplazar las pautas existentes e imponer mayores obligaciones a los intermediarios de Internet con respecto al contenido ilegal.

Ataque a la mezquita de Christchurch

Los tiroteos en Christchurch fueron horripilantes, no solo porque el autor del video fue realizado por el perpetrador y se transmitió en vivo en Facebook y YouTube. Facebook cerró la cuenta del tirador una hora después del ataque. e informó que había eliminado 1.5 millones de videos de su plataforma dentro de las 24 horas de la transmisión en vivo, bloqueando 1.2 millones de videos al momento de la carga. Facebook lanzó una serie de medidas para enfrentar cualquier evento de este tipo en el futuro, incluida la política de "un solo ataque" para prohibir que cualquier usuario de Facebook que cometa las infracciones más graves de las políticas de Facebook use Live (la función de transmisión de video en vivo de Facebook) durante un período determinado; esta restricción se extiende a los usuarios de Facebook que comparten enlaces a declaraciones de grupos terroristas sin ningún contexto.

Facebook anunció que en el futuro también evitaría que los infractores creen anuncios en Facebook. Nueva Zelanda tiene oficialmente clasificó el livestream del ataque de la mezquita de Christchurch como objetable, por lo que es ilegal en Nueva Zelanda ver, poseer o distribuir el video en cualquier forma, incluso en las plataformas de redes sociales; la Oficina de Clasificación de Literatura y Cine encontró que la El video estaba destinado a glorificar los ataques.y animar y animar a la audiencia a perpetrar asesinatos en masa. La decisión de clasificación del gobierno de Nueva Zelanda también contiene el análisis de la libertad de expresión y afirma que una prohibición del video está justificada en estas circunstancias.

La policía hace guardia después de los ataques a la mezquita del viernes, en las afueras de Masjid Al Noor en Christchurch

Los compromisos del llamado a la acción de Christchurch

Bajo el llamado a Christchurch, los signatarios han asumido compromisos voluntarios. Para los gobiernos, estos compromisos incluyen marcos de apoyo (como los estándares de la industria) para garantizar que los informes sobre ataques terroristas no amplifiquen el contenido terrorista y extremista violento, sin afectar la cobertura responsable de dichos ataques.

Los gobiernos, junto con los proveedores de servicios en línea, también se comprometen a apoyar plataformas más pequeñas para eliminar el contenido terrorista y extremista violento, por ejemplo, al compartir bases de datos relevantes de hashes; Un ejemplo es una base de datos desarrollada por Foro Global de Internet para Contrarrestar el Terrorismo (GIFCT).

GIFCT es una iniciativa liderada por la industria que se lanzó en junio de 2017 por Google, Facebook, Twitter y Microsoft. La base de datos de GIFCT contiene hashes (o la huella digital del contenido marcado por una empresa miembro del consorcio GIFCT como contenido terrorista); esto permite a otras plataformas en línea hacer coincidir el contenido cargado en sus plataformas con la base de datos de hashes y eliminar rápidamente el contenido que coincida de sus plataformas.

Esto ha resultado útil cuando los terroristas suben su contenido a otros sitios web cuando descubren que su contenido ha sido bloqueado por el sitio web en el que se cargó originalmente el contenido terrorista. Uno de los objetivos de GIFCT es trabajar con empresas de tecnología más pequeñas. compartir las mejores prácticas para interrumpir la difusión de contenido extremista violento; esto es particularmente importante en el contexto de "desvinculación" que se refiere a la práctica de los terroristas de publicar enlaces a contenido terrorista en plataformas más pequeñas que carecen de la experiencia y los recursos de plataformas más grandes para bloquear el contenido terrorista.

En la llamada a Christchurch, los proveedores de servicios en línea se comprometen a tomar medidas efectivas de notificación y eliminación, priorizar la moderación del contenido terrorista y extremista violento, incluida la revisión en tiempo real, y proporcionar procesos de quejas y apelaciones para que los usuarios impugnen la decisión de la plataforma en línea de eliminar o rechazar la Carga del contenido del usuario.

Riesgos para la libertad de expresión inherentes a la selección automatizada de contenido

Los esfuerzos de las empresas de tecnología para combatir la difusión de contenido terrorista y extremista violento se han centrado en el desarrollo de herramientas automatizadas para filtrar dicho contenido.

En el pasado, ha habido casos en los que las plataformas de Internet eliminaron inadvertidamente el contenido (que pretende difundir la conciencia sobre la guerra y las violaciones de los derechos humanos) confundiéndolo con el contenido terrorista y extremista en línea.

En agosto de 2017, Se informó que miles de videos documentando YouTube había eliminado las atrocidades en Siria en sus esfuerzos por acabar con el contenido extremista y terrorista violento; Esto tuvo implicaciones para la investigación criminal y el enjuiciamiento de crímenes de guerra. Esto fue el resultado de que YouTube implementó una nueva tecnología para seleccionar y bloquear automáticamente el contenido que infringía las pautas de la comunidad de YouTube.

Imagen representativa. Imagen: Reuters

Si bien YouTube restableció algunos de estos videos al ser notificado por los creadores, el incidente destaca que la eliminación del contenido terrorista por parte de las plataformas en línea no se puede dejar totalmente a los algoritmos de aprendizaje automático. Una forma de evitar los falsos positivos. en tales casos, los usuarios pueden hacer que la carga sea contextual al incluir información en el resumen y las etiquetas de metadatos y al declarar explícitamente la intención de cargar el contenido.

Notablemente, Estados Unidos se negó a firmar el llamado a Christchurch citando la preocupación de que socavará los derechos en virtud de la Primera Enmienda de la Constitución de los Estados Unidos, a saber, la libertad de expresión.

Leyes que ordenan el uso de herramientas automatizadas para filtrar contenido terrorista

En abril de 2019 el Parlamento Europeo aprobó el Regulación del contenido terrorista de la UE que impone a los proveedores de servicios de hosting la obligación de desactivar o eliminar el acceso al contenido terrorista una hora después de recibir la orden de eliminación de una autoridad competente. Inicialmente, el Reglamento también contenía una cláusula que exigía a los proveedores de servicios de alojamiento utilizar medios automatizados para identificar y eliminar el contenido terrorista; La cláusula está ausente en el presente proyecto de Reglamento. El Reglamento se encuentra en la fase de primera lectura en el Parlamento de la UE.

En diciembre de 2018, emitió MeitY. Proyecto de directrices intermedias para revisar las directrices intermedias existentes.; Las directrices de los intermediarios proporcionan un puerto seguro a los intermediarios en línea para las acciones de los usuarios de Internet condicionadas al cumplimiento de ciertas obligaciones por parte de los intermediarios de Internet. Las directrices preliminares requieren que los intermediarios de Internet implementen herramientas automatizadas para identificar y eliminar de manera proactiva el acceso público a contenido ilegal. La cláusula propuesta ha sido criticada por organizaciones de la sociedad civil por sus implicaciones en la libertad de expresión y expresión, ya que puede resultar en una excesiva censura de internet por parte de los intermediarios de internet. Además, las plataformas más pequeñas pueden no tener la capacidad y los recursos para desarrollar tales herramientas para cumplir con la ley.

En casos de contenido extremista y terrorista violento, es imperativo eliminar dicho contenido de manera expedita para evitar que los terroristas avancen las fuerzas para promover su causa; dada la escala en la que el contenido se difunde en línea, los gobiernos deben actuar rápidamente para detener su difusión, por lo que es conveniente contar con medios automáticos para identificar y eliminar rápidamente el contenido terrorista. Los compromisos en el llamado de Christchurch no son vinculantes para los gobiernos.

Sin embargo, para hacer efectiva la llamada de Christchurch relacionada con la revisión en tiempo real del contenido de la lista negra, el gobierno de la India puede debatir el tema del uso de herramientas automatizadas para eliminar el contenido terrorista. Es importante que la ley sobre responsabilidad de intermediarios en la India explique la libertad de expresión y expresión; los gobiernos deben exigir a los intermediarios de Internet, especialmente a las plataformas más pequeñas, que empleen herramientas automatizadas para filtrar el contenido terrorista y extremista violento solo cuando sea técnica y económicamente viable para que lo hagan.

El autor escribe sobre política tecnológica y tiene un LL.M. grado de Cambridge

Tech2 está ahora en WhatsApp. Para obtener toda la información sobre la tecnología y la ciencia más recientes, suscríbase a nuestros servicios de WhatsApp. Simplemente vaya a Tech2.com/Whatsapp y presione el botón Suscribir.