Opinión: cómo la IA puede proteger a los usuarios en el mundo en línea

Dado que más del 74 por ciento de la Generación Z pasa su tiempo libre en línea, con un promedio de alrededor de 10 horas por día, es seguro decir que sus mundos en línea y fuera de línea se están entrelazando. Con el aumento del uso de las redes sociales ahora la norma y todos vivimos nuestras vidas en línea un poco más, debemos buscar formas de mitigar los riesgos, proteger nuestra seguridad y filtrar las comunicaciones que causan preocupación. Un paso adelante, inteligencia artificial (IA): tecnología avanzada de aprendizaje automático que desempeña un papel importante en la vida moderna y es fundamental en el funcionamiento de las redes sociales de hoy.

Con solo un clic, las herramientas de inteligencia artificial como chatbots, algoritmos y sugerencias automáticas impactan lo que ves en tu pantalla y la frecuencia con la que lo ves, creando un feed personalizado que ha cambiado por completo la forma en que interactuamos en estas plataformas. Al analizar nuestros comportamientos, las herramientas de aprendizaje profundo pueden determinar hábitos, gustos y disgustos y solo mostrar el material que anticipan que disfrutará. La inteligencia humana combinada con estos sistemas de aprendizaje profundo no solo hace que el desplazamiento de nuestros feeds se sienta más personalizado, sino que también proporciona una forma crucial y efectiva de monitorear y reaccionar rápidamente a los comportamientos dañinos y amenazantes a los que estamos expuestos en línea, que pueden tener consecuencias dañinas a largo plazo. término.

La importancia de la IA para hacer que las plataformas sociales sean más seguras

La falta de control parental en la mayoría de las redes sociales significa que puede ser un entorno tóxico en el que estar, y la cantidad de usuarios que desconoces en estas plataformas conlleva un alto grado de riesgo. La realidad es que los adolescentes de hoy tienen acceso constante a Internet, pero la mayoría carece de la participación de los padres en sus vidas digitales. Muchos niños enfrentan desafíos cotidianos en línea, habiendo visto o presenciado el acoso cibernético junto con otras amenazas graves como la radicalización, la explotación infantil y el aumento de las salas de chat pro-suicidio, por nombrar algunos, y todas estas actividades continúan sin la supervisión de los padres y guardianes.

La IA existe para mejorar la vida de las personas, pero siempre ha existido el temor de que estos "robots" comiencen a reemplazar a los humanos, esa clásica "batalla" entre el hombre y la máquina. En cambio, debemos estar dispuestos a aprovechar y aprovechar sus posibilidades: la ciberseguridad es uno de los mayores desafíos de nuestro tiempo y, al aprovechar el poder de la IA, podemos comenzar a luchar contra las acciones que tienen consecuencias dañinas y reducir el riesgo en línea.

Funciones de seguridad avanzadas

La IA ha demostrado ser un arma eficaz en la lucha contra el acoso en línea y la difusión de contenido dañino, y estas herramientas de aprendizaje profundo ahora juegan un papel importante en nuestra sociedad, mejorando la seguridad tanto en nuestro mundo virtual como real. La inteligencia artificial se puede aprovechar para moderar el contenido que se carga en las plataformas sociales, así como para monitorear las interacciones entre los usuarios, algo que no sería posible si se hiciera manualmente debido al gran volumen. En Yubo utilizamos una forma de inteligencia artificial llamada aprendizaje de redes neuronales, Yoti Age Scan, para estimar con precisión la edad de un usuario en las cuentas donde hay sospechas o dudas: nuestros usuarios deben tener 13 años para registrarse y hay cuentas de adultos separadas para mayores de 18 años. Las cuentas marcadas se revisan en segundos y los usuarios deben verificar su edad e identidad antes de poder continuar usando la plataforma; es solo un paso vital que estamos dando para proteger a los jóvenes en línea. Con más de 100 millones de horas de video y 350 millones de fotos subidas solo en Facebook todos los días, los algoritmos están programados para cambiar a través de cantidades alucinantes de contenido y eliminar tanto las publicaciones como los usuarios cuando el contenido es dañino y no cumple con los estándares de la plataforma. . Los algoritmos se desarrollan y aprenden constantemente y son capaces de reconocer publicaciones duplicadas, comprender el contexto de las escenas en los videos e incluso identificar el análisis de sentimientos, reconociendo tonos como la ira o el sarcasmo. Si no se puede identificar una publicación, se marcará para revisión humana. El uso de la inteligencia artificial para revisar la mayoría de la actividad en línea protege a los moderadores humanos del contenido perturbador que de otro modo podría conducir a problemas de salud mental.

AI también utiliza herramientas de procesamiento del lenguaje natural (NPL) para monitorear las interacciones entre los usuarios en las redes sociales e identificar los mensajes inapropiados que se envían entre usuarios menores de edad y vulnerables. En la práctica, la mayor parte del contenido dañino lo genera una minoría de usuarios, por lo que se pueden utilizar técnicas de inteligencia artificial para identificar a los usuarios malintencionados y priorizar su contenido para su revisión. El aprendizaje automático permite a estos sistemas encontrar patrones en comportamientos y conversaciones invisibles para los humanos y puede sugerir nuevas categorías para una mayor investigación. Con sus capacidades analíticas avanzadas, la IA también puede automatizar la verificación de información y la validación de la autenticidad de una publicación para eliminar la propagación de información errónea y contenido engañoso.

Liberando el poder de la IA para la educación

Los jóvenes necesitan un entorno seguro y estimulante cuando están en línea. La IA se puede utilizar para educar de forma proactiva a los usuarios sobre el comportamiento responsable en línea a través de alertas y bloqueadores en tiempo real. En Yubo, donde nuestra base de usuarios está compuesta solo por Gen Zers, utilizamos una combinación de tecnología de inteligencia artificial sofisticada e interacción humana para monitorear el comportamiento de los usuarios. Nuestras funciones de seguridad evitan que se comparta información personal o mensajes inapropiados al intervenir en tiempo real; por ejemplo, si un usuario está a punto de compartir información confidencial, como un número personal, una dirección o incluso una imagen inapropiada, recibirá un mensaje emergente. de Yubo destacando las implicaciones que podrían surgir de compartir esta información. Luego, el usuario deberá confirmar que desea continuar antes de que se le permita hacerlo. Además, si los usuarios intentan compartir imágenes reveladoras o una solicitud inapropiada, Yubo bloqueará ese contenido para que no se comparta con el destinatario previsto antes de que puedan presionar enviar. Estamos educando activamente a nuestros usuarios no solo sobre los riesgos asociados con compartir información personal, sino también incitándolos a reconsiderar sus acciones antes de participar en actividades que podrían tener consecuencias negativas para ellos mismos o para los demás. Estamos comprometidos a proporcionar un lugar seguro para que la Generación Z se conecte y socialice; sabemos que nuestra base de usuarios está en una edad en la que si podemos educarlos sobre los peligros y las mejores prácticas en línea ahora, entonces podemos moldear sus comportamientos de una manera positiva para la futuro.

Aplicar herramientas de inteligencia artificial para el bien social

Las redes sociales, cuando se utilizan de forma segura, son una herramienta poderosa que permite a las personas colaborar, crear conexiones, fomentar la innovación y ayudar a crear conciencia sobre problemas sociales importantes junto con una cantidad incalculable de otros aspectos positivos. Con tanta importancia en estos mundos digitales, es imperativo que los usuarios estén educados y protegidos para que puedan navegar por estas plataformas y cosechar los beneficios de la manera más responsable. Ya estamos viendo el impacto positivo que la tecnología de IA está teniendo en las redes sociales: son vitales para analizar y monitorear la gran cantidad de datos y usuarios que están activos en estas plataformas todos los días.

En Yubo, sabemos que es nuestro deber proteger a nuestros usuarios y hemos implementado tecnología de inteligencia artificial sofisticada para ayudar a mitigar cualquier riesgo y continuaremos utilizando la inteligencia artificial para proteger a nuestros usuarios de interacciones y contenido dañinos, así como para iniciar un diálogo continuo sobre las consecuencias de comportamiento inapropiado. Las herramientas de IA presentan un potencial ilimitado para hacer que los espacios sociales sean más seguros y necesitamos aprovechar el poder que tienen para aumentar el bienestar de todos.

(Foto de Prateek Katyal en Unsplash)

¿Está interesado en escuchar a los líderes de la industria discutir temas como este? Asista a la 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo, y Cyber ​​Security & Cloud Expo World Series, ubicadas en el mismo lugar, con los próximos eventos en Silicon Valley, Londres y Ámsterdam.

Etiquetas: ai, inteligencia artificial, Destacados, transmisión en vivo, transmisión en vivo, redes sociales, Sociedad