Inteligencia artificial para detectar cyberbullying en Twitter

El cyberbulling (o ciber acoso) es una actividad que utiliza la tecnología e Internet para dañar y acosar a un individuo o grupo, basado en difamaciones, creación de perfiles falsos en redes sociales, atentados contra la reputación de una persona o robo de información para dañar a la víctima. Es una actividad que se ha vuelto muy común entre menores de edad, y que puede llegar a tener consecuencias en su desarrollo de no tomarse medidas preventivas y correctivas para prevenir que se propaguen.

El uso de técnicas de aprendizaje automático y análisis de lenguaje natural para detectar expresión de sentimientos han sido comúnmente utilizadas para descifrar el comportamiento de  los consumidores a través de su participación en la redes sociales. Un grupo de investigadores de la Universidad de Wisconsin, han llevado este análisis a un ámbito diferente: la detección de cyberbulling en Twitter.

Para el entrenamiento del modelo, que puede analizar diariamente cerca de 15000 tweets, utilizaron dos conjuntos de datos diferentes: uno relacionado con cyberbullying y otro conjunto de tweets que no tenían relación con este fenómeno. El resultado obtenido es un modelo capaz de reconocer los tweets que tienen alguna relación con acoso. Además de esta clasificación, el modelo permitió identificar patrones asociados a la frecuencia de envío de estos mensajes, produciéndose con mayor frecuencia durante la semana, e identificar los diferentes roles de los menores de edad durante una intimidación a otro compañero.

Lo interesante de la estructura de roles analizada a partir del modelo, es la identificación de un nuevo actor que no estaba presente en el análisis del problema tradicional, y que se ve potenciado por el uso del Twitter. Además del acosador, la víctima y el defensor el nuevo rol se establece como el reportero, un menor que sin participar de un incidente de intimidación, conoce de su existencia y lo comenta.

Una evolución de este modelo es determinar cómo los sentimientos de los individuos están realmente afectados por la intimidación, utilizando algoritmos de Sentiment analysis. Además se puede implementar un monitoreo a los agresores y sus víctimas a través del tiempo, para que de forma análoga a como las empresas intentan descubrir las causas de ciertas tendencias en sus consumidores, se pueda seguir las publicaciones de diferentes grupos a través del tiempo a través de Twitter, tratando de detectar cómo y por qué hacen lo que hacen, llegando incluso a saber cómo evolucionan las relaciones. Es importante destacar que es un modelo recientemente desarrollado, para esta aplicación específica, y que para una correcta implementación es necesario definir primero quienes son las personas idóneas para hacer los seguimientos y monitoreos: los padres, los maestros o las autoridades oficiales. La polémica queda abierta.

Este modelo plantea un avance en la protección de los menores en la red, y se convierte en una alternativa, a pesar de estar aún en desarrollo, que permite complementar las medidas de seguridad para cuidar a los más chicos mientras utilizan Internet. Además plantea un reto adicional para los padres, para que se mantengan enterados de lo que hacen sus hijos en la red y tomar actitudes que garanticen un manejo seguro de la información personal en las relaciones que se establezcan virtualmente.

H. Camilo Gutiérrez Amaya
Especialista de Awareness & Research

Autor , ESET

  • Anonimo

    No conocía esta aplicación de la inteligencia artificial. Pero desde luego es uno de los más necesarios dada la cantidad de menores que tienen acceso a las redes sociales y la facilidad de la gente para difamar cuando no se da la cara. ¿Hay alguna aplicación específica ya creada que utilice este modelo?

    • Saludos, la investigación que mencionamos es hasta el momento un modelo desarrollado en la Universidad de Winsconsin. Hasta el momento no hay aplicaciones que cumplan esta función específica. PEro en lenguajes como Python y R se pueden implementar este tipo de modelos.

      Saludos,

      H. Camilo Gutiérrez Amaya.

Síguenos