Inteligência artificial detecta cyber bullying no Twitter

Inteligência artificial detecta cyber bullying no Twitter

O cyberbullying é uma atividade que utiliza a tecnologia e a Internet para agredir e perseguir um indivíduo ou grupo, baseado em difamações, criação de perfis falsos em redes sociais, atentados contra a reputação de uma pessoa ou roubo de informação para prejudicar a vítima. É uma atividade que se tornou muito comum entre menores

O cyberbullying é uma atividade que utiliza a tecnologia e a Internet para agredir e perseguir um indivíduo ou grupo, baseado em difamações, criação de perfis falsos em redes sociais, atentados contra a reputação de uma pessoa ou roubo de informação para prejudicar a vítima. É uma atividade que se tornou muito comum entre menores

O cyberbullying é uma atividade que utiliza a tecnologia e a Internet para agredir e perseguir um indivíduo ou grupo, baseado em difamações, criação de perfis falsos em redes sociais, atentados contra a reputação de uma pessoa ou roubo de informação para prejudicar a vítima. É uma atividade que se tornou muito comum entre menores de idade, e que pode chegar a ter consequências em seu desenvolvimento, se não forem tomadas medidas preventivas e corretivas.

O uso de técnicas de aprendizagem automática e análises de linguagem para detectar expressão de sentimentos têm sido comumente utilizados para decifrar o comportamento dos usuários através de sua participação nas redes sociais. Um grupo de investigadores da Universidade de Wisconsin levou esta técnica a um campo diferente: a detecção de cyberbullying no Twitter.

Para a alimentação do programa, que pode analisar diariamente cerca de 1500 tweets, foram utilizados dois conjuntos de dados diferentes: um relacionado ao cyberbullying e outro conjunto de tweets que não tinham relação com este fenômeno. O resultado obtido foi um logaritmo capaz de reconhecer os tweets que têm alguma relação com o bullying. Além desta classificação, o experimento permitiu identificar padrões associados à frequência de envio dessas mensagens, produzindo-se com maior frequência durante a semana, e identificar os diferentes papéis dos menores de idade durante uma intimidação a outro companheiro.

Nessa “divisão de papeis” identificada no bullying, surge um novo personagem que não estava presente na análise tradicional do problema, e que é potencializado pelo uso do Twitter. Além do agressor, da vítima e do defensor, o novo papel constitui o de relator – uma pessoa que, mesmo sem participar de um incidente ou intimidação, sabe da ocorrência e pode comentar sobre ela.

Uma evolução deste modelo irá permitir determinar como os sentimentos dos indivíduos são realmente afetados pela intimidação, utilizando algoritmos com a tecnologia Sentiment Analysis. Além disso, será possível realizar um monitoramento aos agressores e suas vítimas através, para que, de forma semelhante a como as empresas tentam descobrir as causas de certas tendências em seus consumidores, seja possível seguir as publicações de diferentes grupos pelo Twitter, tratando de detectar como e por que eles fazem o que fazem, chegando inclusive a saber como evoluem as relações. É importante destacar que se trata de uma tecnologia recentemente desenvolvida para esta aplicação específica, e que para uma implementação incorreta é necessário primeiro definir quem são as pessoas idôneas que podem fazer o monitoramento: os pais, os professores ou as autoridades oficiais.

Este experimento define um avanço na proteção dos menores na rede, tornando-se uma nova alternativa, apesar de estar ainda em desenvolvimento, que permite complementar as medidas de segurança para cuidar dos mais novos enquanto utilizam a Internet. Além disso, representa uma ferramenta para os pais, para que se mantenham por dentro do que fazem seus filhos na rede e possam tomar atitudes que garantam um manuseio seguro da informação pessoal em suas relações virtuais.

H. Camilo Gutiérrez Amaya
Especialista de Awareness & Research

Discussão