Cibercriminosos estão criando imagens e vídeos sexuais falsos usando IA para sextorsão

Em um comunicado publicado no último dia 5 de junho, o FBI alertou sobre o uso de imagens e vídeos públicos manipulados por cibercriminosos para campanhas de sextorsão (do termo em inglês sextorsion). A agência afirmou ter recebido vários relatórios recentes de vítimas que foram alvo da manipulação de vídeos e imagens delas para a criação de imagens sexuais falsas. Os criminosos por trás dessas campanhas, em seguida, divulgam esse tipo de material em redes sociais ou sites pornográficos para extorquir as vítimas ou simplesmente intimidá-las. Infelizmente, também foram registradas denúncias de vítimas menores de idade.

Essas imagens e vídeos são obtidos de redes sociais, fontes públicas ou até mesmo fornecidos pelas próprias vítimas, e por meio de tecnologias baseadas em Inteligência Artificial (IA), são criadas imagens falsas com uma aparência muito real. Assim como já explicamos em uma publicação sobre a criação de rostos falsos por meio de IA, a qualidade dessas imagens pode facilmente enganar o olho humano.

O FBI também explica que muitas das vítimas não estão cientes da existência dessas imagens falsas até que alguém as informe por tê-las encontrado acidentalmente ou por serem chantageadas. Embora seja possível tentar remover esse conteúdo da internet, essa é uma tarefa muito complexa.

Es importante mencionar que nos últimos anos temos visto muitas campanhas de sextorsão nas quais os criminosos enviam e-mails personalizados na tentativa de assustar as vítimas, fazendo-as acreditar que foram infectadas por um malware que permitiu aos cibercriminosos gravar vídeos íntimos usando a webcam da vítima. Embora seja falso e os criminosos não tenham infectado os dispositivos com malware nem possuam vídeos ou imagens comprometedoras, eles ainda tentam extorquir as vítimas a fim de que enviem dinheiro e evitem que esse suposto conteúdo comece a circular na internet. Infelizmente, muitas pessoas caem nessa armadilha. A forma de roubar o dinheiro pode variar. Muitas vezes, eles solicitam que uma certa quantia seja depositada em criptomoedas em uma carteira virtual, enquanto em outras ocasiões podem exigir o envio de cartões-presente.

Exemplo de campanha de sextorsão (em inglês).

Está bastante claro que com o avanço das ferramentas baseadas em IA para a geração de imagens e a qualidade dos resultados, cibercriminosos encontraram uma forma de aprimorar esse tipo de ataque. Atualmente, existe uma grande quantidade de ferramentas e aplicativos que estão disponíveis gratuitamente em repositórios públicos para criar deepfakes, inclusive em fóruns clandestinos.

É importante manter os mais jovens informados sobre essas novas tendências. Também é crucial reforçar a importância de ensinar boas práticas de privacidade on-line e as consequências das informações que compartilhamos. No entanto, não devemos apenas proteger as crianças ou adolescentes, mas também os adultos, que também podem ser vítimas desses ataques.

É verdade que alguns países estão tomando medidas para minimizar o uso de deepfakes. No Reino Unido, por exemplo, já existem iniciativas para modificar as leis e penalizar aqueles que compartilham esse tipo de conteúdo falso. Essas ações visam combater o uso indevido de deepfakes e proteger as pessoas contra os danos causados por sua disseminação.