Twitter apresenta proposta para combater deepfakes | WeLiveSecurity

Twitter apresenta proposta para combater deepfakes

A rede social apresenta proposta que inclui medidas que serão implementadas para combater deepfakes e pede feedback dos usuários.

A rede social apresenta proposta que inclui medidas que serão implementadas para combater deepfakes e pede feedback dos usuários.

O fenômeno das deepfakes está crescendo. Para aqueles que não estão familiarizados com o termo, deepfake é a técnica de síntese da imagem humana baseada em inteligência artificial, que é usada para criar conteúdo falso, seja a partir do zero ou usando vídeos existentes para imitar a aparência e o som de uma pessoa real. De acordo com estudos recentes, a criação de vídeos deepfake aumentou e sua presença on-line quase dobrou em menos de um ano.

No Brasil, as montagens se tornaram mais conhecidas através do editor de vídeo, jornalista e estudante de Direito Bruno Sartori, que publica em suas redes sociais vídeos engraçados de personagens da política brasileira. No entanto, o que atualmente é algo utilizado com humor, já acendeu o sinal de alerta de algumas empresas de tecnologia, que estão realizando pesquisas com o intuito de desenvolver ferramentas que possam identificar as falsificações.

Como o Twitter explica em seu blog, considerando as tentativas deliberadas de enganar e confundir as pessoas com conteúdo multimídia manipulado e de alterar a integridade de conversas, a rede social decidiu compartilhar com o público uma proposta com as medidas que serão implementadas para combater as deepfakes.

De acordo com a rede social, o objetivo é combater qualquer foto, áudio ou vídeo que possa ter sido criado ou significativamente alterado com a intenção de enganar as pessoas ou alterar seu significado original. Segundo o Twitter, às vezes isso cai na categoria de deepfakes e outras vezes na categoria de shallowfakes.

Como parte da proposta, a rede social explica que, nestes casos, tomará algumas medidas:

  • Apresentará um aviso ao lado dos tweets que compartilham conteúdo manipulado;
  • Alertará os usuários antes de compartilhar ou dar “like” em tweets com conteúdo manipulado;
  • Adicionará um link, por exemplo, a uma notícia ou a uma publicação, que ajudará aos usuários a descobrir o motivo pelo qual várias fontes consideram o conteúdo como deepfake.

Além disso, se um tweet incluir conteúdos desta natureza com a finalidade de disseminar falsas notícias ou caso passe a representar uma ameaça à segurança física ou conduzir a outros problemas, o mesmo será removido.

Para saber o que os usuários pensam sobre este assunto, o Twitter publicou uma pequena pesquisa que estará disponível até o dia 27 de novembro em vários idiomas, embora os usuários também possam compartilhar qualquer feedback através da rede social usando a hashtag #TwitterPolicyFeedback.

Leia também: Facebook oferece US$ 10 milhões para quem criar detector de deepfakes

Discussão