66% DOS BRASILEIROS DESCONHECEM O DEEPFAKE E SUAS IMPLICAÇÕES

Vou falar sobre um assunto muito importante, especialmente por ser o primeiro tema que me motivou a escrever sobre tecnologia. Se possível, leiam o texto “AI e o direito à morte”, onde discuto a principal ferramenta usada atualmente para aplicar golpes: o “deep fake”.

Deepfake, originado das palavras “deep learning” (aprendizado profundo) e “fake” (falso), é uma técnica avançada de IA que utiliza dados sobre expressões e movimentos físicos processados por meio de redes generativas antagônicas (GANs) para criar vídeos falsos extremamente realistas. Embora inicialmente desenvolvida para aplicações cinematográficas em Hollywood, essa técnica agora está acessível ao público em geral, inundando a internet com conteúdos confusos e, por vezes, fraudulentos.

AI Deepfake é uma preocupação em anos eleitorais- Getty Images.

De acordo com a pesquisa, da Kaspersky , 66% dos brasileiros desconhecem a existência dessa técnica, e a falta de conhecimento é ainda maior em outros países latino-americanos, como Peru (75%), México e Chile (ambos com 72%), Argentina (67%) e Colômbia (63%). Esse cenário preocupa especialistas em cibersegurança, que alertam para o potencial das táticas de engenharia social e fraudes em obterem sucesso diante da falta de familiaridade com o deepfake.

O relatório também revela que a maioria dos entrevistados na região (67%) não consegue identificar quando um vídeo foi editado digitalmente usando essa técnica, com índices particularmente altos na Colômbia (72%) e Brasil (71%). Essa falta de discernimento torna as pessoas mais vulneráveis a fraudes, especialmente considerando os incidentes em que o deepfake foi utilizado para criar perfis falsos em plataformas de busca de emprego ou para propagar desinformação ao imitar a voz de figuras públicas.

All (a) and the key (b) the area of ​​persons for which the perpetrators were determined.

Golpistas têm explorado a técnica do deepfake para acessar aplicativos bancários em celulares, roubando mais de R$ 700 mil de clientes de bancos em Campo Grande, segundo a polícia. Esse golpe é considerado “sofisticado” por especialistas na área digital, o que faz com que os usuários de bancos online precisem redobrar a atenção.

Deepfake ao Vivo: Tecnologia na Vida Real

Uma variante intrigante do deepfake é o “deepfake ao vivo”, uma tecnologia que altera rosto e voz em videochamadas, semelhante ao que é mostrado na novela ‘Travessia’. No entanto, para atingir o nível de qualidade apresentado na ficção, seria necessário um computador potente capaz de processar essas alterações em tempo real.

É fundamental estar ciente das medidas de prevenção e combate contra crimes de deepfake, especialmente diante da possibilidade de “deepfake ao vivo” através de plataformas como o WhatsApp.

A violação da privacidade é um ponto crucial. O artigo 154-A do Código Penal Brasileiro trata da invasão de dispositivos informáticos alheios e da divulgação de informações confidenciais, sendo aplicável quando há obtenção e disseminação não autorizada de imagens. Além disso, casos de difamação, calúnia e injúria, regulamentados pelos artigos 139 a 141 do mesmo código, podem ser considerados se a pessoa retratada nos deepfakes sofrer danos à sua reputação ou integridade.

A Lei 13.718/18 introduziu o artigo 218-C, que trata da divulgação de cenas de sexo ou pornografia sem o consentimento da vítima, enquadrando essa ação como um crime específico. No caso de envolvimento de menores, diferentes artigos do Estatuto da Criança e do Adolescente, especialmente o artigo 240, relacionado à pornografia infantil, podem ser aplicados.

Em resumo, a criação e distribuição de deepfakes pornográficos sem consentimento estão sujeitas a leis que buscam proteger a privacidade, dignidade e reputação das pessoas afetadas. A interpretação e aplicação dessas leis são feitas pelos tribunais, visando garantir justiça e segurança diante dessas práticas ilegais.

Atriz Gal Gadot foi vítima de vídeos de deepfake — Foto: Pond5.

Exemplos de Crimes de Deepfake:

Acesso Fraudulento a Contas Bancárias:

• Exemplo Real: Em 2023, um grupo de criminosos usou deepfakes para enganar a autenticação biométrica de aplicativos bancários, permitindo acesso indevido a contas e resultando no roubo de mais de R$ 700 mil de clientes em diversas cidades.
  

Difamação e Calúnia:

• Exemplo Real: Em um caso de vingança virtual, uma pessoa criou deepfakes com mensagens difamatórias, atribuindo falsamente declarações prejudiciais a outra. A vítima enfrentou danos à reputação e pôde buscar amparo nos artigos 139 a 141 do Código Penal para responsabilizar o autor.
  

Divulgação de Pornografia sem Consentimento:

• Exemplo Real: Em 2022, uma celebridade teve deepfakes pornográficos divulgados sem seu consentimento, resultando em um caso de violação à Lei 13.718/18. O responsável foi processado por crime específico de divulgação de cenas íntimas sem autorização.
  

Envolvimento de Menores:

• Exemplo Real: Em um incidente chocante, deepfakes envolvendo menores foram compartilhados em fóruns online. As autoridades, baseadas no Estatuto da Criança e do Adolescente, especialmente no artigo 240, agiram para identificar e processar os responsáveis pela produção e distribuição desses materiais ilegais.

Foto: Google.com

Esses exemplos reais mostram como os deepfakes têm sido usados para cometer crimes, desde fraudes financeiras até causar danos emocionais e psicológicos por meio de difamação, pornografia não consensual e exploração de menores. A necessidade de leis mais robustas e de tecnologias de detecção eficazes torna-se evidente diante dessas situações.

Os deepfakes representam uma ameaça significativa, capaz de desencadear uma ampla gama de crimes, desde fraudes financeiras até difamação, pornografia não consensual e exploração de menores. Diante desse cenário, a implementação de leis mais rigorosas e o desenvolvimento de tecnologias de detecção eficazes tornam-se imperativos para lidar com esse desafio emergente na sociedade contemporânea.

A disseminação de informações jornalísticas e o debate público desempenham papéis fundamentais na proteção da democracia e na prevenção de abusos de poder. No entanto, a acessibilidade e o baixo custo das ferramentas capazes de produzir vídeos falsos de autoridades e figuras públicas relevantes podem minar a confiança na informação e manipular as massas de forma extremamente desafiadora.

Embora as campanhas de conscientização sobre a identificação de deepfakes ainda sejam incipientes, elas têm o potencial de contribuir significativamente para a manutenção da qualidade e civilidade do debate público, bem como para a promoção de decisões informadas.

Além disso, a segurança e privacidade dos dados emergem como preocupações cruciais. Assim como o uso de tecnologias como VPN se tornou essencial para a cibersegurança, é possível que, no futuro, o compartilhamento público de fotos e vídeos seja mais restrito para evitar seu uso na criação de deepfakes.

Por último, o controle sobre a fonte de treinamento desses sistemas de IA é fundamental. Regular o acesso a grandes conjuntos de dados contendo faces, vozes e outras informações pessoais pode ser uma medida crucial para mitigar o potencial abuso dessas tecnologias.