Você sabe o que é deepfake? Ainda que não tenha ouvido falar sobre o termo, com certeza você já se deparou com um conteúdo deepfake no ambiente online.

Conhecidos também como conteúdos sintéticos, os vídeos feitos por inteligência artificial estão ganhando espaço nas redes sociais e os resultados podem ser bastante negativos, o que gera muita preocupação nos profissionais do setor de antifraudes. 

Neste texto você vai entender o que é deepfake, quais os seus tipos e riscos e como prevenir o uso dessa ferramenta na aplicação de golpes. 

🔒 Leia também: Golpes pelo celular: como evitar as fraudes de telecom?

O que é deepfake?

Deepfake é uma técnica de inteligência artificial que permite criar vídeos, áudios e imagens manipulados digitalmente. Esses conteúdos são feitos com extremo realismo, fazendo com que sejam facilmente confundidos com um conteúdo verdadeiro. 

O nome “deepfake” é uma junção de “deep learning” (traduzido livremente como aprendizado profundo) e “fake” (traduzido livremente como falso), que descreve bem o processo utilizado para a composição dessas imagens.

Esses materiais falsos se baseiam em algoritmos de aprendizado de máquina que analisam uma grande quantidade de dados, que podem incluir imagens, vídeos, amostras de voz e até mesmo informações sobre o comportamento das pessoas. 

Embora o deepfake possa ter aplicações positivas, como na produção de efeitos especiais de filmes e jogos, por exemplo, a sua utilização também traz muitas preocupações, já que colabora para a criação de conteúdos enganosos, como notícias falsas, pornografia não consensual e outros tipos de fraudes. 

Portanto, esse tipo de IA tem sido cada vez mais objeto de debate em relação à privacidade, segurança e manipulação de informações. 

Quais os tipos de deepfake? 

O deepfake mais comum no ambiente online é o de rosto, que refere-se a alteração de vídeos ou fotos para trocar os rostos e até o corpo das pessoas, possibilitando a criação de materiais falsos que parecem mostrar uma pessoa real dizendo algo que nunca disse ou fazendo algo que nunca fez. 

Nos últimos anos vimos um aumento considerável dessa tecnologia envolvendo celebridades e pessoas politicamente expostas.  

Mas além desse tipo, existem outras formas de explorar o deepfake. Confira alguns exemplos: 

• Deepfake de texto: é a criação de textos falsos que parecem ter sido escritos por uma pessoa real. Aqui são usados algoritmos de processamento de linguagem e inteligência artificial que analisam o estilo da escrita de uma pessoa e criam um novo texto que parece ser genuíno;
• Deepfake de redes sociais: é a criação de perfis falsos na internet. Esse tipo pode ser utilizado para a prática de phishing, em que os fraudadores se apresentam como instituições confiáveis para enganar as suas vítimas;
• Deepfake de voz: envolve a criação de áudios falsos por meio de softwares especializados. O resultado é uma gravação de áudio que pode parecer ter sido feita por uma pessoa específica, mas na realidade é falsa. Uma forma de evitar esse golpe é por meio da biometria de voz, que falaremos com mais detalhes abaixo;
• Deepfake em tempo real: nesse caso é possível mudar o rosto em transmissões ao vivo e em tempo real. Essa técnica é particularmente preocupante, pois pode ser usada para enganar pessoas em situações que precisam de decisões rápidas e importantes. Assim como, prejudicar a credibilidade de fontes confiáveis, como emissoras de televisão ou pessoas públicas.

Recentemente o debate sobre os conteúdos sintéticos esteve ainda mais presente na mídia, devido a uma cena da novela Travessia, produção da Rede Globo, onde um homem utiliza de estratégias para se passar por uma mulher que supostamente seleciona modelos adolescentes para trabalhos publicitários. 

Por meio de tecnologias de spoofing e deepfake, o criminoso altera a sua imagem e voz, conseguindo imagens e informações da vítima que posteriormente são usadas para chantagens e outras práticas abusivas. 

🔒 Confira: Como proteger a identidade digital para evitar fraudes?

A prática do deepfake é ilegal?

A tecnologia do deepfake é neutra, ou seja, a criação de conteúdos sintéticos por meio da IA não é uma prática ilegal. No entanto, a utilização maliciosa ou fraudulenta de deepfakes no mundo online pode ser considerada ilegal em muitas jurisdições. 

No Brasil, por exemplo, deepfakes vexatórios podem ser enquadrados como crime de difamação, injúria e calúnia, previsto no Código Penal Brasileiro. Além disso, a Lei nº 14.155, de 27 de maio de 2021, que define os crimes cibernéticos, inclui em seu texto a previsão de pena para quem produzir ou divulgar fake news.

Apesar do Direito acompanhar as mudanças da sociedade, nem sempre as leis conseguem se adequar à velocidade da circulação de dados e às inúmeras possibilidades oferecidas pela tecnologia. Por isso, é importante sempre se atentar à veracidade das informações e fazer o possível para prevenir fraudes.

Quais os riscos do deepfake?

Ainda que o alvo principal dos atos online envolvendo deepfake sejam geralmente figuras públicas, as pessoas comuns não saem ilesas dos prejuízos causados por essa tecnologia.

As possibilidades maliciosas são incontáveis, incluindo a desinformação em ambientes políticos, a criação sintética de situações que podem constranger alguém, a constituição de provas falsas em cenários criminosos e, até mesmo, as fraudes de identidade para benefício financeiro. 

Segundo o Relatório de Índice de Inteligência Artificial 2023, publicado recentemente pela Universidade de Stanford, o número de incidentes relacionados ao uso indevido da IA está aumentando rapidamente. Em um contexto de fraudes digitais, esse aumento não fica de fora, já que a tecnologia tem sido cada vez mais utilizada para aprimorar a aplicação de golpes. 

Por exemplo, no phishing e engenharia social, os cibercriminosos podem criar deepfake online de voz ou imagem de supostos representantes de instituições, como bancos, para solicitar dados pessoais sensíveis ou informações financeiras. 

O Account Takeover também pode ser aprimorado com o deepfake, que por meio de uma imagem sintética permite que o golpista se passe por uma pessoa de confiança da vítima para ter acesso a dados de contas bancárias, redes sociais, ou mesmo solicitar transferências. 

Estes são apenas alguns exemplos diante da gama de alternativas de ameaças que colocam em risco a privacidade e a segurança cibernética. As tecnologias anti-spoofing estão avançando, mas também é fundamental ter cautela e verificar a autenticidade de informações suspeitas. 

Como prevenir o uso de deepfakes em fraudes? 

Existem algumas dicas a serem seguidas para identificar um deepfake, por exemplo:

• ao receber um conteúdo duvidoso, verifique-o diversas vezes. Se for um vídeo, assista repetidamente, em diferentes velocidades, assim é mais fácil identificar falhas;
• em caso de deepfake de rosto verifique a pele, os olhos, as sobrancelhas e a boca, além das expressões faciais, se for falso é provável que você encontre evidências;
• por fim, pesquise informações sobre o conteúdo, independentemente do formato, pode ser que existam notícias sobre o assunto ou conteúdos verdadeiros para fins de comparação.

Entrando mais uma vez no contexto de fraudes digitais, é importante que as empresas estejam atentas aos padrões de fraude e comportamentos suspeitos. Os sistemas antifraude se tornam excelentes aliados nesses momentos, alguns exemplos são: autenticações biométricas, autenticação multifator e outros. 

Além disso, recomenda-se fortemente o uso de criptografias para garantir que conteúdos reais não sejam alterados. Isso pode ser particularmente útil em transações financeiras.