Deepfake é uma técnica de inteligência artificial que sintetiza e manipula imagens e sons humanos, trazendo desafios da inteligência artificial para o mundo real.
Já pensou ver seu rosto em imagens ou vídeos aleatórios? Ou saírem de sua boca palavras as quais você não pronunciou? Em meio ao universo digital que vivemos, essas coisas são possíveis de acontecer, graças ao deepfake.
O Midjourney, um serviço de IA que gera imagens a partir de linguagem natural, chegou até mesmo a suspender sua versão gratuita de testes no Discord, após deepfakes virais do Papa Francisco e do ex-presidente Donald Trump.
Deepfake gerada no Midjourney do Papa com uma jaqueta puffer. Imagem: Reprodução/Redes
Outra deepfake que deu o que falar foi a da prisão de Donald Trump. Fato que, na realidade, não aconteceu.
🔴 Un internaute a créé de fausses images de Donald Trump en prison avec la nouvelle version de l’IA Midjourney (V5).
Ces images sont tellement réalistes qu’elles font la une sur la toile.
Crédit : @EliotHiggins pic.twitter.com/qfO6Voecx3
— Warketing Digital (@WarketingDigit) March 22, 2023
As imagens falsas do empresário resistindo a ação dos policiais se espalharam pelo mundo todo e acabaram sendo compartilhadas tanto por apoiadores, quanto pela oposição, criando uma fake news das grandes.
Com um olhar mais atento para as imagens é possível perceber que apesar da verossimilhança, o trabalho da IA não é perfeito. Tanto os nomes da farda dos policiais estão desfocados, como os rostos estão em formatos estranhos.
Mas em uma realidade em que passamos bem pouco tempo observando os detalhes e somos instigados a consumir sempre mais e mais, essas são questões que se perdem e às vezes as compartilhamos sem saber a procedência.
La imagen del Papa Francisco con abrigo de invierno blanco es un deepfake. Usaron Inteligencia Artifical y te contamos cómo lo supimos https://t.co/vq70BEVXHL pic.twitter.com/bAcENVYdj0
— Factchequeado (@factchequeado) March 27, 2023
Esse post explica como um veículo fez a checagem da imagem, para descobrir que essa se tratava de uma ilustração falsa.
Essa é uma questão delicada, já que as deepfakes acabam acarretando uma “faca de dois gumes” quanto a navegação na internet.
Se por um lado a nossa desconfiança aumenta e ficamos com os olhos mais abertos, por outro lado, também não dá para questionar tudo e tratar todas as informações como falsas. É preciso ter equilíbrio nessa terra que não é de ninguém. Imagem: Reprodução/iStock
Apontar informações legítimas como falsas foi apontado como uma das principais causas de disseminação na internet de acordo com um estudo realizado por John Twomey, pesquisador de psicologia aplicada da University College Cork, na Irlanda, e seus colegas.
Eles analisaram mais de 1,2 mil tuítes sobre a invasão da Rússia à Ucrânia, alguns que alertavam sobre o risco de serem conteúdos deepfakes.
Assim como uma máscara física pode enganar visualmente, os deepfakes podem enganar auditivamente e visualmente, criando situações em que é difícil distinguir a realidade da falsificação. Imagem: Reprodução/iStock
Mas a inteligência artificial também desempenha um papel crucial na detecção de deepfakes. Mapeamos 6 maneiras como a IA pode te ajudar a lidar com esse problema.
Os sistemas de IA podem ser treinados para identificar padrões incomuns nos vídeos ou áudios. O que envolve a análise de características, como os movimentos faciais irregulares, artefatos visuais ou inconsistências na voz, que podem indicar manipulação.
Criar redes neurais para detectar padrões específicos associados a deepfakes é uma área ativa de pesquisa.
Esses modelos podem aprender a distinguir entre conteúdo autêntico e manipulado com base em diferenças sutis nos padrões de pixels ou áudio.
Exemplo de um deepfake com Elon Musk e Nicolas Cage. Imagem: Reprodução/Discover Magazine
Utilizar tecnologias como assinaturas digitais e blockchain para rastrear a autenticidade de vídeos e áudios, desde a sua origem até o destino final, pode te ajudar a garantir a integridade do conteúdo.
Deepfake criada com imagem do ator Tom Cruise. Imagem: YouTube/Miles Fisher
Criar e manter bancos de dados de conteúdo autêntico pode ajudar os algoritmos de IA a comparar e identificar discrepâncias entre o conteúdo real e o potencialmente manipulado.
A IA pode ser treinada constantemente com novos exemplos de deepfakes para aprimorar suas habilidades de detecção e adaptação a métodos de manipulação emergentes.
Essa adaptação constante é crucial para manter a eficácia dos sistemas de detecção diante das constantes inovações na criação de deepfakes. Imagem: Reprodução/DeepFaceLab
É fundamental que haja colaboração entre pesquisadores, empresas e governos para desenvolver soluções eficazes e políticas que ajudem a prevenir o uso malicioso de deepfakes.
Embora a inteligência artificial tenha um papel importante na comprovação de deepfakes, é essencial entender que a evolução da tecnologia de deepfake também implica em melhorias nas técnicas de detecção.
Portanto, a batalha entre a criação e a detecção de deepfakes provavelmente continuará sendo uma corrida armamentista tecnológica.
