Grace Windheim já tinha ouvido falar de deepfakes antes. Mas nunca tinha pensado em como fazer um. Foi através de um meme viral que usava a tecnologia que a levou a pesquisar a possibilidade – e descobrir que era super fácil e totalmente gratuito.
Num dia, criou um tutorial passo a passo no YouTube para guiar outras pessoas ao longo do processo. “Fazer uma dessas deepfakes e sobrepor áudio não é tão complicado quanto pensar”, diz no vídeo, publicado em 4 de agosto. Desde então, foi visto mais de 360.000 vezes.
Windheim faz parte de um novo grupo de criadores online que estão a brincar com deepfakes conforme a tecnologia se torna cada vez mais acessível e se infiltra na cultura da internet. O fenómeno não é nenhuma novidade; ferramentas de manipulação de media frequentemente ganham força por meio de brincadeiras e paródias. Mas também levanta novas preocupações sobre o seu potencial uso abusivo.
Deepfakes já foram usados para assediar mulheres trocando, sem consenso, os seus rostos em vídeos porno. Os académicos também se preocupam com a sua capacidade de atrapalhar as eleições. Embora as deepfakes criadas para memes ainda sejam obviamente falsas e relativamente inofensivos, podem não permanecer assim por muito tempo.
“Há uma linha ténue entre usar deepfakes para entretenimento e memes e usá-los para fazer o mal”, diz Windheim. “Neste tutorial, estou a dizer: ‘É assim que cria este deepfake específico’. Mas o assustador sobre o código é que ele pode ser aplicado para fazer qualquer tipo de deepfake que você quiser.”
“Eu fui um tolo”
Windheim, recém-formada, trabalha como criadora de conteúdo na startup Kapwing, com sede em São Francisco. A empresa, que começou como fabricante de memes, oferece um pacote baseado num navegador gratuito de ferramentas de software de edição de vídeo. Como parte do seu trabalho, Windheim administra o canal do YouTube e produz vídeos de marketing de conteúdo para mostrar as capacidades dos produtos.
No início de agosto, encontrou um termo de pesquisa particularmente viral no Google Trends. Três das cinco principais consultas eram sobre um “meme deepfake Baka Mitai“. “Quase nunca vejo uma consulta surgir com tanta frequência”, afirma.
O meme, ao que parece, foi baseado num vídeo de um YouTuber a dar voz a uma música de videojogo japonês chamada “Baka Mitai” (tradução: “Eu fui um tolo”). Vários utilizadores da internet usaram o vídeo para criar deepfakes de baixa qualidade de toda a gente, desde Barack Obama a Thanos (personagem fictício das histórias de banda desenhadas pela Marvel Comics) a cantar a música. Apesar da sua popularidade, no entanto, Windheim descobriu que pouco tinha sido comentado sobre como realmente criar uma. Ela viu uma oportunidade.
O algoritmo deepfake em específico que as pessoas estavam a utilizar vem de um artigo de investigação de 2019 apresentado na NeurIPS, a maior conferência anual de pesquisa de Inteligência Artificial (IA). Ao contrário de outros algoritmos mais complexos, permite que um utilizador pegue em qualquer vídeo do rosto de uma pessoa e use-o para animar uma foto do rosto de outra pessoa com apenas algumas linhas de código.
Windheim encontrou o algoritmo de código aberto em um tutorial do YouTube e importou-o para um arquivo notebook no Google Colab, um serviço gratuito para execução de código na nuvem. Depois de algumas tentativas, com a ajuda das habilidades que adquiriu nas aulas ocasionais de codificação na faculdade, conseguiu o código para criar um vídeo de deepfake. Então, sincronizou a música com o vídeo com as ferramentas de Kapwing, criando uma nova versão do meme.
Desde que publicou o seu tutorial no canal de Kapwing no YouTube, vários outros YouTubers também fizeram tutoriais, utilizando o mesmo algoritmo. A diferença: muitos deles estão a ensinar como fazer qualquer tipo de meme deepfake. Um até ensina as pessoas a fazê-los usando o telemóvel.
Esses memes agora estão a aparecer em todos os lugares nas redes sociais: no Twitter, Instagram e especialmente no TikTok. Os vídeos curtos da plataforma, que muitas vezes apresentam desde coreografias simples até música contagiantes, são particularmente propícios para serem manipulados com a deefpfake num efeito fascinante. A hashtag #deepfake no aplicativo já acumulou mais de 120 milhões de visualizações.
@lemonjezus i did one with @afiqhakim this time hope y’all enjoy! #deepfake #pokimane #xqc #drdisrespect #tsmmyth #greekgodx #tyler1 #sodapoppin #ludwig #tfue
@animovie1 #huronarolera #bellapoarch #аниме #anime #аниметоп #rek #top #tik_tok #tiktok #длявас #fyp #рекомендации #рек #топ #р_е_к_о_м_и_н_д_а_ц_и_и
Há uma hesitação estranha e reveladora nos rostos nos vídeos feitos com este algoritmo, o que torna este material fácil de reconhecer; isso faz parte do humor das deepfakes. Essas imperfeições – e a qualidade surrealista dos memes – evitarão que sejam confundidos com a realidade. No momento, deepfakes mais hiper-realistas são muito mais desafiadores em questão de técnica e computacionalmente caros para criar.
Mas no ritmo em que a tecnologia está a avançar, deepfakes fáceis de fazer e que sejam quase indistinguíveis da realidade estão provavelmente bem perto de serem criadas. Algumas empresas, como a gigante tecnológica chinesa Tencent, proprietária do WeChat, anunciaram publicamente as suas intenções de investir mais recursos no avanço e para aplicações comerciais de ponta.
Deepfakes não são inerentemente más. A tecnologia já foi usada por artistas, educadores e outros como uma nova ferramenta poderosa para a expressão criativa. Em fevereiro, por exemplo, a revista Time usou deepfakes para recriar a experiência de Martin Luther King Jr. proferindo o seu discurso “Eu tenho um sonho” em realidade virtual. Em última análise, os reguladores precisam definir o que é o uso apropriado e o que pode causar danos.
Por enquanto, Windheim está a contar com o seu próprio julgamento para decidir isso. Antes de publicar o seu vídeo, leu sobre as implicações das deepfakes e conversou com os seus colegas. “Nunca pretendemos que os nossos produtos ajudem os utilizadores a espalhar informações erradas, então só queríamos fazer um teste de sanidade por conta própria.”
No final, decidiram sobre algumas regras básicas: focariam os seus tutoriais em fazer memes específicos, nunca em criar deepfakes fora desse contexto. Contando que seja entretenimento e dentro da cultura de meme, considera, “estamos dentro do limite”.
Artigo de Karen Hao, da MIT Technology Review (EUA) (adaptado).
MIT Technology Review