• Jessica Santos

Precisamos falar sobre deepfakes

Com 1,6 milhão de seguidores no Instagram, Lil Miquela surgiu em 2017 como uma modelo e ativista californiana de 19 anos que aparecia sempre com o cabelo apanhado como a Princesa Leia, da Guerra das Estrelas. Ativista e cheia de atitude, logo firmou parcerias com grandes marcas como a Prada, sessões fotográficas para a Vogue, campanhas contra o racismo e a homofobia, e muitos acordos de confidencialidade. Mas Lil nunca tinha sido vista em carne e osso.


Recentemente, a revelação: atrás das imagens da Miquela não estava uma mulher, mas um sistema de inteligência artificial criado por uma empresa de Los Angeles com apenas seis pessoas, a Brud. O caso prova como estamos mergulhados em um mundo em que a linha entre o real e o fake é cada vez mais tênue.



O que são deepfakes?


O termo deepfake apareceu em dezembro de 2017, quando um usuário do Reddit com esse nome começou a postar vídeos de sexo falsos com famosas. Com softwares de deep learning, ele aplicava os rostos que queria a clipes já existentes. Os casos mais populares foram os das atrizes Gal Gadot e Emma Watson. A expressão deepfake logo passou a ser usada para indicar uma variedade de vídeos editados com machine learning e outras capacidades da IA.


O debate sobre o tema agora envolve o uso da deepfake como arma política e de propaganda, quando vídeos criados com a ajuda de inteligência artificial podem mostrar pessoas reais fazendo e dizendo coisas que nunca fizeram. O diretor e comediante Jordan Peele se uniu ao BuzzFeed e Barack Obama para criar este vídeo deepfake como alerta dos estragos que um material manipulado pode fazer:


Confira abaixo (e se assuste):




Como são criados?


Aplicativos que podem criar deepfakes – como FakeApp e DeepFaceLab - estão disponíveis para download gratuito, mas criar um deepfake convincente exige acesso a algoritmos e conhecimentos de deep learning, um bom processador gráfico e um amplo acervo de imagens. Com essas ferramentas em mãos, especialistas no assunto com intenções maliciosas podem transformar tudo isso em uma grande confusão.


De acordo com o site Tech Tudo, neste processo o programador fornece centenas e até milhares de fotos e vídeos das pessoas envolvidas, que são automaticamente processadas por uma rede neural. É como um treinamento, no qual o computador aprende como é determinado rosto, como ele se mexe, como ele reage a luz e sombras. Esse “treino” é feito com o rosto do vídeo original e com o novo rosto, até que o programa seja capaz de encontrar um ponto comum entre as duas faces e “costurar” uma sobre a outra. O procedimento envolve uma espécie de truque, em que o software recebe uma imagem da pessoa A e a processa como se fosse a pessoa B.





Pra que criar deepfakes?


Deepfakes têm o objetivo de enganar intencionalmente pessoas e espalhar informações falsas. Embora as imagens falsas possam ser usadas para entretenimento e sátira na TV e nas mídias sociais (onde geralmente são identificadas como tal), as deepfakes são criadas para trollar. Estão se tornando lentamente mais comuns - e são irritantemente difíceis de identificar - criando sérios problemas para o governo, para a indústria de tecnologia e também para as pessoas, que acabam sem saber no que acreditar.


Precisamos nos preocupar com deepfakes?


Manipular imagens para retratar um ponto de vista e convencer os espectadores não é novidade. Mas as deepfakes não são modelos retocados em revistas ou filtros de brilho no Snapchat. Quando seus objetivos são eleitorais, manipular eventos reais da história ou outras informações públicas, os vídeos têm o potencial de minar a confiança das pessoas, um pensamento especialmente assustador nos tempos atuais. Por isso, as deepfakes chamaram a atenção dos políticos. Em julho de 2019, o presidente do Comitê de Inteligência da Câmara dos EUA, Adam B. Schiff, escreveu cartas aos CEOs do Facebook, Twitter e Google questionando as políticas formais de suas empresas sobre deepfakes e desenvolvimento de tecnologias para detectá-las. Até agora, as empresas não responderam ou não declararam publicamente como lidarão com esse fenômeno emergente.



O que você pode fazer?


As crianças podem, na verdade, ser mais inteligentes em relação a deepfakes do que todos nós. Elas sabem tudo sobre o uso de ferramentas de edição como as do Snapchat, Instagram e Facetune para criar imagens - e não confiam em tudo que veem. Essas habilidades de educação midiática serão essenciais à medida que crescem em um ambiente onde qualquer um pode criar facilmente qualquer coisa online.


Como identificar deepfake?


Como somos facilmente enganados, cabe às empresas de tecnologia nos ajudar a reconhecer falhas e sinalizar possíveis indícios de deepfake. A Adobe, criadora do Photoshop, fez parceria com pesquisadores da Universidade da Califórnia em Berkeley para treinar a IA a reconhecer a manipulação facial. Essa ferramenta pode eventualmente ajudar os consumidores a detectar falhas profundas. Enquanto isso, quando assistir a um vídeo, preste sempre atenção nos seguintes fatores:

  • descolorações do rosto

  • iluminação diferente

  • som e vídeo mal sincronizados

  • embaçamento onde o rosto encontra o pescoço e os cabelos


Vídeos famosos de deepfake


No YouTube, os filmes deepfakes e os mash-ups de celebridades são populares. Em um exemplo, Sylvester Stallone se torna Arnold Schwarzenegger em "Terminator 2." Ou Keanu Reeves como Forrest Gump.


No Instagram, um personagem gerado pela IA chamado Lil Miquela tem 1,5 milhão de seguidores e interage com outros usuários. Lil Miquela não representa um vídeo deepfake - é uma manobra publicitária - mas demonstra a aceitação de algumas representações digitais imaginadas por alguns consumidores.


Recentemente, um vídeo do personagem Chapolin Colorado com a voz do presidente Jair Bolsonaro também circulou na redes.


Conteúdo original da Common Sense Media, uma organização não-governamental com objetivo de ajudar crianças e famílias a navegar no mundo da mídia e tecnologia.

39 visualizações

© 2019 by Edu-Midia. Proudly created with Wix.com