Deepfakes e as eleições de 2020

Os avisos circulam há vários anos, mas este ano estamos vendo uma confluência do aumento da criação de deepfake mais sofisticada, coincidindo com uma eleição presidencial no USA que promete ser tão divisória quanto na história do país. O Facebook reconhece a ameaça dos deepfakes e diz que proibirá a variedade mais convincente que mostra as pessoas dizendo “palavras que na verdade não disseram“. E o Twitter emitiu uma proibição semelhante a esses vídeos que são “compartilhados enganosamente“, embora tenha deixado a porta aberta para outras “mídias manipuladas” que permitirão se rotular como manipuladas.

Na realidade, tudo o que precisamos é de um “cheapfake” – um vídeo menos sofisticado, mas manipulado – que caminha entre a verdade e a ficção. Publicado por uma campanha, poderia enfurecer um lado ou outro do espectro político e questionar a sabedoria dessas políticas. Fora do que as campanhas pagam para postar no Facebook – o que a empresa diz que não censurará, porque, como Mark Zuckerberg disse, “em uma democracia, acredito que as pessoas devam decidir o que é credível” -, também pode haver um ou dois deepfake que vazam e proliferam nas mídias sociais antes que as plataformas possam derrubá-lo. Embora isso seja menos provável.

Isso se deve à sofisticação técnica e ao enorme poder do computador que exige a criação de um deepfake convincente. (como o acima com Bezos e Musk). Nota: Lembram da versão do Obama em 2018?

Como explica um redditor (acima), uma IA que ele está executando para aprender o rosto de um ator, usando uma placa de vídeo de médio porte, pode trabalhar por uma semana ou duas e consumir bastante dinheiro quando se trata de computação em nuvem. Como a Ars Technica publicou em dezembro, não convincente Mark Zuckerberg como tenente-comandante Data (Brent Spiner) de “Star Trek: The Next Generation” exigiu duas semanas e US$ 552 apenas em custos de nuvem – embora com o mais recente software de deepfake, mesmo alguém com pouca experiência pode criar uma.

Dado tudo o que foi dito acima, é preciso supor que alguém lá fora terá os meios e a motivação para criar um ataque profundo destinado a influenciar as eleições ao redor do planeta – e ninguém sabe o quão convincente ou influente pode ser seja uma vez que publicado.