Deepfakes, Solução Condenada

Efeitos especiais que criam faces e cenas em vídeo não são nenhuma surpresa; o cinema já faz isso há anos. Agora, a grande novidade é o chamado deepfake, tecnologia que utiliza a inteligência artificial para produzir vídeos falsos por meio da sobreposição do rosto e de vozes de pessoas em cenas nas quais elas não estiveram presentes, de maneira convincente e realista. Tudo isso criado em computadores pessoais.

Sátiras com políticos e celebridades têm provocado risadas, mas, ao mesmo tempo, devido à possibilidade de prejudicar a reputação de famosos e anônimos, essa tecnologia gera preocupação. Pensando nisso, plataformas como o Google, o Twitter e o Facebook têm restringido a veiculação desses vídeos. Um dos principais motivos para que diversas redes tenham criado políticas de segurança contra as deepfakes é que o ano de 2020 é de eleições nos Estados Unidos. Legisladores e tecnólogos temem que as simulações possam iludir e manipular os eleitores. No Congresso dos EUA, em 2019, o CEO do Facebook, Mark Zuckerberg, chegou a chamar a tecnologia de “ameaça emergente”.

Após consultar mais de 50 especialistas do mundo com formações técnicas, políticas, midiáticas, jurídicas, cívicas e acadêmicas específicas para criar suas políticas e melhorar a sua detecção de mídias manipuladas, a companhia afirmou que removerá aquelas que tenham sido editadas ou que possam enganar alguém. Assumindo postura análoga à da política de práticas enganosas do YouTube, a empresa proibirá o uso de mídia manipulada quando esta apresentar “sérios riscos de danos”. A regra, porém, não se estenderá a conteúdos como paródias ou sátiras.

Na contramão do movimento, plataformas digitais como o Snapchat e o Tik Tok apostam na nova tecnologia. Por aumentar e melhorar os filtros divertidos do Snap, venerados pelos seus 203 milhões de usuários, o aplicativo adotou à inovação no início do ano, quando adquiriu a AI Factory, uma startup que ajudou na criação do novo recurso da plataforma, o Cameos, que se baseia no deepfake. O Tik Tok, por sua vez, construiu uma versão do recurso que permitirá que os usuários troquem rostos em vídeos gravados, criando seus próprios deepfakes.