No próximo ano, acontecem as eleições nos Estados Unidos, e os senadores estão mais preocupados do que nunca com a ascensão dos deepfakes, ferramentas de inteligência artificial que criam composições artificiais que alteram vídeos em diversas formas, permitindo que você atribua afirmações a personagens de qualquer vídeo, que nunca foram feitas de fato por eles. Tendo em mente o potencial que os deepfakes têm para propagar fake news, os senadores querem que as redes socias deem um jeito. “Mais de dois terços dos americanos agora recebem suas notícias de sites de mídia social”, escreveram em conjunto os Senadores Mark Warner e Marco Rubio, em uma série de cartas para várias plataformas de tecnologia. “O aumento da dependência das mídias sociais exigirá que sua empresa assuma um conjunto maior de obrigações para proteger o interesse público e a confiança do público”.
Os vídeos da tecnologia deepfake frequentemente se tornam virais na internet. Muitos se aproveitam desses recursos para o entretenimento, como quando transformaram o Will Smith no protagonista de Matrix, que originalmente é vivido por Keanu Reeves. Apesar dessas brincadeiras, o deepfake é algo muito preocupante para os especialistas, e é muito mais sério.
Os senadores ainda dizem, em carta para as grandes empresas responsáveis por redes sociais como o Reddit e o Facebook, lugares onde mais propagam os deepfakes. Além dessas duas redes, os senadores entraram em contato com Imgur, LinkedIn, Pinterest, Snapchat, TikTok, Tumblr, Twitch, Twitter e YouTube. “Acreditamos que é vital que sua organização tenha planos para lidar com a tentativa de uso de tecnologias com técnicas de aprendizado de máquina e análise de dados para gerar áudio ou vídeo enganoso. Ter uma política clara para autenticar a mídia e diminuir o ritmo em que a desinformação se espalha, pode ajudar a atenuar alguns desses riscos”. Para esse fim, os senadores querem que as plataformas digam, em primeiro lugar, quais são suas políticas e regras atuais em relação à “mídia enganosa, sintética ou fabricada”, se essas regras existirem. Os senadores também querem saber se as empresas ainda têm à sua disposição a capacidade técnica de detectar vídeos deepfake.
Rubio e Warner já soaram esse alarme antes. Eles disseram que os deepfakes e outros vídeos manipulados ou devem ser considerados uma preocupação de segurança nacional, especialmente relacionada à interferência eleitoral. “Estamos enfrentando uma séria ameaça à confiança do público nas informações que consumimos. Devemos saber se as empresas de mídia social têm um plano de como lidar com isso”.
No início de setembro, o Facebook, a Microsoft, a Partnership on AI e os acadêmicos de sete universidades lançaram um concurso chamado Deepfake Detection Challenge, cujo objetivo é incentivar maneiras de detectar deepfakes. Um grande desafio para os pesquisadores é a necessidade de acumular vários exemplos de deepfakes para treinar um sistema de detecção. Os envolvidos no concurso afirmaram, na época, que é relativamente fácil detectar uma falha profunda quando um sistema já está acostumado com o vídeo original, mas fora isso, é muito difícil. A ideia do concurso não era criar um sistema que acabe com todos os deepfakes para sempre, mas encontrar maneiras de tornar mais difícil e mais caro criar deepfakes aceitáveis.
Fonte: Canaltech
