O YouTube lançou uma nova ferramenta no Brasil que permitirá identificar deepfakes de políticos e rastrear vídeos com imagens potencialmente manipuladas por inteligência artificial (IA) . No Brasil, a ferramenta é parte de um esforço da plataforma para combater informações falsas nas próximas eleições e passa a estar disponível, a partir desta terça-feira (10). As informações são da Folha de S.Paulo.
Os deepfakes são vídeos ou fotos criados com inteligência artificial que imitam de forma extremamente realista a aparência, voz e gestos de pessoas reais.
A ferramenta deve ser apresentada ao TSE (Tribunal Superior Eleitoral) e o acesso será concedido inicialmente a políticos e jornalistas que forem contactados pela plataforma. Esse grupo deve ser expandido progressivamente, mas não há mais detalhes a respeito.
Avaliação da ferramenta
Apesar de o intuito ser o combate a conteúdos como deepfakes, que estão cada vez mais realistas, o próprio texto do YouTube sobre a ferramenta afirma que, por estar em fase de testes, o recurso pode detectar também vídeos que mostram os rostos reais dessas pessoas.
A partir dessa varredura inicial feita pela plataforma, a figura pública poderá revisar os conteúdos listados e solicitar a remoção daqueles gerados ou alterados por IA. De acordo com a empresa, a retirada não será automática e dependerá de análise e critérios definidos em suas diretrizes de privacidade.
Em entrevista coletiva, representantes da empresa foram questionados, por exemplo, se o presidente dos Estados Unidos, Donald Trump, teria acesso ao recurso, o que não foi informado.
Tampouco foi divulgado em quais outros países políticos e jornalistas passariam a ter acesso à ferramenta nessa primeira rodada de expansão. Nessa entrevista, estiveram presentes, além da Folha de S.Paulo, apenas jornalistas dos EUA.
Na semana passada, o TSE aprovou novas regras sobre propaganda eleitoral e conteúdo político nas redes. Entre outros itens, manteve a proibição de deepfake tanto para prejudicar quanto para favorecer candidaturas e proibiu a publicação desde 72 horas antes da eleição de conteúdos com IA.
A resolução sobre o tema prevê também a responsabilização solidária das redes sociais caso elas não removam conteúdos considerados “de risco”, sendo um deles o de divulgação de conteúdo gerado ou alterado por IA que esteja em desacordo com as vedações eleitorais.
Youtube sobre deepfakes de políticos
Por ora, a ferramenta do YouTube inclui apenas imagem, não áudio. Ela funcionará de modo semelhante à Content ID, conhecida por rastrear conteúdo protegido por direitos autorais na plataforma, mas buscando imagens que pareçam ser do rosto da pessoa que se registrou.
“É uma maneira de a gente ter mais pessoas controlando, de alguma forma, a sua imagem, tendo mais gerência, mais autonomia para fazer essa fiscalização”, diz Alana Rizzo, líder de políticas públicas do YouTube Brasil. “Essa ferramenta faz essa busca e detecção em grande escala e depois comunica o detentor daquele canal, daquela imagem.”
Apenas casos que se enquadrem como violação às diretrizes de privacidade poderão ser denunciados por esse mecanismo, não incluindo outras práticas, como desinformação.
Segundo as regras, entre os fatores considerados pelo YouTube para avaliar o pedido de remoção, está se o conteúdo é sintético ou alterado, se é realista, ou se o material mostra uma figura pública ou pessoa conhecida praticando “atividades sensíveis, como crimes, atos de violência e endossos a produtos ou candidatos políticos”. Além disso, se apresenta paródia, sátira ou outro aspecto de interesse público.
📲 Não perca nenhuma notícia! Siga o Instagram da Banda B e receba as atualizações direto no seu feed. Clique aqui!
