O YouTube anunciou uma ferramenta inovadora que auxilia celebridades de Hollywood a detectar deepfakes, intensificando a luta contra o roubo de identidade através da inteligência artificial. Essa nova funcionalidade, apresentada no mês passado, permite que as personalidades identifiquem conteúdos em que seu rosto foi alterado ou gerado por tecnologias de IA.
Inicialmente voltada para funcionários de governo, candidatos políticos e jornalistas, a plataforma agora estendeu o acesso à indústria do entretenimento, incluindo atores e músicos, por meio de agências de talentos e representantes.
A nova ferramenta ajuda a localizar conteúdos gerados por IA que reproduzam a aparência de um indivíduo, como deepfakes, e possibilita que os artistas solicitem a remoção desses materiais. Celebridades podem utilizar a ferramenta mesmo sem um canal no YouTube.
Segundo Alon Yamin, CEO da Copyleaks, essa iniciativa representa um marco na forma como as plataformas digitais tratam a proteção da identidade na era da IA generativa. Ele destacou que a tecnologia que reproduz rostos e vozes avançou rapidamente, criando uma brecha que criminosos estão explorando.
A ferramenta surge em um contexto onde vídeos hiper-realistas de celebridades falecidas, criados com aplicativos como Sora, têm se tornado comuns. Recentemente, Ruairí Robinson, um diretor irlandês, gerou um clipe realista de Brad Pitt lutando contra Tom Cruise, gerando preocupação na indústria cinematográfica.
Charles Rivkin, presidente da Motion Picture Association, pediu que a ByteDance interrompesse suas atividades de falsificação, citando preocupações com direitos autorais. O YouTube, por sua vez, afirmou que está colaborando com agências de talentos para aprimorar a detecção de imagens problemáticas.
Jason Newman, da Untitled Entertainment, elogiou o YouTube por fornecer essas ferramentas gratuitamente, ressaltando que a identidade dos artistas é seu maior patrimônio. O desenvolvimento dessa tecnologia se deu após reclamações sobre a dificuldade de sinalizar e remover deepfakes na plataforma.
Yamin também alertou sobre os riscos associados aos deepfakes, que podem ser utilizados para disseminar desinformação e prejudicar reputações. Ele enfatizou que, embora a detecção não elimine completamente os deepfakes, pode reduzir significativamente seu alcance e impacto, dificultando a circulação de conteúdos manipulados.
Deixe seu e-mail abaixo para garantir acesso a tutoriais exclusivos, novos conteúdos do projeto e nossos lançamentos em primeira mão.