Na quinta-feira, 7, os Estados-membros da União Europeia e o Parlamento Europeu chegaram a um consenso para banir ferramentas de Inteligência Artificial (IA) que criam imagens sexuais falsas sem autorização das pessoas envolvidas.
Essa iniciativa foi impulsionada pela introdução de uma função no Grok, um assistente de IA desenvolvido pela xAI, empresa cofundada por Elon Musk. Essa funcionalidade permitia que os usuários solicitassem a criação de imagens hiper-realistas (deepfakes) de adultos e até crianças nus, utilizando fotos reais sem o consentimento necessário.
O recurso gerou um grande escândalo em diversos países e resultou na abertura de uma investigação pela UE. A primeira-ministra italiana, Giorgia Meloni, foi uma das vozes que denunciou a geração de fotos falsas com sua imagem, chamando a ferramenta de “perigosa”.
De acordo com o Parlamento Europeu, a nova proibição abrange sistemas que possam criar imagens, vídeos e sons de natureza pedopornográfica, bem como conteúdos que retratem pessoas em atividades sexuais sem seu consentimento.
A regulamentação começará a ser aplicada a partir de 2 de dezembro de 2026. A partir dessa data, os serviços de IA deverão implementar medidas de segurança para impedir a criação desse tipo de conteúdo prejudicial.
Essa ação faz parte de uma revisão mais ampla da legislação europeia sobre IA, uma lei inovadora que foi aprovada formalmente há dois anos. Além disso, os 27 países-membros e os eurodeputados decidiram adiar a implementação de novas normas que regulam sistemas de IA considerados de alto risco, utilizados em setores sensíveis como segurança, saúde e direitos fundamentais.
Deixe seu e-mail abaixo para garantir acesso a tutoriais exclusivos, novos conteúdos do projeto e nossos lançamentos em primeira mão.