A startup de inteligência artificial xAI, fundada por Elon Musk, entrou com uma ação contra um homem da Carolina do Sul, preso por suspeita de exploração sexual de menores. O réu, Terry Harwood, teria utilizado indevidamente o sistema de IA Grok para criar imagens de abuso sexual infantil.
A ação, protocolada em um tribunal federal do Texas na última terça-feira (14), marca um dos primeiros casos em que uma empresa de IA processa um usuário por utilizar sua tecnologia para gerar conteúdo sexualmente explícito.
Harwood, que foi detido em fevereiro, não teve seus contatos localizados imediatamente, e a xAI também não se pronunciou sobre o assunto até o momento. As acusações contra Grok incluem a criação de deepfakes sexualizados sem consentimento, que são imagens e vídeos altamente realistas gerados por inteligência artificial.
A xAI afirma que está combatendo esse uso indevido por meio de várias medidas, como a suspensão e encerramento de contas, além de relatar casos de abuso sexual infantil ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC). Em 2026, a empresa suspendeu 52.222 contas e enviou 73.604 denúncias ao NCMEC, resultando em pelo menos 244 prisões.
De acordo com a xAI, Harwood teria enviado imagens de adultos e crianças ao Grok, tentando criar deepfakes sexualmente explícitos. Além disso, ele também produziu imagens de adultos sem o devido consentimento. A empresa pede uma indenização cujo valor não foi especificado e solicita que a Justiça proíba Harwood de usar a plataforma Grok no futuro.
A xAI destacou que a atuação do réu representa um plano deliberado para transformar sua ferramenta em um instrumento para fins criminosos, colocando em risco vítimas reais e prejudicando a reputação da empresa.
Deixe seu e-mail abaixo para garantir acesso a tutoriais exclusivos, novos conteúdos do projeto e nossos lançamentos em primeira mão.