Ação nos EUA acusa chatbot Grok, da xAI, de criar montagens pornográficas a partir de fotos reais; processo pode envolver mais de mil vítimas e levanta debate sobre limites da inteligência artificial
Três adolescentes do estado do Tennessee, nos Estados Unidos, entraram com uma ação judicial nesta segunda-feira contra a xAI, empresa de inteligência artificial de Elon Musk. Elas acusam o chatbot Grok de ter criado imagens pornográficas a partir de fotos reais.
O processo coletivo pode incluir mais de mil vítimas menores de idade e está relacionado à disseminação, no período do Ano-Novo, de montagens hiper-realistas conhecidas como deepfakes, envolvendo mulheres e crianças nuas. O caso provocou repercussão internacional e levou à abertura de investigações em diferentes países e também no estado da Califórnia.
A ação foi apresentada em um tribunal federal de San José e menciona o caso de um suspeito, já detido, que teria utilizado o Grok para transformar fotos comuns de adolescentes, retiradas de redes sociais ou de álbuns escolares, em imagens sexualizadas altamente realistas.
Essas montagens foram compartilhadas em plataformas como X, Discord e Telegram e, posteriormente, passaram a circular na dark web, sendo utilizadas como moeda de troca para outros conteúdos ilegais, segundo a denúncia apresentada pelas advogadas das adolescentes.
“Ver minha filha tendo um ataque de pânico ao perceber que essas imagens foram criadas e divulgadas sem qualquer possibilidade de remoção foi devastador”, afirmou a mãe de uma das jovens, em comunicado.
As advogadas alegam que a xAI teria desenvolvido o Grok de forma a permitir a criação de conteúdo sexual explícito com fins lucrativos, sem adotar mecanismos de proteção semelhantes aos de outras empresas do setor para impedir esse tipo de uso.
A ação se baseia em duas leis federais dos Estados Unidos: a Lei Masha, que prevê indenização a vítimas de exploração sexual, e a legislação de proteção às vítimas de tráfico humano.
As adolescentes pedem indenização e também solicitam que a empresa seja impedida de permitir a criação desse tipo de conteúdo.
Embora plataformas digitais tenham, em geral, proteção legal em relação ao conteúdo gerado por usuários, a acusação sustenta que a tecnologia da xAI teria sido essencial para a criação dessas imagens.
Um estudo do Center for Countering Digital Hate aponta que o Grok teria gerado cerca de três milhões de imagens sexualizadas em apenas 11 dias no fim de 2025, sendo aproximadamente 23 mil envolvendo menores.
Após a repercussão, a xAI restringiu, em janeiro, a geração de imagens pelo Grok apenas a usuários pagantes e afirmou que passou a bloquear conteúdos sexualizados em regiões onde esse tipo de material é ilegal.
Elon Musk, que costuma se manifestar com frequência na rede X, tem criticado regulações governamentais, afirmando que elas tentam limitar a liberdade de expressão.
Deixe um comentário