Justiça
3 adolescentes processam empresa de Elon Musk por gerar imagens pornográficas com fotos reais
Três adolescentes do estado norte-americano de Tennessee (sul) apresentaram processaram na segunda-feira a xAI, a empresa de inteligência artificial de Elon Musk, acusando o chatbot Grok de gerar imagens pornográficas delas a partir de fotografias reais.
PUBLICIDADE
A ação judicial coletiva, que poderá abranger mais de mil vítimas menores, está diretamente relacionada com a proliferação, por altura do Ano Novo, de montagens hiper-realistas (deepfake, em inglês) de mulheres e crianças nuas, o que suscitou uma onda de indignação a nível mundial e a abertura de inquéritos em vários países e no estado da Califórnia.
PUBLICIDADE
A queixa, apresentada num tribunal federal de San José (Califórnia), cita o caso de um autor — entretanto detido — que utilizou o Grok para transformar fotografias comuns de jovens raparigas, tiradas nas redes sociais ou em álbuns escolares, em imagens sexualizadas hiper-realistas.
Essas montagens circularam posteriormente no X (antigo Twitter), Discord e Telegram, tendo depois migrado para a ‘dark web’, servindo de moeda de troca para outros conteúdos de pornografia infantil, relata a queixa, segundo as advogadas que representam as três adolescentes.
“Ver a minha filha a ter um ataque de pânico ao perceber que estas imagens tinham sido criadas e divulgadas sem esperança de as apagar foi devastador”, declarou a mãe de uma delas, citada num comunicado divulgado pelas advogadas.
A xAI “concebeu deliberadamente o Grok para produzir conteúdos sexualmente explícitos com fins lucrativos”, sem implementar as medidas de proteção utilizadas por outros grandes intervenientes no setor da IA contra a pornografia infantil, denunciam as advogadas.
A queixa baseia-se, nomeadamente, em duas leis federais norte-americanas: a lei Masha, que permite às vítimas de pornografia infantil obter uma indemnização, e a lei sobre a proteção das vítimas de tráfico de seres humanos.
As queixosas reclamam uma indemnização e pedem que a xAI seja impedida de permitir este tipo de montagens.
As plataformas estão amplamente isentas de responsabilidade nos Estados Unidos pelo conteúdo publicado pelos utilizadores. Mas “sem a xAI, esses conteúdos ilegais nunca teriam podido existir”, argumenta Annika K. Martin, advogada do escritório Lieff Cabraser.
De acordo com um estudo do Center for Countering Digital Hate (CCDH), o Grok terá gerado cerca de três milhões de imagens sexualizadas em apenas 11 dias no final de 2025, das quais 23.000 representavam menores.
Perante a onda de indignação, a xAI restringiu, em meados de janeiro, a geração de imagens com o Grok apenas aos seus assinantes pagantes e garantiu bloquear a geração de imagens sexualizadas “nas jurisdições onde tal é ilegal”.
Elon Musk, que se pronuncia diariamente no X, critica as regulamentações dos governos, acusados de quererem “suprimir a liberdade de expressão”.
PUBLICIDADE
