A deputada Jess Asato, do Partido Trabalhista, entrou com uma ação judicial contra a empresa xAI, de Elon Musk, após alegar que o chatbot Grok foi utilizado para criar imagens sexualizadas falsas dela, incluindo uma em que aparece de biquíni, e um vídeo que a retrata como vítima de um ataque sexual. Asato afirmou que esses conteúdos a deixaram se sentindo "angustiada e violada".

Na terça-feira, os advogados de Asato publicaram os detalhes do processo, que incluem instruções postadas publicamente que demonstram como o Grok foi treinado para produzir conteúdo sexualizado prejudicial. Segundo o processo, o chatbot operava sem restrições em relação a conteúdo sexual adulto ou ofensivo, e era instruído a não impor limites a temas adultos fictícios com conotações sombrias ou violentas.

Instruções do Grok e suas implicações

Além das alegações de que o Grok foi orientado a gerar conteúdo sexual sem limites, as instruções também afirmam que termos como "adolescente" ou "garota" não necessariamente implicam menoridade, embora proíbam material de abuso sexual infantil. Asato criticou a postura da xAI, afirmando que "nenhuma mulher ou criança deveria viver com o medo de que sua imagem possa ser sexualizada e compartilhada sem consentimento por um sistema de IA".

Na visão da deputada, a empresa tem se esquivado de suas responsabilidades, atribuindo a culpa aos usuários, enquanto o design da ferramenta permite a sexualização de forma irresponsável. "O que aconteceu comigo não foi um acidente. Musk escolheu lucrar com o dano e treinou o Grok para abusar", declarou Asato.

Consequências legais e preocupações sobre IA

O processo de Asato alega que o Grok, em algumas ocasiões, adicionou material explícito que os usuários não solicitaram, e que a xAI violou leis de proteção de dados e fez uso indevido das informações pessoais da deputada. Ravi Naik, diretor jurídico da AWO, escritório que representa Asato, afirmou que o caso evidencia que o Grok não apresentou uma falha, mas sim atuou de acordo com as escolhas de seus criadores, que devem ter consequências legais.

Clare McGlynn, professora de direito da Universidade de Durham, apontou que algumas imagens geradas pelo Grok continham elementos sexualizados que não foram solicitados pelos usuários, caracterizando uma nova forma de abuso. "Chamamos isso de abuso impulsionado por chatbots", comentou McGlynn, ressaltando a necessidade de controle sobre ferramentas de IA à medida que empresas buscam desenvolver produtos autônomos.

Em resposta às críticas, a xAI anunciou que os usuários não poderão mais utilizar o Grok para gerar imagens sexualizadas de pessoas reais. Além disso, a criação ou solicitação de imagens deepfake não consensuais de adultos se tornou ilegal no Reino Unido. A empresa foi contatada para comentar sobre o caso.