A xAI, agora oficialmente chamada SpaceXAI após a fusão das empresas de Elon Musk, ajuizou uma ação contra o procurador-geral de Minnesota, Keith Ellison, para contestar uma nova lei estadual que proíbe aplicativos e sites de gerar imagens íntimas não consensuais. A legislação, a primeira desse tipo nos Estados Unidos, foi aprovada pelo governador Tim Walz no início deste ano e deve entrar em vigor em agosto.

Detalhes da legislação

A nova lei impõe multas de até US$ 500 mil aos desenvolvedores sempre que um usuário gerar um deepfake sexual não consensual utilizando suas plataformas. A xAI argumenta que a legislação é uma proibição excessiva e baseada em conteúdo que compromete a liberdade de expressão e as ferramentas de expressão visual, em um esforço desajeitado para proibir a 'nudificação'. A empresa afirma que não está contestando o interesse de Minnesota em proibir a disseminação de imagens nuas artificialmente geradas de pessoas reais sem consentimento, mas que a lei vai além desse objetivo, expondo uma ampla gama de discursos protegidos a sanções civis e governamentais.

Controvérsias em torno da xAI

A xAI enfrentou críticas desde o início do ano, após relatos de que permitia a seus usuários transformar fotos de mulheres e crianças em imagens sexualizadas. Várias autoridades e reguladores, incluindo da Califórnia, Ofcom do Reino Unido, a Comissão Europeia e a Comissão de Proteção de Dados da Irlanda, iniciaram investigações sobre a empresa. Apesar de ter implementado medidas para impedir deepfakes não consensuais, o sistema ainda permitiu que usuários desnudessem pessoas.

A empresa defende que proíbe estritamente a geração de imagens nuas ou sexualizadas de pessoas sem seu consentimento e que processou usuários que burlaram seus bloqueios tecnológicos. Recentemente, xAI moveu uma ação contra um usuário da Carolina do Sul por gerar imagens íntimas não consensuais utilizando fotos reais de adultos e menores.

De acordo com a xAI, a nova legislação a forçaria a restringir as funcionalidades de edição de imagens do Grok Imagine de várias maneiras assim que a lei entrar em vigor em 1º de agosto de 2026. A empresa argumenta que isso resultaria em um cerceamento da liberdade de expressão que anteriormente era amplamente disponível.

Reação do governo de Minnesota

Em resposta à ação judicial, Ellison publicou em sua conta no X que há muitos debates relevantes a serem realizados sobre inteligência artificial, mas este não é um deles. Ele afirmou que a 'nudificação' por meio de IA retira a dignidade da vítima e pode causar danos imensos em vários níveis. O governador Walz também se manifestou, afirmando: 'Vejo você no tribunal, creep'.

O uso de IA para gerar imagens nuas de pessoas contra sua vontade é amplamente considerado inaceitável, e a controvérsia em torno do tema continua a crescer.