A empresa de inteligência artificial xAI, de propriedade de Elon Musk, enfrenta um processo contra xAI movido por Ashley St Clair, mãe de um dos filhos do bilionário. A ação judicial alega que a ferramenta Grok foi utilizada para criar deepfakes de cunho sexual sem autorização, utilizando fotografias de St Clair de quando ela tinha apenas 14 anos de idade. Segundo a denúncia, usuários da plataforma solicitaram à inteligência artificial que gerasse imagens da mulher em situações explícitas ou de biquíni, o que levanta discussões sobre a segurança e a ética no desenvolvimento de modelos generativos.
Impactos legais e éticos do uso da IA
A gravidade da situação é ampliada pelo teor específico das imagens produzidas, que incluem representações da vítima, que é judia, utilizando biquínis estampados com suásticas nazistas. A advogada de defesa, Carrie Goldberg, declarou publicamente que o objetivo da ação é “responsabilizar a [inteligência artificial] Grok e ajudar a estabelecer limites legais claros para o benefício de todo o público, a fim de impedir que a IA seja usada como arma para fins abusivos”. Além do impacto moral, St Clair afirma que sofreu retaliações comerciais por parte da rede social X, que teria removido a monetização de sua conta logo após o início do litígio.
Em sua defesa preliminar na esfera jurídica, a empresa argumenta que o processo viola os termos de serviço da plataforma, alegando que qualquer disputa judicial deveria ser levada ao estado do Texas, e não a Nova York, onde a ação foi protocolada. Enquanto o embate prossegue nos Estados Unidos, outras nações já adotaram medidas restritivas contra a tecnologia; autoridades da Malásia e da Indonésia baniram o Grok por tempo indeterminado devido à criação de conteúdos sexualizados. No Brasil, o Instituto de Defesa dos Consumidores (Idec) também se manifestou, solicitando o banimento da plataforma sob alegações de riscos à segurança dos utilizadores.
