Uma nova ferramenta de vídeo de IA da xAI – a empresa fundada por Elon Musk – está enfrentando uma onda de críticas por permitir que os usuários criem deepfakes de nudez de celebridades como Taylor Swift com apenas uma operação mínima. A funcionalidade chamada Grok Imagine, lançada na terça-feira, tem a opção "Spicy" que permite criar vídeos sugestivos ou de nudez, embora isso viole a política de proibição de conteúdo pornográfico da própria xAI.
No primeiro dia, a ferramenta gerou 20 milhões de imagens, levando Musk a chamá-la de “Hyperviral”. Após o deepfake de Swift se espalhar, a xAI foi forçada a limitar a funcionalidade “Spicy” com imagens da cantora.
Ao contrário de plataformas como Google Veo 3 ou OpenAI Sora que têm medidas de censura rigorosas, xAI tem sido criticada por faltar barreiras contra conteúdo sensível e violação de imagens reais. Notavelmente, o incidente ocorreu apenas um ano após Swift ter sido associada a um deepfake apoiando Trump na temporada eleitoral de 2024 – embora depois ela tenha apoiado a oponente Kamala Harris.
Atualmente, Elon Musk não se pronunciou, enquanto os legisladores americanos continuam a pressionar após a aprovação da Lei "Take It Down" em maio, destinada a proteger as vítimas de imagens privadas não consensuais.
Este é o mais recente incidente relacionado aos produtos de IA não verificados da xAI – após o caso do chatbot Grok que fez declarações racistas em julho.
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
xAI gera controvérsia devido à ferramenta de IA que cria deepfakes nus da Taylor Swift
Uma nova ferramenta de vídeo de IA da xAI – a empresa fundada por Elon Musk – está enfrentando uma onda de críticas por permitir que os usuários criem deepfakes de nudez de celebridades como Taylor Swift com apenas uma operação mínima. A funcionalidade chamada Grok Imagine, lançada na terça-feira, tem a opção "Spicy" que permite criar vídeos sugestivos ou de nudez, embora isso viole a política de proibição de conteúdo pornográfico da própria xAI.
No primeiro dia, a ferramenta gerou 20 milhões de imagens, levando Musk a chamá-la de “Hyperviral”. Após o deepfake de Swift se espalhar, a xAI foi forçada a limitar a funcionalidade “Spicy” com imagens da cantora.
Ao contrário de plataformas como Google Veo 3 ou OpenAI Sora que têm medidas de censura rigorosas, xAI tem sido criticada por faltar barreiras contra conteúdo sensível e violação de imagens reais. Notavelmente, o incidente ocorreu apenas um ano após Swift ter sido associada a um deepfake apoiando Trump na temporada eleitoral de 2024 – embora depois ela tenha apoiado a oponente Kamala Harris.
Atualmente, Elon Musk não se pronunciou, enquanto os legisladores americanos continuam a pressionar após a aprovação da Lei "Take It Down" em maio, destinada a proteger as vítimas de imagens privadas não consensuais.
Este é o mais recente incidente relacionado aos produtos de IA não verificados da xAI – após o caso do chatbot Grok que fez declarações racistas em julho.