Olha a treta: Apple ameaçou banir IA de Elon Musk da App Store

A Apple teria ameaçado remover o Grok, chatbot de inteligência artificial da xAI, empresa de Elon Musk, da App Store, após identificar violações ligadas à geração de imagens sexualizadas e não consensuais envolvendo pessoas reais. Apesar do embate, o aplicativo segue disponível para download, mas agora sob regras mais rígidas de moderação de conteúdo.

O caso começou em janeiro de 2026, quando a Apple notificou a xAI e exigiu mudanças imediatas nas ferramentas de geração de imagens. A empresa enviou novas versões do aplicativo, mas nem todas foram aprovadas de imediato, o que a um ultimato interno de banimento caso as diretrizes não fossem cumpridas. Essa ameaça, no entanto, não era pública e só veio à tona após uma carta vazada enviada a senadores dos Estados Unidos.

Depois de negociações, a versão mais recente foi aprovada, mas com mudanças importantes. O recurso de geração de imagens passou a ter limites para edições de fotos de pessoas reais, bloqueios para prompts sensíveis e restrições geográficas em países com leis mais rígidas. Além disso, parte das funções agora fica restrita a usuários pagantes.

Mesmo com as mudanças, uma investigação da NBC News indica que o problema continua. Segundo a emissora, o número de deepfakes caiu desde janeiro, mas usuários ainda encontram brechas para gerar imagens sexualizadas sem consentimento. Entre as táticas estão o uso de desenhos para induzir poses, pedidos indiretos para troca de roupas e a transformação de fotos reais em pequenos vídeos com movimentos gerados pela IA.

A pressão política não ficou só na Apple. Os mesmos senadores americanos também pediram que o Google removesse os apps X e Grok da Play Store. Além disso, governos agiram por conta própria. No Reino Unido, a Ofcom abriu uma investigação com base na Lei de Segurança Online. Na Índia, o Ministério de TI enviou uma notificação exigindo relatórios e a remoção do conteúdo. Já a Indonésia proibiu totalmente o uso do Grok.

Grok gerou deepfakes sexualizadas de mulheres e crianças

O Grok já se envolveu em várias polêmicas por gerar imagens sexualizadas sem consentimento. Bastava o usuário pedir para adicionar biquínis ou poses sensuais em fotos de mulheres e crianças. Esse tipo de deepfake gerou muitas denúncias e repercussão internacional, levando autoridades de vários países a abrir investigações sobre o caso.

No Brasil, a deputada federal Erika Hilton apresentou uma denúncia ao Ministério Público Federal (MPF) e à Autoridade Nacional de Proteção de Dados (ANPD). Ela pediu que a ferramenta fosse suspensa no país até o fim das investigações.

Se você gostou do conteúdo, talvez se interesse em saber as 5 maiores polêmicas com IA em 2025.