Resumo da Notícia
A X, rede social controlada por Elon Musk, anunciou nesta quarta-feira (14) a adoção de novas medidas técnicas para impedir que o Grok gere imagens sexualizadas de pessoas reais, após uma escalada de pressão internacional envolvendo governos, autoridades regulatórias e órgãos de proteção à infância.
Não perca nada!
Faça parte da nossa comunidade:
Em comunicado publicado na própria plataforma, o X afirmou: “Implementamos medidas tecnológicas para impedir que o Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis” ou roupas íntimas. A empresa reforçou que “essa restrição se aplica a todos os usuários, incluindo assinantes pagos”, deixando claro que não haverá exceções comerciais para o uso da ferramenta.
Pressão jurídica e investigações aceleram resposta da plataforma
O anúncio do X ocorreu poucas horas depois de a Procuradoria Geral da Califórnia iniciar uma investigação contra a xAI, empresa responsável pelo desenvolvimento do Grok. A apuração tem como foco a geração de “material sexualmente explícito e não consensual”, produzida pela ferramenta nas últimas semanas, segundo as autoridades americanas.
A pressão internacional aumentou de forma significativa após a constatação de que o recurso conhecido como “modo apimentado” permitia a criação de deepfakes sexualizados de mulheres e crianças a partir de comandos simples, como “coloque-a em um biquíni” ou “tire suas roupas”. O uso desses comandos expôs falhas graves nos filtros de segurança do sistema e reacendeu o debate global sobre o uso abusivo de inteligência artificial generativa.
Bloqueios internacionais e reação de reguladores
Diante da gravidade do cenário, a Indonésia tornou-se, no sábado (10), o primeiro país a bloquear completamente o acesso ao Grok. A medida foi seguida pela Malásia, no domingo (11), e também pela Índia, ampliando o cerco internacional à ferramenta.
No Reino Unido, a reguladora de mídia Ofcom anunciou, na segunda-feira (12), a abertura de uma investigação para verificar se a xAI descumpriu a legislação britânica relacionada à produção e circulação de imagens de conteúdo sexual.
Já na França, a comissária para a infância Sarah El Hairy informou, na terça-feira (13), que encaminhou as imagens geradas pelo Grok à Procuradoria francesa, à reguladora de mídia Arcom e à União Europeia.
A dimensão política do episódio ficou evidente após declarações da presidente da Comissão Europeia, Ursula von der Leyen, que classificou o caso como alarmante. Em entrevista a diversos veículos internacionais, ela afirmou estar “horrorizada com o fato de uma ferramenta tecnológica permitir que usuários desnudem digitalmente mulheres e crianças online”.
A fala reforça a percepção, entre autoridades europeias, de que o avanço da inteligência artificial sem salvaguardas adequadas representa riscos reais à dignidade, à privacidade e à proteção de grupos vulneráveis, especialmente crianças e adolescentes. A resposta do X, embora tardia para alguns reguladores, sinaliza uma tentativa de conter danos e demonstrar cooperação diante do cerco jurídico e político que se formou em torno do Grok.
