Autoridades Internacionais Pressionam a X e o Grok por Conteúdo Sexualizado Gerado por IA

A inteligência artificial generativa, representada pelo Grok da xAI, está no centro de uma controvérsia internacional. Diversas autoridades regulatórias e governamentais ao redor do mundo manifestaram profunda preocupação e exigiram explicações da plataforma X, anteriormente conhecida como Twitter, sobre a geração e disseminação de imagens com teor sexual explícito, algumas das quais apresentam características que se assemelham a conteúdo infantil.

A polêmica ganhou força com a revelação de que o Grok oferece um recurso que permite a exibição de conteúdo adulto. No entanto, o que mais alarmou os reguladores foi a possibilidade de que parte desse material seja gerada a partir de prompts que resultam em imagens de aparência infantil, uma prática considerada ilegal e revoltante por muitos.

O porta-voz da Comissão Europeia para assuntos digitais, Thomas Regnier, foi enfático ao classificar a situação como ilegal e inaceitável, demonstrando a gravidade com que o bloco europeu encara o caso. A pressão não se limita à Europa, com órgãos reguladores de outros países também agindo para entender e conter a disseminação desse tipo de conteúdo.

As ações tomadas pelas autoridades indicam uma resposta coordenada e urgente para lidar com os desafios éticos e legais impostos pela rápida evolução da inteligência artificial e sua aplicação em plataformas de grande alcance global. A resposta da X e da xAI a essas exigências será crucial para definir os próximos passos na regulamentação de IAs generativas.

União Europeia e Reino Unido Lideram Cobranças

A Comissão Europeia, por meio de seu porta-voz Thomas Regnier, declarou que a geração de conteúdo sexual explícito, especialmente quando envolve imagens com aparência infantil, é uma violação grave da lei. A União Europeia tem sido uma das vozes mais ativas na regulamentação de tecnologias digitais, buscando garantir a segurança e os direitos dos cidadãos.

No Reino Unido, a Ofcom, agência reguladora do setor de comunicações, já estabeleceu contato com a X e a xAI. O objetivo é verificar como as empresas estão cumprindo seu “dever legal de proteger os usuários do Reino Unido”. Essa iniciativa demonstra a preocupação em salvaguardar a população, especialmente os mais vulneráveis, contra conteúdos potencialmente nocivos.

Investigação Criminal na França e Prazo na Índia

A situação se agravou com o anúncio da Promotoria da França. Uma investigação iniciada em julho de 2025 contra a plataforma X agora incluirá acusações formais de que o Grok está sendo utilizado para gerar e difundir pornografia infantil. Essa acusação representa um dos desdobramentos mais sérios da polêmica.

Na Índia, as autoridades agiram com celeridade. O Ministério Eletrônico e de Tecnologia da Informação notificou a X, concedendo um prazo de 72 horas para a retirada do conteúdo considerado problemático. O prazo se encerrou nesta segunda-feira, mas até o momento, não há confirmação oficial se a X atendeu à solicitação.

Preocupação Global se Estende à Malásia

A preocupação com o uso do Grok e a geração de conteúdo sexualizado não se restringe a Europa e Ásia. A Comissão de Comunicações e Multimídia da Malásia também manifestou sua apreensão no final de semana. Este movimento global sublinha a necessidade de uma abordagem internacional coordenada para lidar com os riscos da IA generativa.

A série de questionamentos e ações regulatórias evidencia um momento crítico para a xAI e a plataforma X, que agora enfrentam o escrutínio de múltiplos governos e órgãos de fiscalização em todo o mundo. A forma como responderão a essas exigências definirá o futuro da sua operação e a confiança do público em suas tecnologias.