Ofcom abre investigação contra o X por deepfakes sexuais geradas por IA do Grok
A agência britânica de segurança na internet, a Ofcom, anunciou nesta segunda-feira (12) a abertura de uma investigação contra a rede social X, anteriormente conhecida como Twitter. A apuração se refere à divulgação de imagens de caráter sexual geradas pelo assistente de inteligência artificial (IA) da plataforma, o Grok.
Relatos preocupantes indicam o uso do Grok para criar e compartilhar imagens de pessoas nuas, que podem configurar atentado ao pudor ou pornografia. Mais grave ainda, há suspeitas de geração de imagens sexuais de crianças, o que caracteriza pornografia infantil.
Essas imagens foram criadas após solicitações específicas ao Grok para despir pessoas reais a partir de fotos ou vídeos existentes, gerando protestos globais. Em resposta às críticas, o Grok desativou sua função de criação de imagens para usuários não assinantes na última sexta-feira.
Conforme informação divulgada pela Ofcom, a investigação visa determinar se o X violou suas obrigações legais no Reino Unido, que incluem a avaliação do risco de acesso a conteúdos ilegais e a obrigação de eliminar tais materiais, especialmente aqueles que representam riscos para crianças britânicas. A agência reguladora pode aplicar multas de até 10% do faturamento mundial da empresa e, em casos extremos, solicitar o bloqueio do site no Reino Unido.
Medida do X vista como insuficiente por autoridades
Apesar da desativação da função de criação de imagens para usuários não assinantes, a medida adotada pelo X foi criticada. Um porta-voz do primeiro-ministro britânico, Keir Starmer, classificou a ação como uma forma de transformar uma função ilegal em um serviço premium, considerando-a um insulto às vítimas de misoginia e violência sexual.
Ofcom busca explicações e avalia riscos
A Ofcom informou que solicitou explicações ao X na semana passada, e a rede social respondeu dentro do prazo estipulado. A investigação agora focará em avaliar os riscos que a plataforma representa, especialmente para as crianças no Reino Unido, e se houve violação das leis de proteção de conteúdo ilegal.
Consequências legais e financeiras para o X
Caso a investigação determine o descumprimento das obrigações legais, o X poderá enfrentar sérias consequências. Além de potenciais multas financeiras substanciais, a agência reguladora tem o poder de acionar a Justiça para solicitar o bloqueio da plataforma no território britânico, reforçando a seriedade do caso de deepfakes sexuais geradas por IA.
O papel da inteligência artificial na disseminação de conteúdo ilegal
O caso do Grok levanta preocupações sobre o uso de inteligência artificial na criação e disseminação de conteúdo ilegal. A capacidade de gerar deepfakes sexuais e outros materiais ilícitos de forma rápida e acessível exige uma regulamentação mais rigorosa e a colaboração das plataformas tecnológicas para mitigar esses riscos.