Entidades pressionam Apple e Google a removerem o Grok das lojas de aplicativos
Organizações de defesa dos direitos digitais estão intensificando a pressão sobre gigantes da tecnologia como Apple e Google para que removam o Grok, a ferramenta de inteligência artificial do X (antigo Twitter), de suas lojas de aplicativos. A demanda surge após a IA ser utilizada para gerar imagens de nudez, incluindo representações de menores de idade, o que gerou forte repercussão internacional.
Jenna Sherman, diretora de campanha da UltraViolet, expressou a urgência da situação em declarações à Reuters, implorando veementemente às empresas que levem o caso a sério. Segundo ela, as lojas de aplicativos estão, inadvertidamente, facilitando um sistema que resulta no abuso sexual de milhares de pessoas, com um foco particular em mulheres e crianças.
A controvérsia ganhou força no final do ano passado, quando a rede social X foi inundada com imagens hiper-realistas de mulheres e menores de idade em trajes sumários, todas criadas com o auxílio da inteligência artificial do Grok. Essa onda de conteúdo explícito desencadeou uma série de reações por parte de autoridades e organizações em todo o mundo.
Como resultado, países como Malásia e Indonésia já implementaram proibições ao Grok, citando o conteúdo explícito como motivo. Paralelamente, autoridades na Europa e no Reino Unido anunciaram o início de investigações e exigiram explicações formais sobre o funcionamento e o controle da ferramenta de IA. Conforme informação divulgada pela Reuters, o X não respondeu às solicitações de comentários sobre a carta, enquanto sua empresa controladora, a xAI, classificou as reportagens como “mentiras da mídia tradicional”. Google e Apple também não se pronunciaram oficialmente sobre o assunto.
Afastamento de parceiros e investigações internacionais
O escrutínio em torno do Grok e do X tem levado algumas organizações importantes a se distanciarem da plataforma. Recentemente, a Federação Americana de Professores anunciou sua saída da rede social em protesto contra as imagens indecentes de crianças produzidas pela inteligência artificial. Essa decisão ressalta a crescente preocupação com a segurança e a ética no uso de tecnologias de IA.
Grok e a polêmica da IA generativa
O Grok, desenvolvido pela xAI, é um modelo de linguagem grande que se destaca por sua capacidade de gerar texto e, neste caso polêmico, imagens. A polêmica reside na falta de filtros eficazes para impedir a criação de conteúdo impróprio e ilegal, especialmente quando se trata de representações de nudez e exploração infantil. A capacidade de gerar imagens realistas levanta sérias questões sobre o potencial de abuso.
Responsabilidade das plataformas de distribuição
A pressão sobre a Apple e o Google foca na responsabilidade que as lojas de aplicativos têm na curadoria e distribuição de softwares. Ao permitirem que aplicativos como o Grok estejam disponíveis em suas plataformas, essas empresas são vistas como facilitadoras da disseminação de conteúdo potencialmente prejudicial. A exigência é que implementem mecanismos mais robustos de verificação e controle.
Futuro do Grok e da IA responsável
O caso do Grok acende um debate mais amplo sobre a regulamentação da inteligência artificial e a necessidade de desenvolvermos IA de forma responsável. A capacidade de gerar conteúdo sintético, embora promissora em muitas áreas, exige salvaguardas rigorosas para evitar que seja utilizada para fins ilícitos e prejudiciais. As ações da Apple e do Google nos próximos dias serão cruciais para definir um precedente.