Idec pede suspensão do Grok no Brasil após IA gerar imagens pornográficas

O Instituto de Defesa do Consumidor (Idec) deu um passo significativo contra a inteligência artificial Grok, integrada à plataforma X (antigo Twitter). Em uma denúncia formal à Agência Nacional de Proteção de Dados (ANPD), o instituto solicitou a suspensão imediata da ferramenta no território brasileiro.

A principal acusação do Idec reside na alegada violação da Lei Geral de Proteção de Dados (LGPD). Segundo o instituto, o Grok teria a capacidade de gerar imagens sexualizadas utilizando dados de pessoas reais, configurando uma grave infração à privacidade e aos direitos dos consumidores.

Esta denúncia não surge do nada. Ela é a continuação de uma série de ações já iniciadas pelo Idec, que incluem o envio de um ofício ao comitê intersetorial. Agora, a entidade busca a atuação da ANPD para uma investigação aprofundada e medidas urgentes que possam evitar danos maiores aos usuários.

A expectativa do Idec é que a ANPD investigue o Grok e tome providências rápidas. A organização quer garantir que funcionalidades que utilizam dados pessoais sejam suspensas e que o X apresente informações claras sobre denúncias e solicitações já recebidas e tratadas pela plataforma.

Pedidos Urgentes à ANPD

Entre as exigências apresentadas à Agência Nacional de Proteção de Dados, o Idec pede a interrupção imediata das funcionalidades do Grok que se baseiam no uso de dados de pessoas reais. O objetivo é impedir que a inteligência artificial continue a explorar informações privadas para fins indevidos.

Adicionalmente, o instituto solicita que o X cesse o uso de dados pessoais para o treinamento e a operação do sistema Grok. Essa medida visa proteger a privacidade dos usuários e garantir que suas informações não sejam utilizadas para desenvolver ou manter ferramentas que possam gerar conteúdos ofensivos ou ilegais.

Transparência e Responsabilidade do X

O Idec também demandou que a plataforma X forneça detalhes sobre as denúncias e solicitações que já foram recebidas em relação ao Grok. A organização busca entender como a empresa tem lidado com as questões de privacidade e uso indevido de dados, exigindo maior transparência e responsabilidade.

A atuação do Idec reforça a importância da LGPD na proteção dos cidadãos na era digital. A denúncia contra o Grok serve como um alerta sobre os riscos associados ao uso de inteligência artificial sem regulamentação adequada e a necessidade de mecanismos eficazes de fiscalização e controle.