X enfrenta pressão inédita no Brasil após onda de imagens sexuais criadas pelo Grok

O X, antigo Twitter, está sob intensa pressão de órgãos reguladores brasileiros após a disseminação de imagens sexualizadas geradas por sua inteligência artificial, Grok. Uma união sem precedentes entre o Ministério Público Federal (MPF), a Secretaria Nacional do Consumidor (Senacon) e a Agência Nacional de Proteção de Dados (ANPD) coordenou ações exigindo medidas drásticas da plataforma.

Essa articulação entre as três entidades representa um movimento contra uma big tech como não se via desde pelo menos 2021. O cerne da questão são as punições severas que podem recair sobre o X, incluindo multas vultosas e a possibilidade de suspensão das atividades no país, embora analistas considerem prematuro cravar essa última sanção.

A situação escalou em meados de janeiro, quando o trio de órgãos públicos emitiu uma recomendação formal para que o X retirasse do ar os chamados “deepnudes” e implementasse uma série de medidas preventivas e corretivas. A recomendação, no entanto, veio acompanhada de um aviso claro: o descumprimento acarretaria sanções administrativas e judiciais.

As informações sobre o que pode acontecer com o X foram reveladas em um documento ao qual a Radar Big Tech teve acesso. Segundo o relatório, as entidades estabeleceram prazos para a resposta da plataforma e informaram que a ausência de manifestação seria punida com base em diversas leis, com penalidades que podem variar significativamente.

Sanções Potenciais e Legislação Aplicada

As potenciais sanções ao X, caso não cumpra as determinações, são abrangentes e baseadas em diferentes marcos legais. Conforme o artigo 12 do Marco Civil da Internet, as penalidades podem incluir advertência, multa de até 10% do faturamento no Brasil, suspensão temporária e até proibição de exercício da atividade.

Adicionalmente, o artigo 35 do Código de Defesa do Consumidor abre a possibilidade de rescisão de contrato com restituição de valores para os assinantes do X. A Lei Geral de Proteção de Dados (LGPD), em seu artigo 52, prevê um leque de punições que vão desde advertência e multa simples (2% da receita no país), passando pelo bloqueio parcial ao acesso a dados de brasileiros, até a proibição total ou parcial das atividades da plataforma.

Essas informações foram divulgadas na resposta do Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital ao Instituto de Defesa de Consumidores (Idec). O Idec havia solicitado ao órgão a suspensão do X no Brasil por colocar crianças em risco, destacando a gravidade do conteúdo sexualizado gerado pelo Grok.

Felizmente para o X, a empresa respondeu à recomendação inicial dentro do prazo estabelecido, evitando assim a ativação imediata dessas punições mais severas. No entanto, a resposta da empresa, que solicitou sigilo, ainda está sob análise.

Prazo de 30 Dias para “Deepnudes” e Risco de Escalada Internacional

Agora, o X tem um prazo de 30 dias para erradicar os “deepnudes” de sua rede. Caso a plataforma falhe em cumprir esta determinação, a possibilidade de aplicação das sanções descritas anteriormente volta à mesa. Paralelamente, o Ministério da Justiça avalia internamente a aplicação de outras penalidades previstas no Código de Defesa do Consumidor, como multas e o bloqueio do X no Brasil.

O caso pode ainda ganhar contornos internacionais. Os “deepnudes” de crianças são classificados como material de abuso sexual infantil (CSAM). Como provedor de serviço eletrônico nos EUA, o X é legalmente obrigado a reportar tal material ao Centro Nacional para Crianças Exploradas e Desaparecidas (NCMEC). A partir daí, o NCMEC comunica autoridades policiais globais, incluindo a Polícia Federal brasileira, para que tomem providências, uma vez que imagens de crianças reais estão sendo exploradas.

O Comitê Intersetorial fez dois pedidos à Polícia Federal: caso o X tenha reportado os casos corretamente, que se instaure um inquérito para apurar os crimes contra crianças brasileiras; ou, se o X não enviou os casos de CSAM ao NCMEC, que se informe ao Departamento de Justiça dos EUA e ao FBI sobre a suspeita de crime federal por parte da plataforma.

Antecedentes e a Importância da Ação Conjunta

Uma movimentação tão ampla e coordenada de órgãos públicos como esta não era vista desde 2021, quando o Conselho Administrativo de Defesa Econômica (Cade), MPF, ANPD e Senacon agiram conjuntamente contra a Meta. Na ocasião, recomendaram que a empresa não alterasse a política de privacidade do WhatsApp para compartilhar dados de usuários com outros serviços, como Facebook e Instagram, medida que permanece emperrada no Brasil.

Os “deepfakes” gerados pelo Grok infringem diversas leis brasileiras, incluindo o Marco Civil da Internet, o Código de Defesa do Consumidor, a LGPD e o Estatuto da Criança e do Adolescente. Este não é o primeiro caso envolvendo inteligência artificial que chega à ANPD, que lidera as ações. Em 2024, a agência impediu a Meta de usar dados de brasileiros para treinar sua IA, o que levou ao adiamento do lançamento do Meta AI no Brasil.

Miriam Wimmer, diretora da ANPD, destacou que os aprendizados do caso da IA da Meta serão aplicados ao X e Grok. Contudo, novos elementos, como conteúdo sexualizado e uso indevido de imagem, exigirão um esforço renovado dos órgãos públicos para o enquadramento jurídico adequado.

A plataforma do X ainda enfrentará a complexidade de responder separadamente à ANPD, MPF e Senacon, cada um com seus processos e ritmos distintos. Embora a suspensão seja uma possibilidade, é importante lembrar que a plataforma de Elon Musk já foi retirada do ar no Brasil por 38 dias em 2024, por ordem do STF, mas por descumprimento de exigências judiciais e falta de representante legal.

O Idec, ao solicitar a suspensão do X ao comitê intersetorial, visou influenciar a criação da Política Nacional de Proteção de Crianças e Adolescentes no Ambiente Digital. A entidade clama por restrições ao uso de IA generativa para criar imagens de crianças com teor violento ou sexual, alertando para a facilidade e velocidade de compartilhamento dessas imagens.

Julia Abad, especialista em telecomunicações e direitos digitais do Idec, ressalta que a facilidade com que milhões de imagens foram geradas expõe a fragilidade das empresas em impedir tais abusos. Ela questiona o quanto as empresas desejam que a inteligência artificial possa realizar tais feitos, dado o engajamento gerado por conteúdo sexualizado.

Em paralelo, o Google enfrenta um impasse com o Ministério Público Federal em relação à publicidade infantil no YouTube. As negociações para um acordo foram encerradas, e o caso seguirá para julgamento. O MPF busca obrigar a exibição de avisos sobre a proibição de propagandas voltadas a crianças na plataforma.

O “efeito Felca”, após a divulgação de um vídeo do influenciador, levou a uma decisão liminar favorável aos procuradores, obrigando o Google a exibir os avisos. A recente sanção do ECA Digital e a transformação da ANPD em órgão responsável pela aplicação da lei reforçam a capacidade do governo de sancionar plataformas digitais infratoras.

A União, que antes era ré na ação, agora se alinha ao MPF, possuindo instrumentos para punir empresas digitais que violem as regras de publicidade infantil. O Tribunal Regional Federal da 6ª Região também inverteu o polo processual, fortalecendo a posição dos órgãos de defesa.