Reino Unido pressiona X a combater ‘deepfakes’ íntimos gerados por IA

A ministra da Tecnologia do Reino Unido, Liz Kendall, fez um apelo contundente para que a plataforma X, anteriormente conhecida como Twitter, tome medidas imediatas contra a criação e disseminação de ‘deepfakes’ íntimos gerados por inteligência artificial. Kendall descreveu o conteúdo como “absolutamente terrível” e enfatizou a necessidade de uma resposta rápida para evitar que mais pessoas sejam expostas a esse tipo de material humilhante.

A preocupação se estende à natureza ilegal e prejudicial dessas imagens, que violam a privacidade e a dignidade das vítimas. O governo britânico, juntamente com outras autoridades internacionais, está intensificando a pressão sobre o X para que cumpra suas responsabilidades e proteja os usuários de conteúdo ilegal.

A polêmica ganhou força com a divulgação de que a ferramenta de IA Grok, ligada ao X, estaria sendo utilizada para criar imagens íntimas falsas de figuras públicas. Essa situação levanta sérias questões sobre o controle de conteúdo e a ética no uso de inteligência artificial.

As autoridades do Reino Unido, França e Índia já se manifestaram, exigindo explicações e ações concretas por parte da plataforma. A Comissãão Europeia também demonstrou preocupação com o chamado “modo picante” do X, condenando as imagens como ilegais e potencialmente danosas.

Plataforma X promete remover conteúdo ilegal

Em resposta às crescentes críticas, a conta oficial de segurança do X declarou que a plataforma remove todo o conteúdo considerado ilegal e suspende permanentemente as contas envolvidas em sua disseminação. A empresa também afirmou que “qualquer pessoa que use ou incentive o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que sofreria se fizesse o upload de conteúdo ilegal”.

A legislação do Reino Unido considera ilegal a criação ou compartilhamento de imagens íntimas não consensuais, incluindo material de abuso sexual infantil e imagens sexuais geradas por IA. As plataformas de tecnologia têm a obrigação legal de impedir que usuários britânicos encontrem tal conteúdo e de removê-lo assim que tiverem conhecimento de sua existência.

Preocupação global com o avanço de ‘deepfakes’

A situação ganhou ainda mais destaque após Elon Musk, proprietário do X, ter supostamente respondido a imagens editadas de figuras públicas com emojis de riso, ignorando as preocupações levantadas. Essa atitude gerou indignação e aumentou a urgência pela responsabilização da plataforma.

O órgão regulador de mídia do Reino Unido, Ofcom, informou que entrou em “contato urgente” com o X e sua subsidiária de IA, xAI, para entender as medidas que estão sendo tomadas para cumprir as obrigações de proteção aos usuários. A França e a Índia também exigiram explicações e relataram o conteúdo como “manifestadamente ilegal”.

O impacto dos ‘deepfakes’ e a responsabilidade das plataformas

A disseminação de ‘deepfakes’ íntimos representa uma grave violação da privacidade e pode causar danos psicológicos significativos às vítimas, que muitas vezes são mulheres e meninas. A facilidade com que essas imagens podem ser criadas e compartilhadas através de ferramentas de IA como o Grok levanta um alerta sobre a necessidade de regulamentação e fiscalização mais rigorosas.

A pressão internacional sobre o X e outras plataformas de mídia social para que combatam ativamente a disseminação de conteúdo ilegal, especialmente os ‘deepfakes’ gerados por IA, demonstra a crescente preocupação com a segurança online e a proteção dos direitos individuais em um mundo cada vez mais digital.