Governo do Brasil ordena que X impeça criação de deepfakes no Grok

Governo do Brasil Ordena que X Impeça Criação de Deepfakes pelo Grok: Entenda a Determinação e Suas Implicações

O governo do Brasil, em conjunto com importantes órgãos públicos, determinou que a plataforma X (antigo Twitter) implemente medidas imediatas para impedir a criação e circulação de deepfakes sexualizados utilizando o Grok, ferramenta de inteligência artificial integrada à rede social. A ação visa coibir a produção de conteúdos sintéticos de caráter sexual ou erotizado que utilizem a imagem de pessoas reais sem consentimento, com foco especial na proteção de mulheres, crianças e adolescentes.

O Que Motivou a Determinação

As recomendações e ordens foram motivadas por denúncias de usuários, reportagens e testes técnicos realizados por órgãos públicos, que apontaram que a IA Grok estava sendo usada para gerar deepfakes sexualizados e conteúdos sexuais sem autorização, inclusive de menores de idade. Esses conteúdos são considerados uma forma de violação de direitos fundamentais, como a dignidade humana, a proteção de dados pessoais e a inviolabilidade da imagem.

Órgãos Envolvidos na Recomendação

A decisão conjunta foi emitida por três entidades federais brasileiras:

• Ministério Público Federal (MPF)

• Agência Nacional de Proteção de Dados (ANPD)

• Secretaria Nacional do Consumidor (Senacon)

Essas instituições recomendaram e, em alguns casos, determinaram medidas que visam frear o uso indevido do Grok para criação de imagens não consensuais.

Principais Medidas e Exigências da Recomendação

1. Bloqueio da Geração de Conteúdos Sexualizados

O governo exigiu que o X implemente tecnicamente restrições eficazes que impeçam o Grok de gerar novos conteúdos — incluindo imagens, vídeos ou arquivos de áudio — que representem pessoas em contextos sexualizados sem sua autorização. A medida vale para todas as versões e modalidades da ferramenta.

2. Procedimentos Técnicos de Identificação e Remoção

Foi determinado que a plataforma deve desenvolver, em até 30 dias, processos claros e eficazes para:

• Identificar conteúdos sexualizados gerados pelo Grok

• Revisar conteúdos já existentes e ainda disponíveis

• Remover esses conteúdos da plataforma

Esses procedimentos devem incluir mecanismos operacionais e técnicos robustos para garantir a eficácia da ação.

3. Suspensão de Contas Envolvidas

Uma das exigências das autoridades foi que o X suspenda imediatamente as contas envolvidas na produção de imagens sexualizadas, tanto aquelas relacionadas a menores de idade quanto às que envolvem adultos sem consentimento. Essas suspensões devem respeitar os termos de uso da plataforma e ser comprovadas por meio de relatórios mensais apresentados ao governo.

4. Canal de Denúncias e Proteção de Direitos

As instituições também recomendaram a implementação de um mecanismo transparente, acessível e eficaz que permita às pessoas afetadas:

• Denunciar uso irregular ou abusivo de seus dados

• Exercer seus direitos em relação à proteção de dados pessoais

Esse canal deve oferecer respostas adequadas e em tempo razoável, fortalecendo a proteção dos titulares de dados.

5. Relatório de Impacto sobre Proteção de Dados

Outra exigência é que o X elabore um relatório de impacto à proteção de dados pessoais, tratando especificamente das atividades de geração de conteúdo sintético via IA. O relatório deve considerar quando fotos, vídeos ou áudios enviados por usuários permitem identificar pessoas físicas, reforçando a atenção às normas de proteção de dados.

Prazos e Consequências em Caso de Não Conformidade

Segundo a determinação mais recente, o X recebeu um prazo de cinco dias para comprovar que implementou as medidas técnicas e organizacionais exigidas para prevenir a criação de imagens sexualizadas sem consentimento através do Grok. Caso a plataforma não atenda a essas exigências, as autoridades podem adotar medidas judiciais, incluindo multa diária, ações administrativas, ou outras penalidades previstas na legislação brasileira.

Além disso, a determinação estabelece que o X deve apresentar relatórios mensais detalhados sobre os esforços de remoção de deepfakes, número de conteúdos retirados e contas suspendidas, reforçando a fiscalização contínua da plataforma.

Críticas e Insuficiência das Medidas

Autoridades públicas brasileiras, incluindo o MPF, consideraram as primeiras medidas apresentadas pelo X insuficientes para eliminar de forma eficaz a geração e a circulação de deepfakes sexualizados. Testes indicaram que, mesmo após as ações iniciais, o Grok ainda era capaz de produzir imagens não consensuais, o que motivou o endurecimento da postura governamental.

Importância da Determinação no Contexto da IA

O Que São Deepfakes

Deepfakes são conteúdos produzidos com inteligência artificial que manipulam imagens ou mídias para parecerem reais. Quando usados sem consentimento para criar imagens sexualizadas, eles se tornam uma forma séria de violência digital, com riscos legais e éticos profundos — especialmente quando envolvem mulheres e menores de idade.

Proteção Legal no Brasil

A determinação do governo brasileiro enfatiza que a plataforma não pode se comportar como mero intermediário. Em casos de deepfakes sexualizadas, há responsabilidade compartilhada entre a produção e a disseminação dessas imagens — uma mudança relevante na forma como a legislação digital tem sido interpretada no Brasil.

O Papel da Sociedade e da Regulamentação

Organizações civis brasileiras, como o Instituto de Defesa do Consumidor (Idec), também solicitaram a suspensão da IA Grok devido às violações de direitos de mulheres e crianças, reforçando a pressão social e regulatória por uma resposta mais rigorosa às falhas de proteção.

A ação do governo brasileiro se insere em um contexto global de crescente preocupação com conteúdos gerados por IA, e o papel das grandes plataformas em prevenir abusos e danos a direitos fundamentais.

Conclusão

A determinação do governo do Brasil para que a plataforma X impeça a geração de deepfakes sexualizados pelo Grok representa um marco na regulamentação de inteligência artificial no país, com foco em direitos humanos, proteção de dados e segurança digital. A ação conjunta de órgãos como o MPF, ANPD e Senacon destaca a importância de medidas rigorosas contra o uso indevido de tecnologia para fins prejudiciais — especialmente quando envolve imagens de crianças, adolescentes e adultos sem consentimento.