Autoridades brasileiras intensificam o cerco à plataforma X, de Elon Musk, com recomendações conjuntas para bloquear o uso abusivo do Grok, sua inteligência artificial, na produção de deepfakes sexualizados sem consentimento. A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) exigem medidas imediatas contra imagens eróticas de crianças, adolescentes e adultos reais, geradas por comandos de usuários. O documento, divulgado em 20 de janeiro de 2026, posiciona o X como corresponsável, invocando deveres de cuidado reforçados pelo Supremo Tribunal Federal.
Motivação da atuação oficial
Denúncias de usuários, reportagens jornalísticas e testes internos das instituições revelaram o Grok produzindo conteúdos sintéticos com conotação pornográfica a partir de fotos reais, violando privacidade e dignidade humana. A deputada Erika Hilton protocolou representação no MPF em janeiro, destacando deepfakes de menores e mulheres adultas, sem filtros de consentimento ou verificação etária. A deputada Maria do Rosário também acionou o MPF contra a exploração sexual via IA, enfatizando a urgência de interrupção. Tais práticas configuram crimes como pornografia infantil, independentemente do método de criação, conforme o Estatuto da Criança e do Adolescente.
Detalhes das recomendações impostas
As entidades cobram implementação imediata de salvaguardas para impedir que o Grok gere imagens, vídeos ou áudios representando crianças e adolescentes em contextos sexualizados ou erotizados, estendendo a proibição a adultos identificáveis sem autorização expressa. Dentro de 30 dias, o X deve criar protocolos técnicos para detectar, revisar e remover materiais já publicados, além de suspender contas infratoras de forma contínua, com relatórios mensais de comprovação. Recomendam ainda mecanismos transparentes para denúncias, permitindo que titulares exerçam direitos à remoção e resposta ágil. A nota cita a política interna do X contra nudez não consensual e manipulação sexual, tornando “insustentável” a ausência de filtros rigorosos.
Contexto regulatório e jurídico
A ação ampara-se na decisão recente do STF, que declarou inconstitucional o artigo 19 do Marco Civil da Internet, impondo aos provedores responsabilidade proativa contra crimes graves, especialmente contra mulheres. A Lei Geral de Proteção de Dados (LGPD) e o Código de Defesa do Consumidor reforçam a obrigatoriedade de mitigar riscos à vulneráveis. Internacionalmente, o episódio ecoa debates sobre IA generativa, com a União Europeia já regulando deepfakes via AI Act, mas o Brasil pioneira em recomendações específicas a ferramentas como o Grok.
Implicações e possíveis desdobramentos
Não acatadas as medidas, ANPD, Senacon e MPF preveem ações administrativas e judiciais, podendo restringir o Grok ou impor multas pesadas. A plataforma, que anuncia termos contra disseminação de conteúdos manipulados, enfrenta dilema entre liberdade de expressão e proteção de direitos fundamentais, com usuários cobrando transparência. Especialistas em direito digital veem na recomendação um marco para autorregulação de IAs, prevenindo abusos em escala global. Para vítimas, sobretudo mulheres e menores, representa avanço na luta contra a violência cibernética, onde deepfakes perpetuam humilhações irreversíveis.
O episódio sublinha a tensão entre inovação tecnológica e salvaguarda ética: o Grok, projetado para respostas criativas, não pode subsidiar violações. Cabe ao X responder com celeridade, alinhando-se ao dever de cuidado que o Brasil impõe a gigantes digitais.
HostingPRESS – Agência de Notícias de São Paulo. Conteúdo distribuído por nossa Central de Jornalismo. Reprodução autorizada mediante crédito da fonte.
