A Advocacia-Geral da União (AGU) deu um passo decisivocontra a proliferação de conteúdos abusivos gerados por Inteligência Artificial no Brasil. Segundo nota oficial, o órgão notificou extrajudicialmente o Google, exigindo a desindexação imediata de sites que utilizam técnicas de deepfake e ferramentas de “nudify” para criar imagens sexualizadas falsas de pessoas reais, sem qualquer consentimento. A medida, baseada em estudos da FGV-Rio e da Secretaria de Comunicação da Presidência (Secom-PR), foca especialmente na proteção de mulheres, crianças e adolescentes — as principais vítimas desse tipo de violência digital.
Prazo de 5 dias e filtros automáticos
A notificação da AGU não pede apenas a remoção manual de uma lista exemplificativa com mais de 40 links já identificados. O governo brasileiro foi além, exigindo que o Google implemente, no prazo de cinco dias, filtros algorítmicos capazes de impedir que novos sites similares sejam indexados no futuro.
A Procuradoria Nacional da União de Defesa da Democracia (PNDD) argumenta que, embora o Google não hospede diretamente esses conteúdos, a facilidade de encontrá-los através do buscador “alça essas ferramentas à mesma categoria de qualquer outro item lícito”, facilitando o acesso massivo a crimes graves.
O “Dever de Cuidado” das Big Techs
O documento reforça o entendimento recente do Supremo Tribunal Federal (STF) sobre o “dever d0230e cuidado”. Segundo a AGU, as plataformas podem ser responsabilizadas civilmente se, tendo conhecimento da natureza ilícita do material, não agirem para impedir sua circulação.
Os advogados da União destacam que, embora o Google já possua diretrizes internas contra imagens íntimas não consensuais, as medidas atuais têm se mostrado insuficientes para mitigar os riscos das novas ferramentas de IA generativa que surgiram com força desde 2023.
A ação brasileira ecoa movimentos internacionais, como os relatórios do Children’s Commissioner da Inglaterra em 2025, que alertam para o crescimento de uma atmosfera misógina impulsionada por deepfakes. No Brasil, a fundamentação jurídica utiliza desde o Marco Civil da Internet até o recente Estatuto Digital da Criança e do Adolescente (ECA Digital) e a LGPD.
Para o mercado de hardware e software, o caso sinaliza que a “era do Velho Oeste” para os desenvolvedores de ferramentas de IA abusivas está chegando ao fim, com a responsabilidade batendo à porta dos grandes portais de distribuição e busca.
