Atuação da AGU na desindexação de conteúdos com IA e deepfakes | Novo patamar de responsabilidade digital de plataformas
A responsabilidade de mecanismos de busca sobre ferramentas de "nudify" entrou oficialmente na pauta regulatória brasileira.
A AGU notificou extrajudicialmente o Google para que promova a desindexação de sites que oferecem esse tipo de ferramenta e implemente filtros capazes de evitar nova indexação. A medida foi fundamentada em estudo da FGV Rio e partiu da premissa de que mulheres, crianças e adolescentes são atingidos de forma desproporcional por esse tipo de prática.
O caso é relevante porque desloca o foco da análise para a função de facilitação exercida pelo mecanismo de busca. A discussão deixa de ser apenas sobre o autor da falsificação ou o desenvolvedor da ferramenta e passa a considerar se a indexação, quando há conhecimento do caráter ilícito ou manifestamente lesivo da atividade, pode ser tratada como fator de amplificação do dano.
Nessa linha, a AGU sustenta que a permanência desses resultados no buscador esvazia a efetividade das próprias políticas internas da plataforma sobre imagens íntimas não consensuais e reforça a incidência de um dever de cuidado diante de conteúdos de alta gravidade.
O tema também evidencia a convergência entre diferentes regimes normativos. A notificação menciona, entre outros fundamentos, o Marco Civil da Internet, a LGPD e o ECA Digital, compondo uma leitura segundo a qual proteção de dados, tutela da personalidade e proteção integral de crianças e adolescentes não podem ser analisadas de forma compartimentada quando o risco envolve deepfakes sexualizados.
Em termos práticos, plataformas e provedores de busca precisarão revisar não apenas canais de denúncia e remoção, mas também critérios de ranqueamento, filtros preventivos e procedimentos internos de resposta para situações em que a ilicitude decorre da própria finalidade do serviço disponibilizado.
A governança sobre IA generativa e ferramentas de manipulação sintética não pode se limitar ao momento posterior à viralização do dano. O avanço dessas tecnologias tende a exigir políticas de prevenção mais robustas, avaliação de risco sobre funcionalidades e mecanismos técnicos capazes de reduzir visibilidade e escala de serviços cuja arquitetura seja orientada à violação de direitos.
O caso tende a se tornar uma referência sobre até onde vai a responsabilidade dos intermediários quando a própria arquitetura do serviço indexado aponta para a violação de direitos.
