O Estatuto da Criança e do Adolescente avança para uma nova etapa com a entrada em vigor do chamado ECA digital, que amplia a proteção de crianças e adolescentes no ambiente online. A atualização reforça a responsabilidade de plataformas, regula o uso de dados, combate a exposição indevida e cria diretrizes mais claras para crimes virtuais envolvendo menores. Em um cenário em que a vida digital se mistura à vida real, a legislação busca acompanhar os riscos e garantir segurança sem limitar o acesso à informação. Para entender melhor as mudanças e seus impactos práticos, conversamos com a advogada Fernanda Ferrari.

1. O ECA Digital aumenta a responsabilidade das plataformas. Na prática, o que muda para as empresas quando conteúdos perigosos para crianças circulam na internet? A principal alteração é a transição de um modelo de responsabilidade reativa para um de responsabilidade proativa, fundamentado no dever de cuidado (duty of care). Antes, as plataformas digitais, amparadas por uma interpretação extensiva do Marco Civil da Internet, atuavam sob um regime de responsabilidade subjetiva, condicionada à notificação judicial para remoção de conteúdo. Eram, em essência, intermediárias com responsabilidade mitigada. Agora, a nova legislação estabelece um regime de corresponsabilidade. As empresas de tecnologia passam a ter a obrigação legal de projetar e operar seus serviços com base nos princípios da proteção integral e do melhor interesse da criança e do adolescente. Isso se materializa em obrigações concretas:

  • Avaliação de Risco (Risk Assessment): Realizar análises prévias e contínuas sobre os riscos que seus produtos e algoritmos podem oferecer ao público infanto-juvenil.
  • Segurança por Concepção (Safety by Design): Incorporar mecanismos de segurança desde a fase de desenvolvimento do produto, e não como uma adaptação posterior.
  • Moderação Ativa de Conteúdo: Implementar sistemas eficazes e ágeis para detectar e remover conteúdos nocivos, como os que envolvem violência, exploração sexual, cyberbullying e desafios perigosos, independentemente de ordem judicial.
  • Transparência Algorítmica: Prestar contas sobre o funcionamento de seus sistemas de recomendação e moderação.
  • Vedação de Publicidade Direcionada: Fica expressamente proibido o uso de dados pessoais de crianças para fins de marketing e publicidade comportamental.

Em​ termos práticos, a omissão ou negligência no cumprimento desse dever de cuidado pode gerar responsabilização civil direta da plataforma pelos danos causados, invertendo o ônus que antes recaía majoritariamente sobre a vítima e o sistema de justiça.

2. Exigir verificação de idade mais rigorosa pode ameaçar a privacidade. Como proteger as crianças sem invadir a privacidade dos usuários?
Este é um dos pontos mais sensíveis da nova legislação, pois coloca em aparente colisão dois direitos fundamentais: a proteção integral da criança e o direito à privacidade e à proteção de dados pessoais. A solução jurídica não reside na prevalência absoluta de um sobre o outro, mas na aplicação ponderada dos princípios da proporcionalidade, necessidade e minimização de dados, conforme preconiza a Lei Geral de Proteção de Dados (LGPD). O ECA Digital não autoriza uma coleta indiscriminada de dados. A abordagem deve ser casuística e baseada em risco.

Proporcionalidade ao Risco: A intensidade do método de verificação de idade deve ser diretamente proporcional ao risco oferecido pela plataforma. Um jogo educativo online não demanda o mesmo nível de verificação que uma rede social com livre interação ou uma plataforma de conteúdo adulto.

Tecnologias de Preservação da Privacidade (PETs): A lei incentiva o uso de Privacy-Enhancing Technologies. Em vez de coletar e armazenar cópias de documentos, podem ser empregados métodos como a verificação por terceiros confiáveis (que apenas confirmam a maioridade sem compartilhar dados), sistemas de estimativa de idade por IA que não armazenam imagens e provas de conhecimento de idade zero (zero-knowledge age proofs).

Fiscalização pela ANPD: A Autoridade Nacional de Proteção de Dados terá um papel crucial na regulamentação e fiscalização dos métodos adotados. Caberá à ANPD definir padrões técnicos, auditar as soluções das empresas e garantir que a coleta de dados seja a mínima necessária para atingir a finalidade de proteção, evitando a criação de novos riscos de segurança e privacidade. O objetivo não é criar um sistema de vigilância, mas um ecossistema digital onde a segurança infanto-juvenil é uma premissa, implementada de forma técnica e juridicamente responsável.

Imagem gerada por IA/ Freepik

3. A tecnologia muda muito rápido. O ECA Digital pode ficar obsoleto em pouco tempo? Quais são suas principais falhas?
Do​ ponto de vista da técnica legislativa, a grande virtude do ECA Digital é sua neutralidade tecnológica. Ao se basear em princípios abertos e obrigações finalísticas, como o “dever de cuidado” e o “melhor interesse da criança”, em vez de regular tecnologias específicas, a lei adquire uma longevidade maior e capacidade de adaptação a inovações futuras.
Contudo, como toda norma que lida com um campo dinâmico, ela apresenta lacunas que exigirão regulamentação infralegal e interpretação jurisprudencial. Identifico duas principais:Algoritmos de Recomendação e Riscos Sistêmicos: A lei foca muito na responsabilidade por conteúdo, mas é menos explícita sobre a responsabilidade pelo design dos sistemas. O problema contemporâneo muitas vezes não é um conteúdo isolado, mas o efeito aditivo e imersivo dos algoritmos de recomendação, que podem criar ‘espirais de conteúdo’ prejudiciais (ex: indução a transtornos alimentares, radicalização). A responsabilização por esses riscos sistêmicos ainda é um campo cinzento.

Inteligência Artificial Generativa: A norma foi concebida antes da popularização massiva de IAs generativas. Ferramentas que criam deepfakes pornográficos ou fraudulentos com a imagem de crianças e adolescentes representam um desafio de escala sem precedentes. A lei não endereça de forma específica a responsabilidade dos desenvolvedores dessas tecnologias nem os desafios probatórios e de atribuição de autoria que elas impõem.

Finalmente, o maior desafio não está no texto da lei (sua validade e vigência), mas em sua efetividade. A eficácia da norma dependerá de um aparato de fiscalização robusto, com capacidade técnica e orçamentária para auditar as big techs e aplicar sanções significativas. Sem uma fiscalização atuante, corremos o risco de ter uma legislação avançada no papel, mas inócua na prática, o que, no jargão jurídico, chamamos de ‘lei para inglês ver’.