A Agência Nacional de Proteção de Dados (ANPD) concluiu que o sistema automatizado do Discord falhou ao lidar com um incidente grave envolvendo uma adolescente. A empresa não apresentou mecanismos suficientes para identificar e interromper situações de risco para menores de 18 anos.

++ Sistema de IA mostra como pessoas estão criando conteúdo diário sem gravar vídeos

A análise está em uma nota técnica obtida pelo Metrópoles, que fundamentou a decisão de suspender as transmissões ao vivo do Discord no Brasil. O documento detalha os problemas que levaram a agência a suspender o recurso "Go Live" e outras ferramentas de compartilhamento de vídeo.

++ Bomba! Astro de Hollywood, Joe Manganirllo revela ter amputado membro

Um ponto central da análise é o caso investigado na Operação Lívia. Conforme a ANPD, a adolescente conseguiu acessar a plataforma e realizar uma transmissão ao vivo para mais de 200 usuários.

O caso foi citado pela primeira-dama Janja da Silva na semana anterior. Durante um evento sobre violência contra crianças, ela defendeu que a plataforma fosse retirada do ar “imediatamente”.

Janja mencionou a investigação sobre a jovem que teria sido induzida por um grupo de adolescentes a tirar a própria vida durante uma transmissão.

O documento destaca que um "fato gravíssimo recebeu uma sinalização de risco erroneamente baixa", atribuindo isso à configuração do sistema automatizado. A conclusão da área técnica classifica o episódio como um "falso negativo relevante".

Segundo a área técnica da ANPD, o sistema opera com um limite que "privilegia a redução de falsos positivos", o que pode resultar em falhas na identificação de riscos reais.

Para a agência, essa configuração não é adequada quando há risco de lesão grave, automutilação ou morte de crianças ou adolescentes.

Nesses casos, afirma o documento, "o custo de um falso negativo é incomparavelmente superior ao custo de submeter determinado servidor a análise humana adicional".

A agência considera várias hipóteses para a baixa classificação do episódio, como problemas nos sinais coletados, no peso dado a cada indicador, no limite para gerar alertas ou na capacidade de reconhecer padrões de grupos fechados. No entanto, a nota não especifica qual desses fatores causou a falha.

PROBLEMAS NA PLATAFORMA
Parte da preocupação da ANPD está na forma como o Discord identifica ameaças em comunicações criptografadas.

Segundo a empresa, desde 2 de março de 2026, as comunicações de áudio e vídeo por mensagens diretas, grupos de mensagens, canais de voz e pelo "Go Live" passaram a usar criptografia de ponta a ponta.

Nesse modelo, o conteúdo é protegido no dispositivo de quem transmite e só pode ser acessado pelos participantes autorizados. O Discord afirma, portanto, não poder examinar diretamente o áudio e o vídeo durante a comunicação.

A ANPD reconhece essa limitação, mas considera que a escolha da arquitetura do serviço não elimina a responsabilidade da plataforma. “Se uma escolha de segurança inviabiliza a implementação de determinado controle, cabe ao agente regulado implementar controles substitutivos e demonstrar efetividade equivalente ou superior”, afirma o documento.

O Discord informou à agência que busca detectar ameaças por outros meios, como sinais comportamentais, relações entre contas, padrões de rede, metadados, denúncias e histórico de medidas tomadas contra usuários.

A área técnica afirma, no entanto, que a empresa “não apresentou evidências concretas de sua implementação e eficácia” em um documento encaminhado ao Ministério da Justiça.

Segundo a ANPD, proteções aplicadas a comunicações criptografadas precisam ser combinadas, testadas em português e acompanhadas por moderação humana.

A nota menciona, como alternativas possíveis, controles de idade, restrições de funcionalidades, detecção executada no próprio aparelho, análise comportamental mais robusta, limitação do público de uma transmissão, revisão humana prioritária e protocolos para interromper situações emergenciais.

FALHAS NO SISTEMA DE DENÚNCIA
A ANPD também considera insuficiente depender de denúncias feitas pelos participantes de uma transmissão. A área técnica aponta que esse sistema pressupõe que alguém reconheça a violação, não esteja envolvido nela, tenha condições emocionais de reagir, conheça o mecanismo de denúncia e confie que a plataforma atuará a tempo.

Para a agência, essas condições dificilmente estarão presentes quando uma criança ou adolescente estiver sob ameaça, manipulação ou coação. O problema seria ainda maior em servidores privados formados por pessoas envolvidas nas próprias violações.

Nesses ambientes, avalia a área técnica da ANPD, “a eficácia do mecanismo protetivo dependeria que os próprios violadores se autodenunciem”.

O documento acrescenta que, se a plataforma não consegue reconhecer uma situação grave sem a denúncia de um participante, obrigações posteriores de remoção, preservação de provas e comunicação às autoridades “correm o risco de se tornar materialmente inoperantes”.

A supervisão parental também foi considerada insuficiente para enfrentar os riscos específicos das transmissões ao vivo.

Segundo a área técnica, esse recurso “não oferece solução apta a garantir a proteção de crianças e adolescentes” nessas funcionalidades. A ANPD avalia que as medidas descritas pelo Discord são “de caráter predominantemente posterior ao dano ou têm efetividade preventiva limitada”.

A ANPD ressalta, contudo, que sua avaliação ainda é preliminar. A nota fala em “indícios, até o momento reunidos” e registra que a análise foi feita em “juízo de cognição sumária”, antes da conclusão do processo de fiscalização.

Ainda assim, a área técnica entende que os problemas encontrados não estão restritos à Operação Lívia. Segundo o documento, eles decorrem da arquitetura das transmissões de vídeo, das limitações dos sistemas de detecção, da dependência de denúncias e de problemas relacionados à moderação em português. “Eles não se restringem, portanto, a uma ocorrência isolada”, diz a nota.

A fiscalização também cita dados da SaferNet segundo os quais foram registradas 406 denúncias relacionadas ao Discord entre janeiro e julho de 2026, aumento de 54% em relação às 264 notificações do mesmo período de 2025.

O documento afirma ainda que as lives aparecem em outros casos de graves violações envolvendo crianças e adolescentes, incluindo indução à automutilação e ao suicídio. Também são mencionados episódios de tortura e maus-tratos de animais.

DISCORD CONTESTA AVALIAÇÃO
Em manifestação enviada à reportagem, o Discord afirmou que está analisando a determinação e contestou a caracterização feita pela ANPD.

“A caracterização do Discord feita pela ANPD não reflete a plataforma que construímos nem os investimentos que temos feito na segurança dos usuários”, declarou a empresa.

Sobre o episódio envolvendo a adolescente, a plataforma disse ter investigado rapidamente o servidor privado e removido o grupo pouco depois de sua criação. Segundo o Discord, o servidor só podia ser acessado por convite e não aparecia nos mecanismos de descoberta da plataforma.

A empresa afirma ainda ter derrubado o servidor antes da morte da adolescente. O Discord afirma que sua investigação encontrou indícios de que as atividades criminosas começaram a ser coordenadas em outras plataformas antes da criação do grupo e continuaram nesses serviços depois que os envolvidos foram banidos.

A plataforma também afirma possuir equipes especializadas em identificar usuários de alto risco, possíveis vítimas e novos grupos suspeitos, além de fornecer informações às autoridades quando considera necessário.

Na manifestação enviada ao Metrópoles, o Discord também classificou a medida da ANPD como prematura e afirmou que ainda estava dentro do prazo para responder no processo administrativo. Representantes do Discord se reuniram com a Superintendência de Fiscalização em 11 de agosto. Na ocasião, a empresa se comprometeu a prestar os esclarecimentos solicitados até 14 de agosto.

Membros da ANPD afirmam, porém, que medidas cautelares podem ser tomadas, mesmo antes da manifestação da empresa, quando há risco iminente de dano grave ou de difícil reparação.

Na nota técnica obtida pelo Metrópoles, a agência avalia que manter as ferramentas funcionando sem salvaguardas consideradas suficientes poderia permitir “a repetição das condutas investigadas e a ocorrência de novos danos antes da conclusão da instrução fiscalizatória”.

A suspensão permanecerá em vigor até que o Discord demonstre a adoção de medidas consideradas suficientes para reduzir os riscos identificados. Se o cumprimento não for comprovado no prazo, a área técnica propõe o envio do processo ao Conselho Diretor da ANPD para novas providências e eventual aplicação de multa diária.