Relatório da SaferNet encaminhado ao Ministério Público Federal, à Polícia Federal e a autoridades francesas revela que mais de 1,25 milhão de usuários do Telegram no Brasil estão em grupos em que ocorrem a venda e o compartilhamento de imagens de abuso sexual infantil e outros crimes como fotos de nudez e sexo vazadas sem consentimento e a venda de material pornográfico gerado com inteligência artificial.

Quer ficar por dentro do mundo da tecnologia e ainda baixar gratuitamente nosso e-book Manual de Segurança na Internet? Clique aqui e assine a newsletter do 33Giga

O relatório “Em suas próprias palavras: Como o Telegram tem sido usado no Brasil como um espaço de comércio virtual por criminosos sexuais”, é fruto de uma pesquisa realizada em 874 links do Telegram denunciados à SaferNet por usuários da internet do Brasil e de outros países no primeiro semestre de 2024 por “pornografia infantil” (imagens de abuso e exploração sexual infantil).

A SaferNet analisou os links do Telegram denunciados e descobriu que 149 deles (17% do total) ainda seguiam ativos normalmente entre julho e setembro deste ano, sem terem sofrido qualquer tipo de restrição pela plataforma, com usuários e administradores cometendo crimes como compartilhamento e venda de imagens de abuso e exploração sexual infantil, de imagens de nudez e sexo vazadas sem consentimento e a venda de material pornográfico gerado com inteligência artificial.

O mapeamento, conduzido de forma manual e com verificação humana, também identificou mais 66 links que nunca haviam sido denunciados, contendo conteúdos criminosos semelhantes que foram compartilhados dentro dos grupos ou canais do Telegram.

Somente em uma das comunidades ainda ativas com comercialização e distribuição de imagens de abuso e exploração sexual infantil no Telegram, a SaferNet contou 200 mil usuários. No total, grupos, comunidades, canais e demais links do app contendo esse tipo de conteúdo contavam com mais de 1,25 milhão de usuários.

A análise realizada pela Safernet deu origem a um relatório de 21 páginas (com três anexos técnicos), que foi entregue em outubro à Procuradoria Regional dos Direitos do Cidadão do MPF em São Paulo. O material indica os links denunciados em que foram encontrados indícios claros de conteúdo criminoso e podem gerar investigações criminais e cíveis.

Telegram líder de denúncias

Entre os apps de mensagem, o Telegram lidera em número de denúncias de “pornografia infantil” recebidas pela SaferNet. E, desde 2021, está entre os 10 domínios com mais links desse tipo de crime denunciados à ONG. Em 2022 e 2023, o app ocupou a quinta posição no ranking geral de domínios com mais denúncias de “pornografia infantil”. Em 2023, a Safernet recebeu 3.274 denúncias desse tipo de crime no Telegram, um aumento de 77% em relação ao ano anterior.

Há anos, o Telegram tem sido alvo de denúncias por não remover comunidades e usuários que incitam a discriminação racial, de gênero e de classe, bem como ataques à democracia, ataques em escolas, apologia ao nazismo e à exploração sexual de crianças e adolescentes. Parte da ineficiência do app em cooperar com as autoridades está vinculada ao seu sistema de denúncias, considerado inadequado pela SaferNet e por outros hotlines no mundo inteiro.

A plataforma permite que os usuários reportem conteúdos de mensagens, grupos ou canais pelo aplicativo ou por e-mail, sendo necessário escrever para o e-mail [email protected] com o assunto “Denúncia usuário @nome”, incluir detalhes do motivo da denúncia e aguardar um retorno da empresa.

Ao contrário de outras plataformas, o Telegram não divulga dados sobre a quantidade de conteúdos moderados e removidos ou o número de denúncias recebidas de usuários e autoridades, enquanto que outras plataformas fazem isso. Essa falta de transparência e o não cumprimento de determinações judiciais tornam o aplicativo alvo de ações criminais em todo o mundo.

O Telegram não responde requisições de nenhum dos 54 hotlines filiados à INHOPE, a associação internacional de canais de denúncia de crimes sexuais contra crianças e adolescentes na internet.

A Safernet é uma organização não governamental de defesa dos direitos humanos na internet que existe desde 2005 e mantém a Central Nacional de Denúncias de Crimes Cibernéticos, que recebe denúncias de usuários da internet sobre 11 crimes. A central é conveniada com o Ministério Público Federal, que recebe apenas os links diferentes entre si e os analisa para verificar se há ou não indícios de crime. O canal de denúncias da instituição permite e garante o anonimato dos denunciantes – o que pode ser crucial, especialmente em casos de abuso sexual.

Falta de moderação, transparência e informação

Para o presidente da Safernet, Thiago Tavares, os dados do relatório são “alarmantes” e “demonstram a precariedade da moderação por parte da plataforma, que tem apenas 35 funcionários em todo o mundo para operar um app com 900 milhões de usuários. Essa é uma omissão que precisa ser reparada”.

Além da falta de moderação e omissão da empresa, a Safernet descobriu que parte dos conteúdos são publicados por bots ou vendidos aceitando como pagamento criptomoedas, o que facilita a anonimização dos autores dos crimes, dificultando que eles venham a ser identificados e processados.

Boa parte dos pagamentos dessas transações são operados por robôs. O Telegram alega não processar pagamentos diretamente em transações feitas dessa forma e que é cliente de 23 processadores de pagamento distintos que alcançam todo o mundo.

A SaferNet identificou e pesquisou as informações de registro de cada um desses 23 processadores de pagamento, vinculados a fintechs, e não conseguiu descobrir a origem de cinco deles, pois não foi possível identificar o país de registro. Já as 18 empresas financeiras identificadas estão principalmente na Rússia (6) e na Ucrânia (5) e nas ex-repúblicas soviéticas do Uzbequistão e Cazaquistão, com dois processadores cada. Os demais estão em Hong Kong, Chipre, Reino Unido, Camboja e Etiópia.

A Safernet verificou ainda que quatro das plataformas de pagamento usadas pelo Telegram sofreram sanções internacionais: YooMoney, Sberbank, PSB e Bank 131.

Para o presidente da SaferNet, o fato de empresas sancionadas e outras fintechs estrangeiras sem registro no Banco Central (Bacen) serem utilizadas para intermediar pagamentos no Brasil pode facilitar a ocorrência de outros crimes como lavagem de dinheiro e financiamento do terrorismo. “Solicitamos ao MPF que oficie o Bacen e a ENCCLA para realizar estudos sobre eventuais lacunas existentes na regulação do setor e apresente recomendações para o sistema financeiro nacional coibir esse tipo de prática”, afirma Tavares.

Telegram investigado pelo mundo

Além do MPF, o relatório será encaminhado para a Polícia Federal e ao hotline Francês Point de Contact, membro do INHOPE, e que trabalha diretamente com as autoridades francesas que investigam diversos crimes no Telegram e a falta de colaboração da empresa com a Justiça daquele país.

Essa investigação levou recentemente o presidente e fundador da companhia, Pavel Durov, à prisão em 25 de agosto, na França, onde é investigado por 12 crimes. Ele agora está respondendo em liberdade, mas não pode deixar o país.

O Telegram também é investigado na Índia e um recente relatório do Escritório das Nações Unidas sobre Drogas e Crime (UNODC) apontou que o aplicativo facilita o crime organizado no Sudeste Asiático e que sua criptografia dificulta que criminosos sejam detectados pelas autoridades.

Representação às autoridades

A representação da SaferNet Brasil será protocolada na Procuradoria Regional dos Direitos do Cidadão (PRDC) em São Paulo. Cabe à PRDC atuar na defesa de direitos constitucionais como liberdade, igualdade, dignidade, saúde, educação, segurança pública, o direito à informação e à livre expressão, entre outros. Em 2021, o MPF instaurou Inquérito Civil Público para apurar as deficiências nos canais de denúncia e práticas de moderação de conteúdo das plataformas digitais, incluindo o Telegram.

Projeto DISCOVER

A análise realizada pela Safernet foi feita no âmbito do projeto DISCOVER, de prevenção da prática de abuso e exploração sexual infantil. Neste projeto, apoiado pelo fundo Safe Online, a Safernet indexa palavras, acrônimos (siglas, abreviações, palavras codificadas ou com erros propositais de ortografia ou digitação) e emojis em português, inglês e espanhol usados por predadores sexuais ao organizar, divulgar, compartilhar ou trocar imagens de pornografia infantil ou na tentativa de aliciar crianças e adolescentes a produzirem esses conteúdos.

Durante a análise dos links denunciados do Telegram, realizada entre junho e agosto deste ano, a SaferNet identificou 190 palavras-chave, acrônimos, emojis e hashtags em três idiomas (português, inglês e espanhol) utilizados para compartilhar, buscar ou comercializar materiais ilícitos.

Usando as palavras-chaves, as autoridades que receberão o relatório poderão treinar algoritmos de aprendizado por máquinas (machine learning), e aperfeiçoar sistemas de detecção baseados em heurísticas de busca por esses termos. Somadas, essas medidas ajudarão na detecção de conteúdos ilegais e de seus propagadores. O trabalho realizado em busca de imagens ilegais contribuirá para que vítimas também sejam localizadas e identificadas de forma mais rápida, agilizando o combate ao abuso e à exploração sexual no Brasil e em outros países.

Por conceito, heurísticas são padrões comuns de texto ou palavras-chave que podem ser típicos de uma determinada categoria de violação de política.

Conteúdos detectados por heurísticas geralmente são revisados por moderadores de conteúdo humanos antes que uma ação seja tomada sobre o conteúdo. Heurísticas são tipicamente utilizadas para permitir que as plataformas reajam rapidamente a novas formas de violações que surgem online, incluindo novas formas de disseminação de imagens de abuso e exploração sexual infantil.

Uma parte do trabalho já realizado pelo DISCOVER foi apresentado por Tavares em novembro de 2023 na França em uma reunião técnica de especialistas do mundo todo, convidados pelo fundo SafeOnline, We Protect e Governo Francês.