Um aplicativo desenvolvido em parceria com a Unidade Embrapii Instituto de Ciências Matemáticas e de Computação (ICMC), da Universidade de São Paulo (USP), tem o objetivo de auxiliar pais na supervisão da atividade digital de seus filhos para promover uma mediação parental mais eficaz. Por meio de inteligência artificial, o aplicativo coleta e processa dados dos celulares de crianças e adolescentes. Ao detectar conteúdo suspeito, notifica os responsáveis sobre o tipo de conteúdo acessado ou o comportamento perigoso em curso.

Não quer perder as últimas notícias de tecnologia? Siga o perfil do 33Giga no Instagram e no Bluesky

O mecanismo captura absolutamente toda a interação que o usuário faz no celular. “Cada mensagem que ele envia, tudo que ele recebe, os sites que está acessando e os jogos. Essas informações geram uma base de dados que é processada por um modelo de IA para identificar comportamento de risco”, conta o pesquisador da Unidade Embrapii ICMC, Luis Gustavo Nonato.

O foco é a prevenção. Caso o usuário combine algo que represente risco a ele ou a terceiros, será detectado. Os alertas envolvem o consumo de conteúdo violento, pornografia ou até mesmo intenção de fuga. “A IA emitirá o alerta para os responsáveis quando o usuário fizer pesquisas sobre passagens de ônibus para outras cidades”, exemplifica o fundador da startup Infantia, Ricardo Busato. Desde o fim de 2025, o aplicativo está em teste com usuários reais para preparar a tecnologia e lançá-la no mercado ainda no primeiro semestre deste ano.

Inteligência artificial e base de dados

Inicialmente, um grupo de psicólogos levantou quais seriam as possíveis situações de risco envolvendo crianças e adolescentes. O modelo de linguagem em IA foi alimentado com esses exemplos para gerar uma classificação das informações que estavam na base de dados formulada por esses profissionais.

Em seguida, foi realizado o refinamento dessas situações de risco, o que gerou classificações de comportamentos inapropriados, indícios de bullying, sofrimento e fuga para alertar pais e responsáveis.

O pesquisador aponta que o maior desafio é o vocabulário dos jovens. “Quando digitam textos no WhatsApp, nas redes sociais ou em jogos, eles têm uma linguagem própria. Isso dificulta, pois o modelo de linguagem não está treinado para isso. Temos de superar esta situação e contextualizar a mensagem, já que a IA não entende ironia”, exemplifica. O modelo será reavaliado e adaptado de forma contínua sempre que surgirem novos símbolos (emojis) e expressões nas interações.

Sobre a coleta de dados, Nonato garante total privacidade. “Quando os dados vão para a IA, temos uma etapa de anonimização, que impede a identificação dos usuários e a relação das informações com eles. Há também um estágio de confiabilidade que impede o uso dos dados para outros fins que não os do aplicativo”, assegura.

O pesquisador avalia que a ferramenta é inovadora em relação a outras soluções disponíveis no mercado. “Há diversos aplicativos de bloqueio de conteúdo, mas eles não analisam se a criança está em situação de risco, não há monitoramento da interação dela com outros usuários nas redes sociais e jogos”, afirma.

A fase de pesquisa, o desenvolvimento da solução e os testes com usuários reais ocorreram em um período de cinco meses. De acordo com o fundador da startup, o modelo de negócios da Embrapii e a expertise da Unidade foram fundamentais para essa agilidade. “Estávamos estudando as opções para contratação de pesquisador em IA, conversando com algumas universidades quando encontramos a Embrapii. Fizemos um primeiro contato, que evoluiu para reunião, escrita de projeto, aprovação e agora estamos na execução. Não conseguiríamos ter uma equipe tão completa e qualificada na pesquisa de IA para nosso projeto se não fosse a Embrapii”, avalia Busato.

O projeto também teve apoio do Serviço Brasileiro de Apoio às Micro e Pequenas Empresas (Sebrae), por se tratar de uma startup.

Quer ficar por dentro do mundo da tecnologia e ainda baixar gratuitamente nosso e-book Manual de Segurança na Internet? Clique aqui e assine a newsletter do 33Giga