O projeto tem como objetivo empregar grandes modelos de linguagem (Large Language Models – LLMs) para analisar conteúdos textuais produzidos ou consumidos por crianças e adolescentes em ambientes virtuais, com foco na detecção de situações de risco e comportamentos preocupantes. A solução busca apoiar ações preventivas relacionadas à segurança digital e ao bem-estar emocional de menores.
O principal desafio enfrentado pela empresa consiste no desenvolvimento de um modelo de linguagem capaz de identificar temáticas sensíveis e comportamentos de risco em textos gerados ou consumidos por crianças e adolescentes no ambiente digital. Esse desafio envolve não apenas a complexidade técnica de interpretar a linguagem infantojuvenil, mas também a necessidade de criação, curadoria e classificação de um conjunto de dados cuidadosamente rotulado por especialistas. Esse processo é essencial para garantir que o modelo de Inteligência Artificial seja confiável, ético e alinhado às nuances emocionais, linguísticas e comportamentais desse público.
A tecnologia desenvolvida consiste em um modelo de Inteligência Artificial especializado na análise de textos no contexto infantojuvenil. O sistema é capaz de identificar temáticas sensíveis — como bullying, assédio, violência, automutilação, consumo de substâncias e outros conteúdos nocivos — bem como comportamentos de risco, incluindo mudanças de padrão linguístico, sinais de isolamento, linguagem de alerta e pedidos indiretos de ajuda.
Os dados analisados são coletados diretamente no dispositivo utilizado pela criança ou adolescente (smartphone ou tablet). Quando o modelo identifica padrões relevantes ou situações de risco, o sistema gera alertas direcionados aos pais ou responsáveis, permitindo que investiguem ou adotem medidas preventivas adequadas.
A aplicação da tecnologia se dá como uma ferramenta de monitoramento online voltada à segurança e ao bem-estar digital de crianças e adolescentes. A solução auxilia famílias, escolas e instituições de proteção a antecipar problemas que muitas vezes não são perceptíveis no cotidiano, promovendo uma atuação preventiva e orientada por dados.
Um dos principais diferenciais da solução é o respeito à privacidade. O sistema sinaliza riscos sem expor o conteúdo específico das conversas analisadas, garantindo que pais e responsáveis sejam informados sobre possíveis situações preocupantes sem violar a intimidade ou a confiança entre pais e filhos.
Outro diferencial relevante é a especialização da IA na linguagem infantojuvenil. Diferentemente de modelos genéricos, a inteligência artificial da Infantia é treinada para compreender a linguagem informal, emocional e dinâmica típica de crianças e adolescentes, possibilitando a detecção de sinais sutis de sofrimento, influência nociva ou mudanças comportamentais.
Além disso, a solução realiza monitoramento preventivo em tempo real, permitindo a identificação rápida de situações de risco antes que se agravem. Os alertas automáticos destacam apenas informações relevantes, oferecendo apoio confiável aos responsáveis sem exigir vigilância constante. O modelo de IA responsável pela detecção constitui o núcleo tecnológico desenvolvido no âmbito deste projeto, em parceria com a EMBRAPII.
A tecnologia desenvolvida é inédita no contexto nacional. Embora exista uma aplicação com proposta semelhante em língua inglesa, a abordagem adotada pela Infantia é única para cada idioma, considerando as particularidades linguísticas, culturais e comportamentais do público infantojuvenil em português. O modelo de detecção desenvolvido possui caráter proprietário e representa um avanço significativo na área de segurança digital infantil.
A solução da Infantia tem potencial para redefinir os padrões de segurança digital infantil, promovendo um modelo ético, proativo e humanizado de cuidado. No contexto industrial, abre caminho para uma nova geração de soluções de monitoramento inteligente que protegem sem invadir, influenciando o desenvolvimento de produtos nas áreas de segurança online, educação digital e saúde mental.
Em uma perspectiva mais ampla, a tecnologia contribui para a prevenção de riscos emocionais e sociais na infância e adolescência, fortalecendo laços familiares, promovendo o bem-estar digital e ampliando a capacidade de resposta preventiva diante de situações de vulnerabilidade.

O projeto promove avanços tecnológicos relevantes, incluindo:

• Aplicação de grandes modelos de linguagem na análise de textos em linguagem infantojuvenil;
• Detecção automática de temáticas sensíveis e comportamentos de risco;
• Inovação no uso de Inteligência Artificial com foco em prevenção e respeito à privacidade.

Os principais indicadores associados ao projeto incluem:

• Redução do tempo de resposta a situações de risco;
• Aumento da precisão na identificação de conteúdos impróprios ou preocupantes;
• Volume de alertas gerados e ações preventivas realizadas;
• Nível de engajamento dos pais ou responsáveis com os alertas;
• Melhoria na percepção de segurança digital no ambiente familiar.