OpenAI lança políticas de proteção para adolescentes em formato de prompt para desenvolvedores do gpt-oss-safeguard

A OpenAI publicou um conjunto de políticas de segurança prontas, baseadas em prompts, para proteger adolescentes em aplicativos construídos sobre o modelo gpt-oss-safeguard. Com a ferramenta, desenvolvedores podem adicionar moderação por faixa etária sem precisar criar filtros complexos do zero. Adolescentes estão entre os públicos mais ativos de aplicativos de AI.

Chatbots, tutores, companheiros de jogos e ferramentas de estudo são usados por crianças e jovens de 13 a 17 anos. Mesmo assim, a maioria dos modelos de linguagem vem configurada, por padrão, para usuários adultos: eles não distinguem a pergunta de um profissional de trinta anos da pergunta de um estudante de catorze. Essa distância entre as capacidades técnicas do modelo e seu público real é, há tempos, um problema para quem desenvolve produtos de massa.

Reguladores do mundo inteiro estão de olho nisso. Na União Europeia, o AI Act exige proteção especial para grupos vulneráveis de usuários, incluindo menores de idade. Nos EUA, segue o debate sobre regras para o uso de AI por estudantes.

Empresas que criam produtos para o grande público são cada vez mais cobradas a provar que seus sistemas não podem prejudicar uma criança — e essa exigência deixa de ser só uma questão ética para se tornar também jurídica. O gpt-oss-safeguard é um modelo guardião aberto da OpenAI, criado para verificar mensagens de entrada e saída em sistemas de chat. Ele analisa o conteúdo em busca de violações de política e pode bloquear ou sinalizar solicitações problemáticas antes que cheguem ao modelo principal ou ao usuário.

As novas políticas para adolescentes foram implementadas como prompts — instruções em texto que o desenvolvedor envia ao modelo junto com a solicitação. Assim, é possível acoplar uma camada extra de filtragem, específica para a faixa etária, sem alterar a base de código. As políticas cobrem riscos típicos da adolescência: temas de automutilação, cyberbullying, conteúdo sexual provocativo e situações em que a AI pode, sem perceber, assumir o papel de um adulto com autoridade e exercer influência excessiva sobre uma mentalidade ainda em formação.

O desenvolvedor inclui a política no prompt de sistema do aplicativo. O modelo guardião então verifica cada interação — tanto as solicitações do usuário quanto as respostas do sistema — com critérios adaptados à faixa etária. Se o conteúdo não passar pelo filtro, o sistema pode rejeitar a resposta, reformulá-la ou encaminhar o caso para moderação manual.

A principal vantagem da abordagem é a flexibilidade: em vez de receber uma caixa-preta com regras rígidas, o desenvolvedor trabalha com políticas configuráveis. Isso é fundamental porque o contexto de segurança para adolescentes varia muito — uma plataforma educacional para estudantes, um chat companheiro em jogos e um app de saúde mental para jovens exigem abordagens de moderação diferentes. Ao liberar essas ferramentas abertamente, a OpenAI dá mais um passo em uma estratégia mais ampla.

Com soluções de moderação prontas, a empresa reduz a barreira de entrada para equipes pequenas, que não têm recursos para desenvolver seus próprios sistemas de segurança. Ao mesmo tempo, ajuda a moldar padrões do setor: se um número suficiente de desenvolvedores adotar essas políticas, surgirá uma norma de fato para a proteção de adolescentes em aplicativos de AI — e uma forma de demonstrar a reguladores e ao público uma abordagem responsável de desenvolvimento. A segurança por faixa etária sai do campo das discussões éticas e passa ao das ferramentas concretas.

Quem constrói produtos para jovens agora pode contar com soluções prontas de um dos principais players do mercado, em vez de inventar filtros próprios ou ignorar o problema. Para a indústria, é um movimento na direção certa.