Anthropic atualiza sua Responsible Scaling Policy com um sistema flexível de proteção para modelos de IA em crescimento

A Anthropic publicou uma atualização de sua Responsible Scaling Policy, a política de gestão de riscos no desenvolvimento de sistemas de IA poderosos. A atualização traz uma abordagem mais flexível e detalhada, mas mantém o princípio central: a empresa não vai treinar nem implantar modelos até ter certeza de que os riscos estão em um nível aceitável.

Por que a política foi atualizada

Há um ano, a Anthropic lançou a primeira versão da RSP, concebida para gerenciar os riscos de sistemas de IA cada vez mais capazes. Um ano de aplicação prática mostrou a necessidade de uma abordagem mais flexível. A empresa acompanha não só as capacidades técnicas dos modelos, mas também seus riscos e consequências potenciais.

A Anthropic monitora várias categorias de ameaças ao mesmo tempo. Entre elas estão problemas clássicos, como a disseminação de desinformação, a incitação à violência e a fraude, todos cobertos pela Usage Policy da empresa. A RSP, porém, foca em cenários catastróficos mais ambiciosos, que podem surgir quando os modelos atingirem certo nível de independência e capacidade de realizar manipulações complexas.

A política atualizada incorpora a experiência prática e abordagens usadas em outros setores de alto risco: aviação, energia nuclear e farmacêutica. Isso permite se preparar melhor para o ritmo acelerado do desenvolvimento da IA e construir sistemas de proteção que escalam junto com a tecnologia.

Como funcionam os níveis ASL

O novo sistema se baseia no princípio da proteção proporcional: as medidas de segurança devem crescer junto com os riscos. A Anthropic introduziu os AI Safety Level Standards (ASL Standards), conjuntos graduados de requisitos técnicos e de procedimento inspirados nos Biosafety Levels internacionais, usados em laboratórios que lidam com materiais perigosos.

O sistema começa no ASL-1, para modelos com capacidades básicas (por exemplo, bots especializados em xadrez ou em busca rápida de informações), e sobe para ASL-2, ASL-3 e além, conforme crescem as capacidades e os riscos potenciais. Cada nível acima exige requisitos mais rígidos:

• Monitoramento e registro reforçados de todas as operações realizadas pelo modelo
• Testes de segurança pré-implantação mais rigorosos
• Camadas adicionais de controle de acesso, isolamento e segmentação
• Auditorias independentes obrigatórias e revisões por especialistas externos em segurança
• Reavaliações mais frequentes dos riscos potenciais à medida que surgem novos dados

Atualmente, todos os modelos da Anthropic operam sob o padrão ASL-2, que a empresa considera refletir as melhores práticas do setor hoje.

Limites de capacidade: quando é preciso entrar em alerta máximo

Em vez de critérios vagos e subjetivos, a Anthropic definiu limites concretos, os Capability Thresholds: habilidades específicas do modelo que, ao serem atingidas, exigem medidas de segurança mais fortes e um novo nível ASL. Até agora, dois limites principais foram definidos.

O primeiro é o Autonomous AI R&D: se um modelo conseguir realizar sozinho tarefas complexas de pesquisa em IA, que normalmente exigem experiência e intuição humanas, isso poderá acelerar significativamente o desenvolvimento da IA em uma direção imprevisível.

O segundo limite é mencionado no documento original, mas sua descrição completa ainda não foi divulgada. A empresa deixa aberta a possibilidade de ampliar a lista à medida que entender melhor o impacto real das novas capacidades.

O que isso significa

A Anthropic defende que a segurança da IA não deve ser nem um bloqueio irracional nem a ausência total de controle. Em vez disso, a empresa constrói um sistema escalável, que cresce com a tecnologia e se adapta aos riscos reais.

A abordagem também importa para outros desenvolvedores. Se as ideias da Anthropic ganharem ampla aceitação na comunidade, poderão se tornar o padrão de fato do setor. Isso é especialmente relevante para os reguladores, que hoje buscam estruturas práticas para supervisionar sistemas de IA.