MTS AI abre o código do AVI, filtro externo que mantém LLMs dentro da lei sem fine-tuning

A MTS AI liberou em código aberto no GitHub o AVI (Aligned/Agreement Validation Interface), um serviço funcional que atua como filtro externo e independente de modelo. Ele analisa os prompts em busca de ataques e verifica as respostas do LLM quanto a toxicidade, ética e violações da lei, sem mexer nos pesos do próprio modelo.

Como é a arquitetura do AVI

A empresa apresentou o conceito do AVI no ano passado como um "firewall inteligente" para LLMs. O filtro de entrada barra ataques de prompt antes que a requisição chegue ao modelo, e o filtro de saída avalia a resposta já gerada quanto a toxicidade, ética e violações da lei. Agora, a MTS AI aprimorou a arquitetura e publicou uma implementação funcional: um serviço em Python e FastAPI com filtros de entrada e saída, módulo RAG e build Docker com monitoramento.

• O código aberto foi publicado no GitHub
• Stack: Python e FastAPI
• O pacote inclui filtros de entrada e saída, módulo RAG e Docker com monitoramento (Prometheus, Grafana, Jaeger)
• Novas regras de filtragem são adicionadas com uma única frase em linguagem natural
• O sistema foi testado no benchmark FinanceBench
• A descrição científica da arquitetura foi publicada no periódico MDPI Electronics

Por que usar um filtro externo se é possível fazer fine-tuning do modelo?

A ideia central do AVI é não retreinar o LLM a cada nova exigência legal ou ética, e sim manter as regras do lado de fora, em um serviço separado. Segundo os desenvolvedores, isso permite adicionar e alterar regras sem passar por um ciclo de fine-tuning: o novo requisito é descrito em uma única frase em linguagem natural, e não por meio de um conjunto de novos exemplos de treinamento. Ainda de acordo com eles, a abordagem ajuda a economizar no treinamento de modelos de IA, já que não é preciso reiniciar o caro processo de fine-tuning sempre que uma norma regulatória muda.

Além disso, o AVI não está atrelado a um modelo específico. Como o filtro opera externamente, no nível das requisições de entrada e das respostas de saída, em teoria ele pode ser colocado na frente de qualquer LLM, e não apenas daquele para o qual foi originalmente desenvolvido na MTS AI.

O que isso significa

O AVI é um exemplo de como a conformidade com a lei e com normas éticas vem sendo cada vez mais transferida para uma camada separada e controlável sobre o modelo, em vez de ficar embutida em seus pesos. Para empresas que operam LLMs em setores regulados, como o financeiro, é uma forma de se adaptar mais rápido a novas exigências sem precisar refazer um fine-tuning caro a cada mudança nas regras.

Perguntas frequentes

O que é o AVI?

O AVI (Aligned/Agreement Validation Interface) é um filtro externo para LLMs, independente de modelo, que verifica as requisições de entrada em busca de ataques de prompt e avalia as respostas quanto a toxicidade, ética e violações da lei.

Em que o AVI foi testado?

Os desenvolvedores reproduziram os experimentos no benchmark FinanceBench e publicaram a descrição científica da arquitetura no periódico MDPI Electronics.

Onde obter o código do AVI?

O serviço funcional em Python e FastAPI está disponível em código aberto no GitHub, incluindo os filtros de entrada e saída, o módulo RAG e o build Docker com monitoramento via Prometheus, Grafana e Jaeger.