LLMs de código aberto para advogados: o experimento da Reg.Cloud e da Raft

A automação do trabalho com documentos jurídicos percorreu um longo caminho, das expressões regulares às redes neurais modernas. Na prática, porém, ou a qualidade do processamento era insuficiente para tarefas reais de negócio, ou o custo de implantar e manter a solução se mostrava excessivamente alto. Em busca de uma solução ideal, a equipe da Reg.Cloud concedeu à Raft um grant para realizar um experimento com LLMs de código aberto modernos em servidores na nuvem com GPUs A100. O objetivo era descobrir quão bem os LLMs lidam com documentos jurídicos longos e se podem ser usados na extração industrial de dados críticos para o negócio.

Durante o experimento, a equipe da Raft esbarrou em várias limitações. Primeiro, mesmo os LLMs mais modernos têm limite de tamanho de contexto. Documentos jurídicos costumam ser muito extensos, e processá-los com eficiência exige dividi-los em partes ou usar métodos de ampliação de contexto. Segundo, a precisão da extração depende diretamente da qualidade do treinamento do modelo e de sua capacidade de entender a terminologia jurídica. Modelos treinados com dados gerais podem ter dificuldade com textos jurídicos específicos.

Para resolver esses problemas, a equipe da Raft aplicou várias soluções de engenharia. Foram usadas técnicas de chunking (divisão do texto em fragmentos) e summarization (compressão da informação) para processar documentos longos. Os modelos também passaram por ajuste fino (fine-tuning) em datasets jurídicos especializados. Dedicou-se atenção especial à escolha dos parâmetros ideais do modelo e à configuração do processo de extração.

Os resultados foram promissores, mas não isentos de falhas. Os LLMs mostraram boa capacidade de extrair informações-chave de documentos jurídicos, mas a precisão e a completude da extração variaram conforme o tipo de documento e a complexidade da tarefa. Os melhores resultados vieram de modelos ajustados com dados especializados. Mesmo assim, foi necessária a revisão manual dos resultados para garantir alta precisão.

O experimento tem implicações importantes para o setor jurídico. Ele mostra que LLMs de código aberto podem ser uma ferramenta útil para automatizar o processamento de documentos jurídicos, mas exigem configuração cuidadosa e adaptação a tarefas específicas. No futuro, com a evolução da tecnologia e a chegada de modelos mais potentes, é possível esperar melhora significativa dos resultados e uso mais amplo dos LLMs na prática jurídica.

Em conclusão, o experimento da Reg.Cloud e da Raft demonstrou o potencial dos LLMs de código aberto para automatizar o trabalho com documentos jurídicos. Embora existam certas limitações e dificuldades, as soluções de engenharia e o ajuste fino dos modelos permitem alcançar resultados aceitáveis. Novas pesquisas e desenvolvimentos nessa área abrirão mais possibilidades para aumentar a eficiência e reduzir custos no setor jurídico.