LLM de código aberto para juristas: o experimento do Reg.cloud e Raft

A automação do trabalho com documentos jurídicos percorreu um longo caminho, começando com expressões regulares e terminando com redes neurais modernas. No entanto, conforme a prática demonstra, ou a qualidade do processamento era insuficiente para tarefas comerciais reais, ou o custo de implementação e manutenção da solução era proibitivamente alto. Em busca de uma solução ideal, a equipe do Reg.cloud concedeu uma bolsa à equipe do Raft para conduzir um experimento usando LLMs open-source modernos em servidores em nuvem com GPUs A100. O objetivo do experimento era determinar o quão bem os LLMs lidam com documentos jurídicos longos e se é possível sua aplicação para extração industrial de dados críticos para o negócio.

Durante o experimento, a equipe do Raft enfrentou uma série de limitações. Primeiro, os LLMs, mesmo os mais modernos, têm restrições de comprimento de contexto. Os documentos jurídicos são frequentemente muito volumosos e, para processá-los efetivamente, é necessário dividi-los em partes ou usar técnicas de expansão de contexto. Segundo, a precisão da extração de dados depende diretamente da qualidade do treinamento do modelo e sua capacidade de compreender a terminologia jurídica. Modelos treinados em dados gerais podem enfrentar dificuldades ao trabalhar com textos jurídicos específicos.

Para resolver esses problemas, a equipe do Raft aplicou uma série de soluções de engenharia. Técnicas de chunking (divisão de texto em fragmentos) e summarization (compressão de informações) foram usadas para processar documentos longos. A equipe também realizou ajuste fino dos modelos em conjuntos de dados jurídicos especializados. Atenção especial foi dedicada à seleção de parâmetros ideais do modelo e à configuração do processo de extração de dados.

Os resultados do experimento se mostraram promissores, mas não sem desvantagens. Os LLMs demonstraram boa capacidade de extrair informações-chave de documentos jurídicos, mas a precisão e a completude da extração variaram dependendo do tipo de documento e da complexidade da tarefa. Os melhores resultados foram alcançados ao usar modelos ajustados em dados especializados. No entanto, mesmo neste caso, foi necessária verificação manual dos resultados para garantir alta precisão.

Este experimento tem implicações importantes para a indústria jurídica. Demonstra que LLMs open-source podem ser uma ferramenta útil para automatizar o processamento de documentos jurídicos, mas requerem ajuste cuidadoso e adaptação a tarefas específicas. No futuro, com o avanço da tecnologia e o surgimento de modelos mais poderosos, podemos esperar melhorias significativas nos resultados e aplicação mais ampla de LLMs na prática jurídica.

Em conclusão, o experimento de Reg.cloud e Raft demonstrou o potencial dos LLMs open-source para automatizar o trabalho com documentos jurídicos. Embora existam certas limitações e complexidades, as soluções de engenharia e o ajuste fino dos modelos permitem atingir resultados aceitáveis. Pesquisa e desenvolvimento futuro nesta área abrirão novas oportunidades para melhorar a eficiência e reduzir custos no setor jurídico.