Pentágono testou modelos da OpenAI via Microsoft, contornando proibição de uso militar

Quando a OpenAI deixou bem claro em seus primeiros documentos de política de uso a proibição de aplicação militar de seus modelos, isso parecia uma posição de princípios de uma das empresas de IA mais influentes do mundo. Agora descobre-se que o Pentágono encontrou um caminho elegante para contornar o problema muito antes da empresa revisar oficialmente suas regras.

De acordo com informações de fontes consultadas pela revista Wired, o Departamento de Defesa dos EUA estava conduzindo experimentos com tecnologias da OpenAI, obtendo acesso não diretamente, mas através da plataforma de nuvem Azure da Microsoft. O esquema era simples e ao mesmo tempo formalmente impecável: a Microsoft, que investiu bilhões de dólares na OpenAI, possui direito de licença para usar os modelos da empresa em seus próprios produtos e serviços. O Azure fornece aos clientes corporativos e governamentais acesso a esses modelos dentro de seu ecossistema de nuvem.

O Pentágono é um cliente antigo e importante da Microsoft. Todos os elos da cadeia estão no lugar, e nenhum deles viola formalmente a letra da proibição da OpenAI, que se aplicava ao uso direto de seus serviços para fins militares.

O contexto dessa história tem raízes em uma contradição fundamental embutida no próprio modelo de negócios da OpenAI. A empresa, fundada em 2015 como um laboratório de pesquisa sem fins lucrativos com a missão de garantir o desenvolvimento seguro da inteligência artificial para o benefício da humanidade, gradualmente se transformou em um gigante comercial. A parceria com a Microsoft, começando com um investimento de um bilhão de dólares em 2019 e evoluindo para uma aliança estratégica de múltiplos bilhões de dólares, tornou-se o motor dessa transformação. Mas também criou uma brecha estrutural: ao transferir licenças de seus modelos para a Microsoft, a OpenAI efetivamente perdeu o controle total sobre quem e como esses modelos seriam fornecidos depois.

Tecnicamente, o Pentágono poderia usar os modelos da OpenAI através do Azure para uma ampla gama de tarefas — desde o processamento de dados de inteligência e análise de documentos até o planejamento de operações logísticas e modelagem de cenários. O departamento militar dos EUA há muito demonstra interesse em grandes modelos de linguagem como uma ferramenta para melhorar a eficiência das estruturas de comando. E embora a natureza exata dos experimentos não seja revelada, o simples fato de sua condução em contorno da política pública da OpenAI fala por si.

Em janeiro de 2024, a OpenAI silenciosamente alterou sua política de uso aceitável, removendo a proibição explícita de aplicações militares e de defesa. A empresa explicou essa decisão como a necessidade de uma abordagem mais nuançada, enfatizando que a proibição de uso para causar dano às pessoas permanece em vigor. Os críticos, porém, viram nisso a legalização de uma prática já existente — uma espécie de reconhecimento de uma realidade na qual as restrições éticas se mostraram mais fracas que os interesses comerciais e a pressão governamental.

Essa história expõe um problema sistêmico que vai muito além de uma única empresa. A indústria moderna de IA é construída sobre relacionamentos complexos de parceria e licenciamento, onde tecnologias de um desenvolvedor são incorporadas aos produtos e plataformas de dezenas de outras empresas. Em tal ecossistema, as políticas éticas de um desenvolvedor individual se tornam declarações de intenção em vez de restrições reais.

Se um modelo é acessível através da API de um parceiro, uma proibição sobre certos tipos de uso se torna uma questão de confiança, não de controle técnico. A Microsoft, por sua vez, tem uma longa história de cooperação com o Pentágono e nunca compartilhou a retórica pacifista da OpenAI inicial — o contrato JEDI e seu sucessor JWCC de dezenas de bilhões de dólares comprovam isso.

Para toda a indústria de inteligência artificial, a lição é transparente e desanimadora. Marcos éticos não apoiados por mecanismos de controle técnico e acordos legalmente vinculantes com parceiros permanecem boas intenções. Enquanto as empresas de IA constroem seus ecossistemas através de licenciamento e plataformas de nuvem, o controle real sobre o uso final das tecnologias será inevitavelmente enfraquecido. E a questão de saber se os sistemas de IA mais poderosos do mundo devem funcionar para departamentos militares finalmente sai do reino da ética corporativa para o reino da geopolítica, onde as respostas são determinadas não pelas missões de startups, mas pela lógica da competição entre grandes potências.