Segurança da aviação no piloto automático: Trump quer que a IA escreva as regras

"Inundar a zona" é como o Departamento de Transportes dos EUA descreve sua nova estratégia. Enquanto o mundo da tecnologia debate se o ChatGPT vai substituir programadores, o governo Trump resolveu apostar tudo e confiar às redes neurais o que há de mais sagrado: a segurança da aviação. A ideia é simples até o cinismo: se a máquina estatal não acompanha o mercado, basta apertar o botão "gerar". Não se trata apenas de otimizar o trabalho de funcionários, mas de uma mudança radical na forma como são criadas as regras pelas quais o mundo inteiro voa.

Historicamente, as regras de segurança da aviação foram escritas, literalmente, com sangue. Cada vírgula dos regulamentos da FAA (Administração Federal de Aviação dos EUA) surgiu depois de investigações minuciosas de acidentes, anos de testes e negociações intermináveis. É um processo lento e penoso, mas validado ao longo de décadas. Agora, querem transformá-lo em linha de montagem. Os funcionários planejam usar grandes modelos de linguagem para redigir novas regras e revisar as antigas, a fim de eliminar a "regulação excessiva" em prazos recordes. A lógica é simples: quanto mais rápido removermos as barreiras, mais rápido os negócios decolam.

O problema é que a IA não é advogada nem engenheira aeronáutica. É uma máquina estatística complexa que prevê a próxima palavra de uma frase. Quando ela escreve o código de um jogo para celular, o risco é de bugs na interface. Quando escreve as regras de operação de componentes complexos de um avião, o risco recai sobre centenas de pessoas a bordo. O principal argumento dos defensores da reforma é que a IA consegue analisar milhares de páginas de documentação mais rápido que qualquer equipe de advogados. Mas será que o algoritmo entende o contexto da segurança como o entende uma pessoa que viu as consequências de falhas técnicas?

A medida parece uma tentativa de desregulamentação total sob o pretexto do progresso tecnológico. Na aviação existe há tempos o conceito de "captura regulatória", quando as empresas fiscalizadas passam a ditar as condições aos fiscais. Usar uma IA treinada com textos produzidos também por lobistas das gigantes do setor pode transformar o órgão de supervisão em uma impressora automática de interesses corporativos. Enquanto isso, nenhum funcionário está disposto, por ora, a assumir a responsabilidade por possíveis "alucinações" do algoritmo em um texto jurídico.

É especialmente irônico que tudo isso aconteça em meio a uma longa crise de confiança na indústria aeronáutica. Depois da série de incidentes com a Boeing, o mundo esperava mais controle e verificações mais rigorosas, não a automação delas. Mas o novo governo está convencido de que a velocidade vale mais que os procedimentos. Se o experimento no Departamento de Transportes der certo, veremos a mesma abordagem em todas as áreas, da saúde ao meio ambiente. As leis serão escritas mais rápido do que conseguiremos lê-las, quanto mais compreender suas consequências de longo prazo.

A questão central nem é se a IA vai cometer um erro. Vai, isso é inerente à natureza da tecnologia. A questão é se restará, nessa cadeia, uma pessoa de carne e osso capaz de acionar o freio a tempo. Por enquanto, a "inundação da zona" parece uma tentativa de derrubar a velha ordem sem construir um substituto confiável. Estamos entrando numa era em que a segurança dos voos pode passar a depender de quão bom foi o prompt escrito por um funcionário de médio escalão numa segunda-feira de manhã.

Principal pergunta: a sociedade está pronta para que as leis sejam escritas por algoritmos sem reflexão humana?