Ética da IA no MIT: o filósofo Brian Hedden vai tentar dar consciência aos algoritmos

Enquanto o Vale do Silício corre à frente com o lema "quebre tudo o que vir pela frente", o MIT decidiu que é hora de acrescentar a essa mistura um pouco de ponderação adulta. A nomeação de Brian Hedden como codiretor de ética e responsabilidade social do Schwarzman College of Computing não é só mais uma linha no quadro de funcionários. É o reconhecimento oficial de que código puro, sem bússola moral, está se tornando uma ferramenta de consequências imprevisíveis. Hedden, filósofo de formação, chega ao SERC (Social and Ethical Responsibilities of Computing) para pôr ordem na forma como a tecnologia interage com a sociedade.

Por muito tempo, a ética em TI foi algo como uma disciplina optativa: um complemento simpático, mas dispensável, a um curso de estruturas de dados ou de arquitetura de processadores. Os programadores aprendiam a otimizar loops, mas raramente eram instados a se perguntar se o modelo de reconhecimento facial que criaram discrimina determinados grupos de pessoas. Agora, as regras do jogo mudaram. Depois que os algoritmos passaram a influenciar diretamente processos políticos, diagnósticos médicos e até a concessão de crédito a uma pessoa, ignorar o "fator humano" ficou simplesmente perigoso. O MIT Schwarzman College, criado em 2018 com dinheiro do bilionário Stephen Schwarzman, nasceu com uma abordagem interdisciplinar, e a nomeação de Hedden é uma continuação lógica dessa estratégia.

Brian Hedden é especialista em epistemologia e racionalidade. Pode soar como coisa de livro didático empoeirado, mas é exatamente o que se precisa para depurar as redes neurais atuais. Como tomamos decisões? O que é objetividade em um mundo em que os dados já nascem enviesados? Como construir um sistema que seja não apenas "eficiente", mas também justo? No MIT, perceberam que essas perguntas não se respondem apenas com patches e atualizações de bibliotecas Python. É preciso mudar a forma de pensar de quem cria essas bibliotecas.

Junto com o colega Nikos Trichakis, Hedden vai incorporar módulos de ética diretamente nas disciplinas técnicas. A ideia é simples e ambiciosa ao mesmo tempo: fazer com que o estudante que escreve código para um drone autônomo ou um sistema de scoring enxergue de imediato os sinais de alerta. É uma tentativa de formar uma nova geração de engenheiros que deixem de dar de ombros e dizer: "Eu só escrevo código, não me responsabilizo pelo uso". Hedden terá de explicar aos técnicos por que "desempenho" não é o único KPI que importa no mundo atual, e está longe de ser o mais importante.

O mundo inteiro acompanha agora a corrida armamentista entre gigantes como OpenAI e Google. Nessa pressa, considerações éticas costumam ser sacrificadas em nome da velocidade de lançamento e da captação de investimentos. Colocar um filósofo em um cargo de liderança na principal universidade técnica do planeta é um sinal forte para toda a indústria. O MIT quer ser referência não só em potência de clusters computacionais, mas também em como essa potência servirá às pessoas, e não as prejudicará. Se a melhor universidade técnica do mundo aposta na filosofia, a era do tecnootimismo irresponsável chega oficialmente ao fim.

É claro que se pode observar, com ceticismo, que um único filósofo na direção não vai conter os apetites corporativos nem resolver o problema das "caixas-pretas" da IA. Ainda assim, a abordagem sistêmica do MIT pode criar um precedente importante. Se as grandes empresas passarem a exigir de seus funcionários não só conhecimento de algoritmos, mas também compreensão da responsabilidade social, o cenário do desenvolvimento mudará para sempre. Podemos ver mais transparência e menos fé cega na infalibilidade das máquinas.

A questão central: a ética vai virar um filtro real para tecnologias perigosas ou continuará sendo uma vitrine bonita para os reguladores?