Joshua Bengio e LawZero: por que o medo da IA futura distrai das ameaças atuais

O debate sobre o futuro da inteligência artificial cada vez mais se constrói em torno de cenários nos quais as máquinas um dia se tornem inteligentes e saiam do controle. Mas a tese principal deste texto é diferente: não é necessário esperar por uma superinteligência hipotética, porque os riscos-chave da IA já se manifestaram na economia e na política reais. Não se trata de um levante das máquinas, mas de concentração de poder, vigilância, pressão sobre trabalhadores e uso de tecnologias em prol de grandes estruturas.

O autor afirma diretamente que não considera os sistemas de IA atuais inteligentes e não vê fundamentos para acreditar que modelos estatísticos impressionantes levarão automaticamente ao surgimento de inteligência genuína. Portanto, ele percebe conversas no espírito de "o que fazer se a IA se tornar consciente" como conveniente distração ou como marco de marketing que permite discutir catástrofes futuras impressionantes em vez de problemas desconfortáveis do presente. Daí a referência à "aposta de Pascal": o medo de um evento improvável, mas grandioso, começa a ditar a agenda com mais força do que as consequências já observadas.

Ao mesmo tempo, a posição do autor não se reduz a otimismo tecnológico incondicional. Ao contrário, ele reconhece compartilhar parte das preocupações dos chamados catastrofistas de IA, mas vê a fonte da ameaça não no despertamento da inteligência das máquinas, mas nas pessoas e instituições que já administram esses sistemas. Ele está preocupado que as ferramentas digitais estejam concentradas nas mãos de corporações cuja escala dificulta a supervisão pública.

Ele está preocupado que as tecnologias sejam usadas contra usuários e trabalhadores: para intensificar a vigilância, automatizar pressão, endurecer métricas de produtividade e desequilibrar ainda mais o balanço de poder em favor dos empregadores e do estado. É aqui que surge o principal conflito com a escola mais futurista de segurança da IA. O motivo foi uma discussão pública em Montreal, onde o autor falou ao lado de Astra Taylor e Joshua Bengio.

Bengio, um dos pesquisadores mais autorizados em aprendizado profundo, laureado com o Prêmio Turing e cientista cujos trabalhos ajudaram a moldar o atual boom da IA. Atualmente ele participa da iniciativa LawZero, que propõe criar um consórcio internacional e desenvolver IA como bem digital público: aberto, transparente, verificável e seguro. Para os apoiadores dessa abordagem, os riscos de longo prazo são suficientemente sérios para construir instituições de proteção com antecedência.

O autor, porém, não disputa tanto a ideia em si de tomar precauções, mas a ordem de prioridades. Segundo sua lógica, a discussão sobre uma superinteligência hipotética facilmente se torna uma abstração conveniente, enquanto que sistemas já existentes de reconhecimento, recomendação, geração e avaliação de trabalho estão incorporados em mecanismos de controle aqui e agora. Eles influenciam contratação, produtividade, moderação, acesso à informação e relações entre estado, negócios e cidadãos.

Quando o poder se concentra nas mãos de gigantes tecnológicos, e o estado prontamente se apoia em seus instrumentos, o problema deixa de ser ficção científica: torna-se político, social e trabalhista. Essa perspectiva é importante também porque muda a própria linguagem da discussão. Em vez da pergunta "como salvar a humanidade de uma supermáquina autônoma", emerge um conjunto mais prosaico de temas: quem é proprietário dos recursos computacionais, quem define as regras de acesso aos dados, quais mecanismos de auditoria realmente funcionam e quem é responsável pelo dano causado por decisões automatizadas.

Essa é uma agenda menos espetacular que as previsões apocalípticas, mas é precisamente ela que determina se as tecnologias intensificarão a desigualdade ou trabalharão em prol do interesse público. E esse é o desfecho prático. O debate sobre o futuro da IA é importante, mas não deve substituir a conversa sobre transparência de modelos, responsabilidade das plataformas, direitos dos trabalhadores e limites da vigilância digital.

Se a atenção do público estiver presa apenas ao cenário raro de catástrofe futura, corporações e autoridades ganharão ainda mais espaço para soluções que pioram a vida já hoje. O texto oferece uma óptica simples, mas incômoda: a principal questão não é se a IA um dia se tornará muito inteligente, mas quem usa a IA atual, em cujos interesses e com que consequências para a sociedade.