OpenAI apoia projeto de lei que limita a responsabilidade de empresas de IA por danos em massa

A OpenAI apoiou um projeto de lei em Illinois que protegeria laboratórios de IA de processos judiciais mesmo quando sua tecnologia provocar vítimas em massa ou um colapso financeiro. É a primeira vez que uma grande empresa de IA apoia abertamente uma legislação desse tipo, e o caso já gerou uma onda de críticas.

O texto, em análise no Legislativo de Illinois, introduz o conceito de «provedor de IA de boa-fé» e limita de forma substancial sua responsabilidade civil perante os atingidos. As restrições valem até para o chamado «dano crítico»: de mortes em massa a perdas financeiras graves para um grande número de pessoas.

Em audiência, um representante da OpenAI prestou depoimento a favor do projeto. A posição da empresa é que laboratórios de IA não devem ter responsabilidade ilimitada por todas as consequências possíveis do uso de seus produtos por terceiros. Segundo os apoiadores, sem proteção jurídica as empresas de IA seriam forçadas a reduzir o desenvolvimento por causa da ameaça de processos intermináveis.

A lógica dos defensores segue um esquema conhecido de outros setores: assim como fabricantes de armas não respondem por cada uso de seus produtos, empresas de IA não deveriam responder por qualquer abuso de seus modelos. A OpenAI sustenta que a responsabilidade jurídica ilimitada cria incentivos assimétricos e leva empresas a deixar jurisdições com regulação rígida.

Os opositores têm uma visão radicalmente diferente. Para eles, o texto na prática concede aos laboratórios de IA uma indulgência da responsabilidade civil justamente quando os riscos são máximos. A responsabilidade civil é um dos poucos mecanismos jurídicos que realmente obrigam as corporações a pensar em segurança antes de lançar um produto. Se o desenvolvedor está juridicamente protegido até em casos de vítimas em massa, os atingidos ficam sem instrumentos de compensação.

Illinois não é o primeiro estado onde empresas de IA promovem legislação favorável a si. Nos últimos anos, uma ampla campanha de lobby se espalhou pelos Estados Unidos: gigantes de tecnologia e startups participam da elaboração de estratégias estaduais de IA e, ao mesmo tempo, buscam limitar os reguladores e ampliar a própria proteção jurídica. Discussões semelhantes ocorrem na Europa, no Reino Unido e na Ásia, e em toda parte o setor quer basicamente a mesma coisa: limitar os riscos sem limitar as capacidades.

Se o projeto for aprovado, Illinois será um dos primeiros estados a proteger por lei as empresas de IA das consequências do «dano crítico». Isso pode criar um precedente para outros estados e aumentar a pressão em nível federal, onde o debate sobre a responsabilidade dos laboratórios de IA ainda não foi concluído.

A pergunta-chave continua em aberto: quem responde se um sistema de IA errar com consequências catastróficas?