Bloomberg analisa como regular a IA: de relatórios de incidentes à proibição

O debate sobre regulação da IA deixou de ser uma discussão entre «regular ou não». Agora a disputa é sobre onde parar na escala de rigor. A Bloomberg Tech reuniu as opções em um único guia: no extremo mais brando, a obrigação de comunicar problemas de segurança; no mais duro, a proibição direta da «superinteligência». O quadro original traz poucos detalhes, por isso detalhamos abaixo essa escala com exemplos de leis que já foram aprovadas ou debatidas. O limite de 10^25 FLOPs do AI Act europeu e as multas de até 7% do faturamento global mostram que isso não é abstração.

Extremo brando: relatórios e testes

A medida mais realista é a obrigação de divulgar incidentes. Ela custa pouco ao Estado e não atrapalha o lançamento de produtos. É o modelo da SB 53, da Califórnia, sancionada em setembro de 2025: grandes desenvolvedores de modelos de fronteira (frontier) publicam seus protocolos de segurança e comunicam incidentes críticos ao regulador. Para violações, a lei prevê multas de até US$ 1 milhão.

O degrau seguinte exige testes prévios e auditoria independente. É aqui que surgem as perguntas mais espinhosas: quem verifica, com quais metodologias e com que nível de acesso aos pesos do modelo. O AI Act europeu seguiu esse caminho para os modelos de uso geral com «risco sistêmico». O critério é um só: treinamento com orçamento computacional acima de 10^25 FLOPs.

Conjunto típico de instrumentos brandos e intermediários:

• relatórios obrigatórios de incidentes de segurança;
• publicação dos protocolos internos de avaliação de riscos;
• testes prévios para capacidades perigosas (biologia, ciberataques);
• proteção a funcionários que denunciam violações;
• multas atreladas ao faturamento (no AI Act, até 7% do faturamento global por práticas proibidas).

Extremo duro: kill switch e proibição

A ideia de um botão de desligamento de emergência parece simples, mas na prática depende da arquitetura. O projeto de lei SB 1047, vetado em 2024 pelo governador da Califórnia, Gavin Newsom, exigia a possibilidade de parar completamente o modelo. Ele abrangia sistemas com custo de treinamento a partir de US$ 100 milhões e capacidade acima de 10^26 FLOPs. Se o modelo roda via API nos servidores da empresa, é de fato possível cortar o acesso. Se os pesos foram publicados, as cópias não podem mais ser recolhidas, e o «botão» vira mera declaração. Os críticos usam exatamente esse argumento, enquanto os defensores respondem que é preciso regular o próprio direito de publicar os pesos dos sistemas mais poderosos.

A posição mais radical é proibir o desenvolvimento de «superinteligência» até que exista consenso científico sobre sua segurança. Em outubro de 2025, o Future of Life Institute lançou um apelo nesse sentido, e entre os signatários estavam Geoffrey Hinton e Yoshua Bengio. Mas é uma petição, não um projeto de lei. Não existe sequer uma definição consensual de onde fica a fronteira entre um modelo forte e a «superinteligência». Sem ela, qualquer proibição é difícil de redigir e ainda mais difícil de aplicar.

Como se preparar

Para equipes que constroem produtos sobre LLMs, não adianta esperar a versão final das regras. Já vale manter um registro de incidentes: falhas do modelo, vazamentos de dados e casos de respostas nocivas. É preciso documentar os resultados dos testes e manter um circuito desligável para agentes com acesso a sistemas reais, sejam pagamentos, código ou infraestrutura.

Para empresas que usam modelos via API, o principal risco está no fornecedor: se ele ultrapassar o limite de regulação, mudam as condições de acesso, os limites de uso e os preços. Investidores e gerentes de produto devem olhar menos para as proibições barulhentas e mais para os requisitos chatos de relatório. São eles que, nos próximos anos, vão definir o custo de conformidade.