Bloomberg detalha como regular a IA: de relatórios de incidentes à proibição total

O debate sobre a regulação da IA deixou de ser uma disputa entre "regular ou não regular". Agora a discussão é até onde ir na escala de rigor. A Bloomberg Tech reuniu as opções em um guia: no extremo mais brando, a obrigação de comunicar problemas de segurança; no mais duro, a proibição direta da "superinteligência". O quadro original traz poucos detalhes, por isso abaixo detalhamos essa escala com exemplos de leis que já foram aprovadas ou chegaram a ser debatidas. O limite de 10^25 FLOPs do AI Act europeu e as multas de até 7% do faturamento global mostram que não se trata de abstração.

Extremo brando: relatórios e testes

A medida mais realista é a obrigação de divulgar incidentes. Ela custa pouco ao Estado e não atrapalha o lançamento de produtos. É assim que funciona a SB 53 da Califórnia, sancionada em setembro de 2025: grandes desenvolvedores de modelos de fronteira (frontier) publicam seus protocolos de segurança e comunicam ao regulador os incidentes críticos. Para infrações, estão previstas multas de até $1 млн.

O degrau seguinte exige testes prévios e auditoria independente. É aqui que surgem as perguntas mais espinhosas: quem faz a verificação, com quais metodologias e com que acesso aos pesos do modelo. O AI Act europeu seguiu esse caminho para os modelos de uso geral com "risco sistêmico". O critério para eles é um só: treinamento com orçamento computacional acima de 10^25 FLOPs.

Conjunto típico de instrumentos brandos e intermediários:

• relatórios obrigatórios de incidentes de segurança;
• publicação dos protocolos internos de avaliação de riscos;
• testes prévios de capacidades perigosas (biologia, ataques cibernéticos);
• proteção a funcionários que denunciam irregularidades;
• multas atreladas ao faturamento (no AI Act, até 7% do faturamento global por práticas proibidas).

Extremo duro: kill switch e proibição

A ideia de um interruptor de emergência parece simples, mas na prática depende da arquitetura. O projeto SB 1047, vetado pelo governador da Califórnia, Gavin Newsom, em 2024, exigia a capacidade de desligamento completo do modelo. Ele valia para sistemas com custo de treinamento a partir de $100 млн e poder computacional acima de 10^26 FLOPs. Se o modelo roda via API nos servidores da empresa, é de fato possível cortar o acesso. Se os pesos foram publicados, as cópias já não podem ser recolhidas, e o "botão de emergência" vira mera declaração. Os críticos usam justamente esse argumento, e os defensores respondem que é preciso regular o próprio direito de publicar os pesos dos sistemas mais poderosos.

A posição mais radical é proibir o desenvolvimento de "superinteligência" até que exista consenso científico sobre sua segurança. Em outubro de 2025, o Future of Life Institute lançou um apelo nesse sentido, e entre os signatários estão Geoffrey Hinton e Yoshua Bengio. Mas isso é uma petição, não um projeto de lei. Não há sequer uma definição consensual de onde fica a fronteira entre um modelo forte e a "superinteligência". Sem ela, qualquer proibição é difícil de redigir e ainda mais difícil de aplicar.

Como se preparar

Equipes que constroem produtos sobre LLMs não têm por que esperar a versão final das regras. Já vale manter um registro de incidentes: falhas do modelo, vazamentos de dados, casos de respostas nocivas. É preciso documentar os resultados dos testes e manter um circuito desativável para agentes com acesso a sistemas reais, sejam pagamentos, código ou infraestrutura.

Para empresas que usam modelos via API, o principal risco está no fornecedor: se ele ultrapassar o limite de regulação, mudam as condições de acesso, os limites de uso e os preços. Investidores e gerentes de produto devem olhar menos para as proibições barulhentas e mais para os entediantes requisitos de relatórios. São eles que, nos próximos anos, vão definir o custo de conformidade.