União Europeia discute proibir deepfakes e vídeos gerados por AI em comunicações oficiais das autoridades públicas

A União Europeia está discutindo uma proibição de imagens e vídeos criados por IA em comunicações oficiais do governo. A iniciativa visa combater deepfakes e tentar restaurar a confiança na comunicação pública em um momento em que campanhas políticas e crises internacionais tornam qualquer falsificação particularmente tóxica.

Por Que o Banimento Está Sendo Discutido

Em Bruxelas, os funcionários temem que imagens e vídeos gerados possam ser facilmente passados como material real de agências governamentais. Diante de eleições, retórica de política externa dura e um fluxo constante de declarações, qualquer falsificação pode se espalhar rapidamente pela mídia e redes sociais, danificando não apenas a reputação de uma agência específica, mas também a confiança nas comunicações oficiais como um todo. A lógica dos funcionários é simples: se o próprio Estado recusar usar conteúdo gerado por IA, os cidadãos terão mais facilidade em distinguir informações verificadas de manipulações.

No entanto, a ideia ainda não possui formulações finais. Permanece incerto se as autoridades europeias querem banir apenas deepfakes imitando funcionários, edifícios governamentais e locais reais, ou se estão falando sobre uma restrição mais ampla em quaisquer imagens e vídeos criados por redes neurais para comunicação política. Isto afeta o escopo da regra futura: é uma coisa bloquear falsificações óbvias, e outra bem diferente abandonar até mesmo ilustrações neutras se foram criadas por um modelo generativo.

Como a Regra Pode Parecer

Por enquanto, não há lei pronta, mas o desenvolvimento político e regulatório está em andamento. Órgãos da UE já começaram a trabalhar em um código prático, que especialistas independentes devem refinar posteriormente. Então o possível banimento precisará ser acordado através do procedimento europeu padrão, e apenas após isso poderá se tornar um requisito obrigatório para materiais oficiais. Se a iniciativa for formulada rigorosamente, pode afetar vários níveis de comunicação:

• Publicações de instituições da UE e serviços de imprensa
• Mensagens políticas e declarações oficiais
• Elementos visuais imitando figuras oficiais ou locais reais
• Vídeos e imagens que poderiam ser confundidos com material documental

Mesmo nas discussões atuais, uma intenção mais ampla é evidente: as autoridades europeias querem não apenas fechar a brecha específica com deepfakes, mas também reduzir instâncias de uso prejudicial de IA generativa. Portanto, esta história sobre materiais oficiais pode ser apenas uma parte de uma abordagem mais geral para regular conteúdo sintético na política e na esfera pública.

Por Que Há Discordância

O banimento completo imediatamente enfrentou críticos. Seu argumento principal é que as autoridades podem remover conteúdo gerado por IA de seus canais, mas isso não impedirá sua disseminação em plataformas de terceiros. O fluxo principal de falsificações ainda flui através de redes sociais, mensageiros e contas que não têm relação com instituições oficiais.

Se for assim, um banimento nas comunicações governamentais resolve apenas parte do problema e mal afeta a principal fonte de desinformação. Muitos consideram a rotulagem obrigatória como alternativa. Tal abordagem não proíbe a tecnologia completamente, mas força uma indicação clara de onde o material sintético é apresentado aos usuários.

Para os reguladores, esta é uma opção mais flexível: você pode reduzir o risco de engano sem abandonar aplicações úteis de IA. Há também uma preocupação mais ampla—se a Europa responder a cada novo risco de IA com as restrições mais rígidas, a região começará a implementar ferramentas mais lentamente, as quais nos EUA e na Ásia já estão se tornando padrões de trabalho.

O Que Isto Significa

A UE está demonstrando que está se movendo de discussões gerais sobre riscos de IA para regras específicas para canais de comunicação particulares. Mesmo que a versão final se mostre mais suave do que um banimento completo, a direção é clara: tudo que se parece com informação oficial e pode influenciar a confiança política será regulado muito mais rigorosamente do que conteúdo comercial ou de entretenimento comum.