O paradoxo da censura: por que as redes neurais foram proibidas de gerar o corpo humano nu

Por que redes neurais generativas são proibidas de reproduzir corpos humanos nus se é possível vê-los tranquilamente em museus, espaços privados e materiais educacionais? Esta questão, levantada no Habr, abre um profundo paradoxo filosófico sobre quem estabelece as regras para sistemas de inteligência artificial e por quê.

O Paradoxo da Censura

À primeira vista, a resposta é simples: censura. Mas vai mais fundo. O corpo humano nu é um dos temas mais clássicos da história da arte. Ele é retratado em museus do mundo inteiro, pendurado em quartos privados e utilizado para fins educacionais em medicina e anatomia. Estudantes de arte desenham modelos nus há vários séculos. Ninguém proíbe. No entanto, quando se trata de redes neurais generativas, há uma mudança abrupta. Sistemas como DALL-E, Midjourney e Stable Diffusion têm restrições rigorosas sobre a geração de qualquer imagem de corpos humanos nus. De onde veio essa crença de que a IA não pode fazer o que a arte humana vem fazendo há milênios?

Dois Padrões para um Mesmo Objeto

Eis o cerne do paradoxo:

• Escultura de Michelangelo em um museu — arte reconhecida e uma obra-prima
• Um retrato clássico de modelo nu em contexto artístico — arte legítima
• Uma imagem do corpo humano em um atlas médico — ciência e educação
• Um corpo nu em espaço privado entre parceiros — pessoal e privado
• Imagem gerada por IA de um corpo nu — categoricamente proibida

Um mesmo objeto visual recebe estatutos completamente diferentes dependendo de quem o criou e em que contexto. Por que um artista pode, mas um algoritmo não?

As Raízes da Proibição

Desenvolvedores de redes neurais temem duas coisas principais: o uso potencial para criar conteúdo pornográfico deepfake sem consentimento das pessoas e pressão social poderosa de ativistas. Isso faz sentido do ponto de vista comercial — é mais fácil proibir completamente do que lidar com nuances. Mas cria uma hierarquia estranha de moralidade: um artista morto pode, uma pessoa viva pode, mas um algoritmo de computador não pode.

Quem Escreve as Regras para a IA

Aqui está um ponto interessante: isso não é lei no sentido clássico. É uma decisão da empresa. OpenAI, Google, Anthropic, Meta — eles mesmos escolhem essas restrições com base em suas percepções de risco e reputação. E escolhem não porque logicamente decorre de uma ética profunda, mas porque temem escândalos, processos judiciais e regulamentação. Existem milhares de modelos em acesso aberto sem essas restrições. Hugging Face, soluções open-source locais que qualquer um pode executar em seu computador. Mas as principais plataformas comerciais escolheram o caminho do máximo conservadorismo. O resultado? Usuários simplesmente mudam para modelos abertos.

Ética ou Marketing

Este paradoxo demonstra algo importante: as regras para IA geralmente são estabelecidas não com base em análise ética profunda, mas com base no medo de escândalos e riscos reputacionais. As empresas criam a aparência de controle moral, embora na realidade seja sobre cálculos comerciais. Isso gera bem? Provavelmente não. A prevenção real do uso indesejável requer abordagens mais sofisticadas do que uma proibição total. E as tentativas de impor um padrão ou outro através de plataformas corporativas apenas levam a fragmentação e perda de controle.