Por que redes neurais diferentes geram o mesmo nome: os mecanismos da IA

O programador Daniel May notou que bots de IA de diferentes empresas incluem com frequência um personagem chamado Elias Thorn nas histórias que geram. Uma pesquisa explicou o fenômeno: Thorn é um artefato dos mecanismos de segurança embutidos durante o treinamento das redes neurais. Para evitar nomes reais, os modelos criam personagens "seguros" padronizados, e Thorn virou esse herói placeholder em dezenas de sistemas ao mesmo tempo.

Processado por IA de 3DNews AI; editado por Hamidun News
Por que redes neurais diferentes geram o mesmo nome: os mecanismos da IA
Fonte: 3DNews AI. Colagem: Hamidun News.
Ouvir artigo

Uma pesquisa explica por que diferentes sistemas de IA e redes neurais de geração de texto inventam o mesmo nome fictício: Elias Thorn.

Por que redes neurais diferentes inventam o mesmo nome?

Segundo as conclusões de um relatório publicado, por causa dos mecanismos de segurança: os modelos são proibidos de mencionar nomes de pessoas reais em contextos fictícios, então precisam de um conjunto de nomes "seguros". Elias Thorn se tornou esse personagem placeholder universal: o nome é neutro, não coincide com figuras públicas e soa "literário" o bastante.

Por que as redes neurais inventam nomes iguais?

Porque os mecanismos de segurança proíbem mencionar pessoas reais em contextos fictícios, então as redes neurais usam um conjunto de nomes 'seguros' como placeholders.

Perguntas frequentes sobre a notícia

Por que redes neurais diferentes inventam o mesmo nome?

Segundo as conclusões de um relatório publicado, por causa dos mecanismos de segurança: os modelos são proibidos de mencionar nomes de pessoas reais em contextos fictícios, então precisam de um conjunto de nomes "seguros". Elias Thorn se tornou esse personagem placeholder universal: o nome é neutro, não coincide com figuras públicas e soa "literário" o bastante.

Por que as redes neurais inventam nomes iguais?

Porque os mecanismos de segurança proíbem mencionar pessoas reais em contextos fictícios, então as redes neurais usam um conjunto de nomes 'seguros' como placeholders.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…