OpenAI apresenta ferramentas para verificar a autoria de conteúdo gerado por IA

A OpenAI apresentou um conjunto de ferramentas para rastrear e verificar conteúdo gerado por IA. Content Credentials, SynthID e uma ferramenta de verificação têm o objetivo de ajudar pessoas e organizações a lidar com mais segurança com a mídia digital.

Quais tecnologias fazem parte do conjunto

Content Credentials são metadados especiais anexados ao conteúdo gerado por IA que permitem rastrear sua origem. Funcionam como um "certificado de autenticidade" para materiais digitais, indicando a tecnologia, a ferramenta e a empresa que criaram o arquivo.

SynthID é uma tecnologia que insere em imagens geradas por IA marcas digitais invisíveis ao olho humano. Isso permite determinar de forma inequívoca que uma imagem ou um vídeo foi criado por inteligência artificial. A marca se mantém mesmo com compressão, recorte ou outras alterações no arquivo.

O terceiro componente é uma ferramenta de verificação que permite a pessoas e organizações checar a presença dessas marcas e determinar a autenticidade do conteúdo.

Por que isso é crítico

Numa época em que a IA consegue criar fotos, vídeos e textos convincentes, a incapacidade de distinguir o conteúdo gerado do autêntico se torna uma ameaça. Vídeos falsos, imagens adulteradas e desinformação já causam danos tanto a indivíduos quanto à sociedade como um todo. Isso é especialmente perigoso em períodos eleitorais, quando um deepfake pode influenciar a opinião pública, ou na mídia, onde fotos falsas minam a confiança nas fontes.

• Combate à desinformação e a vídeos falsos
• Proteção dos direitos autorais de criadores de conteúdo
• Recuperação da confiança na mídia na internet
• Apoio a jornalistas na verificação de fontes
• Suporte ao arcabouço normativo e à regulação

A OpenAI ressalta que a transparência deve ser incorporada à tecnologia desde o início, e não adicionada depois.

O que isso significa

É um passo importante, mas não uma panaceia. Para o sistema funcionar bem, são necessários padrões entre setores, apoio de outras empresas e plataformas e mais alfabetização digital da população. A OpenAI assume a responsabilidade por suas ferramentas, mas um combate real à desinformação exigirá ações coordenadas de todo o ecossistema de IA e mídia.