Apple ML Research estuda alignment em LLMs multimodais e a tendência dessas IAs a alucinar

A Apple ML Research publicou um estudo abrangente sobre o alinhamento de preferências (preference alignment) em modelos de linguagem multimodais (MLLMs), sistemas capazes de processar texto e imagens ao mesmo tempo. Segundo os autores, o alignment, que se tornou padrão para LLMs de texto, continua bem menos estudado no contexto multimodal.

Por que as alucinações dos MLLMs são mais complexas do que as de LLMs comuns

Modelos multimodais alucinam de forma diferente dos LLMs de texto. De acordo com o estudo da Apple ML Research, em sistemas de compreensão de imagens as alucinações aparecem em duas formas: erros factuais, quando o modelo afirma fatos incorretos sobre o mundo, e inconsistência de conteúdo, quando a resposta soa convincente, mas contradiz o que de fato aparece na imagem.

O segundo tipo é especialmente traiçoeiro. Se o modelo descreve como vermelho um carro azul numa foto, ou chama de inverno uma imagem tirada no verão, isso não é falha de conhecimento, e sim de "visão". O alignment para sistemas multimodais existe justamente para combater esse problema.

"O principal objetivo do alignment para MLLMs é levar esses modelos a alinhar suas respostas com as informações da imagem", diz a publicação da

Apple ML Research.

Como funciona o preference alignment

O preference alignment é uma técnica de ajuste fino em que o modelo recebe pares de respostas e cada par é anotado para indicar qual das duas é "preferível" segundo critérios definidos. Em LLMs de texto, essa abordagem, incluindo o RLHF (Reinforcement Learning from Human Feedback) e suas variantes, tornou-se o padrão de fato depois do InstructGPT e do ChatGPT. Para sistemas multimodais, quase não houve até agora pesquisas sistemáticas desse tipo.

Principais pontos do trabalho:

• O preference alignment é crítico para a qualidade dos LLMs, mas sua influência nos MLLMs é praticamente inexplorada
• Nos MLLMs, o alignment resolve uma tarefa adicional: ancorar a resposta do modelo no conteúdo visual real
• As alucinações nos MLLMs se dividem em dois tipos: factuais e visuais (incompatíveis com a imagem)
• A Apple ML Research conduz uma análise comparativa sistemática de técnicas de alignment aplicadas a tarefas de compreensão de imagens

Segundo o estudo, este trabalho é uma das primeiras tentativas abrangentes de reduzir a distância entre o quanto o alignment é conhecido em modelos de texto e o quão pouco se sabe sobre seu efeito em sistemas multimodais.

Por que isso importa para a indústria

Hoje, modelos multimodais são usados em diagnóstico médico, moderação de conteúdo e assistentes de consumo, do Google Lens ao Apple Intelligence. Em cada um desses cenários, uma alucinação do tipo "vejo o que não existe" custa incomparavelmente mais caro do que um erro de texto: um raio-X interpretado de forma errada ou um objeto mal identificado na estrada têm consequências diretas.

O estudo da Apple ML Research chega no momento em que os sistemas multimodais deixam de ser protótipos de laboratório e entram em adoção em massa. Entender como o alignment molda a precisão da "visão" do modelo torna-se uma questão fundamental para todo o setor.

O que isso significa

O trabalho da Apple ML Research aponta uma lacuna sistêmica: a indústria desenvolve e implanta modelos multimodais com intensidade, mas o mecanismo que os alinha ao conteúdo real das imagens permanecia pouco estudado. Se as conclusões do estudo servirem de base para novos métodos de treinamento, o impacto será direto na qualidade de produtos que lidam com conteúdo visual, incluindo o Apple Intelligence e sistemas semelhantes.