Como uma IA entende os valores de diferentes países: um dataset com 500 mil exemplos

Foi publicado um dataset para treinar redes neurais: uma coleção de 500 000 exemplos de preferências que abrange os valores de 20 países, para que os modelos de linguagem reflitam a visão de mundo de mais do que apenas usuários ocidentais.

Por que os modelos de IA têm viés a favor do Ocidente?

A maioria dos modelos de linguagem atuais é treinada principalmente com textos em inglês e calibrada com as preferências de anotadores americanos e europeus. Quando esses modelos raciocinam sobre papéis familiares, atitude diante da autoridade, religião ou direitos individuais, eles sistematicamente sub-representam os sistemas de valores do Sul Global, da Ásia e do Oriente Médio.

Assistentes de IA, chatbots e sistemas educacionais são usados cada vez mais fora dos EUA, e os usuários sentem diretamente esse viés. Nos testes cegos dos autores do PLURAL, participantes da Índia, do Brasil e do Japão disseram que as respostas padrão dos LLMs soam como algo americano.

Como funciona o dataset PLURAL

O PLURAL é baseado na Integrated Values Survey (IVS), uma pesquisa sociológica representativa de 92 países. Os pesquisadores desenvolveram um pipeline de duas etapas: as respostas de entrevistados reais viram cenários temáticos e, depois, cada cenário recebe um par de avaliações: uma mais compatível e outra menos compatível com os valores daquela cultura.

Principais fatos sobre o dataset:

• ~500 000 exemplos de preferências na primeira versão pública
• Abrange 20 países de diferentes regiões do mundo
• Construído sobre a IVS, pesquisa de 92 países
• Reduz o erro absoluto médio do perfil cultural em 27,7% em relação a modelos de base fortes
• 176 participantes do teste cego da Índia, do Brasil e do Japão consideraram as respostas do PLURAL mais precisas para a própria cultura

Os autores validaram o PLURAL com três métodos: validação no nível dos dados (se as diferenças entre países da pesquisa original são preservadas), avaliação automática da precisão do ajuste fino e teste cego com participantes reais em três países.

Por que isso importa para quem desenvolve produtos de IA

O alinhamento de modelos de linguagem hoje é feito principalmente via RLHF com as preferências de anotadores ocidentais. Para empresas que lançam produtos de IA na Índia, no Brasil ou em países árabes, isso significa que o modelo, por padrão, pode dar respostas percebidas culturalmente como estranhas ou inadequadas.

A solução tradicional, contratar anotadores locais em cada país, é cara e escala mal. O PLURAL propõe outro caminho: usar dados de pesquisas sociológicas representativas como proxy das preferências culturais. O dataset está disponível em acesso aberto no HuggingFace.

O que isso significa

O PLURAL é o primeiro recurso público em larga escala que permite treinar um modelo de linguagem com os valores de um país específico sem envolver equipes separadas de anotadores. Se a abordagem se mostrar reprodutível, pode mudar a forma como as empresas de IA localizam modelos para mercados não ocidentais.

Perguntas frequentes

Quanto o PLURAL melhora o alinhamento cultural?

O ajuste fino com o PLURAL reduz o erro absoluto médio (MAE) do perfil cultural do modelo em 27,7% em comparação com modelos de base fortes. Esse é o resultado da avaliação automática descrita no preprint.

Quais países participaram do teste cego?

O teste cego foi realizado em três países: Índia, Brasil e Japão. Participaram 176 avaliadores, que compararam as respostas do PLURAL com as respostas padrão dos LLMs quanto à aderência aos valores da própria cultura nacional.

Por que os modelos de linguagem têm viés a favor do

Ocidente? A maioria dos modelos de linguagem atuais é treinada principalmente com textos em inglês e calibrada com as preferências de anotadores americanos e europeus.