IA do Google acreditou em escritor: um gato que fala cantonês

Chuck Wendig, conhecido escritor americano, autor de quadrinhos e blogueiro popular, fez um experimento curioso que expôs a vulnerabilidade dos sistemas de busca atuais baseados em inteligência artificial. Wendig conseguiu convencer a IA do Google de que tem um gato chamado Sir Mewlington von Pissbret que, além de tudo, usa cartola e fala um pouco de cantonês, dialeto do chinês. A pegadinha, aparentemente inofensiva, revela problemas sérios de confiança nas informações fornecidas pela IA.

Wendig não revelou os métodos específicos que usou para "alimentar" o Google com essa história inventada. Pelo visto, porém, ele combinou diferentes técnicas de otimização para buscadores (SEO) com a divulgação de informações em redes sociais e outras plataformas online. É importante entender que os buscadores atuais baseados em IA não têm pensamento crítico e não conseguem verificar sozinhos a veracidade das informações. Eles apenas analisam enormes volumes de dados e identificam padrões, com base nos quais formulam suas respostas.

O caso ilustra bem como é fácil manipular algoritmos de IA com informações falsas ou distorcidas. Na prática, Wendig criou uma "bolha de informação" em torno do gato fictício, enchendo a internet de menções às suas habilidades incomuns. A IA do Google encontrou essas menções, tomou-as como verdadeiras e as incluiu em sua base de conhecimento.

As consequências de manipulações desse tipo podem ser bastante sérias. Se os sistemas de IA se apoiarem em informações não confiáveis, isso pode levar à disseminação de notícias falsas e desinformação e, no fim das contas, à perda de confiança na tecnologia de inteligência artificial como um todo. Imagine que alguém convença uma IA, desse mesmo jeito, de que certos medicamentos causam efeitos colaterais perigosos, ou de que eventos históricos aconteceram de forma completamente diferente. Os resultados poderiam ser catastróficos.

O episódio faz refletir sobre a necessidade de criar mecanismos melhores de verificação de informações para sistemas de IA. Talvez sejam necessários novos algoritmos capazes de analisar o contexto, identificar contradições e checar fontes. Também é preciso ensinar os usuários a avaliar com senso crítico as informações recebidas da IA e a não encará-las como verdade absoluta. Em última instância, a responsabilidade por disseminar informação confiável é de todos os participantes da troca de informações, incluindo desenvolvedores de IA, usuários e jornalistas.

No futuro, podemos esperar métodos mais complexos e sofisticados de manipulação de sistemas de IA. Por isso, é essencial começar desde já a desenvolver estratégias eficazes de proteção contra a desinformação e garantir a confiabilidade e a veracidade das informações fornecidas pela inteligência artificial. O experimento de Wendig é um alerta que não pode ser ignorado.