A maioria de nós agora obtém nossas informações usando Chatbots de IA e motores de busca. Até O Google nos mostra um resumo da IA primeiro, antes de nos guiar para as fontes das quais compilou as respostas.

Um novo estudo de Yale sugere que, embora as respostas geradas pela IA sejam rápidas, convenientes e fáceis de ler, elas também podem influenciar as nossas opiniões. Daniel Karell, professor assistente de sociologia em Yale, e sua equipe queriam descobrir se a leitura de resumos de eventos históricos escritos por IA ajudava as pessoas a aprender melhor do que a leitura de resumos escritos por humanos.

Para testar isso, foram apresentados aos participantes breves resumos de eventos históricos, alguns escritos por humanos e outros por ferramentas de IA como o ChatGPT, e depois questionados sobre o que lembravam.

O resultado? Pessoas que lêem resumos escritos por IA responderam consistentemente mais perguntas corretamente.

A IA é melhor na disseminação de informações do que os humanos?

Karell atribui isso a como IA apresenta informações. “É como se o modelo pegasse a Wikipédia e a tornasse mais legível”, disse ele. Os resumos de IA eram mais suaves, claros e fáceis de reter, independentemente de os participantes saberem que estavam lendo conteúdo gerado por IA.

Isso significa que, mesmo quando as pessoas foram informadas de que o resumo foi escrito pela IA, elas ainda aprenderam mais com ele do que com a versão escrita por humanos.

Isso deveria preocupar você?

É aqui que fica interessante. Em um acompanhamento artigo publicado no PNAS Nexusos mesmos pesquisadores descobriram que os resumos de IA não apenas ensinam melhor, mas também influenciam as opiniões políticas.

Se o resumo da IA ​​tivesse um viés liberal, os leitores sairiam com opiniões mais liberais. Uma inclinação conservadora teve o efeito oposto. Os pesquisadores acreditam que isso acontece porque a IA não apenas apresenta fatos, mas os enquadra de uma forma que parece mais lógica e convincente.

As ferramentas de IA estão se tornando a forma padrão de as pessoas aprenderem sobre a história e os eventos atuais. Isso não é necessariamente ruim. Mas saber que a ferramenta que molda o que você aprende também pode moldar silenciosamente o que você acha que é algo que vale a pena manter em mente.

Ao mesmo tempo, as alucinações relacionadas com a IA continuam a ser um problema significativo e os resumos gerados pela IA podem ser ainda mais enganadores para os humanos. Um estudo conduzido por pesquisadores do Instituto de Ciências da Informação da USC descobriu que Sistemas de IA podem executar campanhas de propaganda com o mínimo de intervenção humana.

Se somarmos a isto a ideia de que a IA pode ser mais convincente do que os humanos, é assustador pensar como estas ferramentas podem ser usadas para manipular o pensamento e o raciocínio humanos, guiando-nos em direção a um mundo mais fraturado.