Como modelos de linguagem de IA distinguem o real do sem sentido, segundo estudo da Brown University

Modelos de linguagem e chatbots de IA aprendem sobre o mundo ao ingerirem volumes gigantescos de texto - e, nesse pacote, entram ao mesmo tempo fatos confiáveis, erros, senso comum, alegações absurdas e todo tipo de uso humano da linguagem.

Um novo estudo indica que, mesmo com essa “dieta” caótica, esses modelos podem acabar formando algo próximo de uma compreensão do mundo real.

Pelo menos em uma tarefa específica, isso parece se sustentar: distinguir eventos normais, eventos improváveis, eventos impossíveis e enunciados totalmente sem sentido.

A pesquisa foi conduzida por cientistas da Brown University. Ao “olhar por dentro” de vários modelos de linguagem de IA, o grupo examinou como eles processavam diferentes tipos de afirmações.

Os pesquisadores encontraram indícios de que esses sistemas codificam padrões que refletem como as pessoas avaliam se algo faz sentido no mundo real.

Como a IA processa significado

Se um chatbot é treinado apenas com texto, ele ainda consegue captar a estrutura básica da realidade? Em outras palavras: ele consegue diferenciar algo que costuma acontecer de algo estranho, mas ainda possível?

E mais: seria capaz de identificar algo fisicamente impossível - ou até mesmo algo que sequer é significativo?

“Este trabalho revela algumas evidências de que modelos de linguagem codificaram algo como as restrições causais do mundo real”, disse Michael Lepori, doutorando na Brown que liderou o estudo.

“Além de apenas codificar essas restrições, eles o fazem de uma forma que prevê os julgamentos humanos dessas categorias.”

Isso é importante porque toca uma das maiores questões em aberto na IA. Quando um modelo produz linguagem fluente, ele está apenas prevendo bem a próxima palavra ou construiu algum tipo de mapa interno de como o mundo funciona?

O estudo não encerra completamente esse debate, mas sugere que a resposta pode ser mais interessante do que um simples não.

Separando o real do sem sentido

Para colocar a ideia à prova, os pesquisadores montaram um experimento baseado em frases que descreviam acontecimentos com diferentes níveis de plausibilidade.

Algumas eram totalmente corriqueiras, como “Alguém resfriou uma bebida com gelo”. Outras eram improváveis, mas ainda possíveis, por exemplo: “Alguém resfriou uma bebida com neve”. Algumas eram impossíveis, como “Alguém resfriou uma bebida com fogo”. E, por fim, havia enunciados puramente sem nexo, como “Alguém resfriou uma bebida com ontem”.

Essa progressão permitiu investigar se, internamente, os modelos reagiam a essas classes de maneiras distintas.

Em vez de avaliar os modelos apenas pelo texto final que produziam, a equipe analisou os estados matemáticos gerados dentro do sistema conforme cada frase era processada. Essa abordagem é conhecida como interpretabilidade mecanicista.

“A interpretabilidade mecanicista pode ser caracterizada adequadamente como algo como a neurociência para sistemas de IA”, afirmou Lepori.

“Ela busca fazer engenharia reversa do que o modelo está fazendo quando exposto a uma entrada específica. Você pode pensar nisso como entender o que está codificado no ‘estado cerebral’ da máquina.”

Sinais de senso comum em modelos de linguagem de IA

Ao comparar esses “estados cerebrais” internos entre pares de frases, os pesquisadores conseguiram observar se os modelos representavam essas categorias de forma estruturada.

Eles colocaram lado a lado as respostas do sistema para eventos comuns, improváveis, impossíveis e totalmente sem sentido. Caso os padrões internos fossem claramente diferentes, isso indicaria que os modelos não estavam tratando todas as frases estranhas como se fossem a mesma coisa.

A equipe repetiu os testes em vários modelos de código aberto, incluindo o GPT-2, o Llama 3.2 da Meta e o Gemma 2 do Google.

Com isso, foi possível ter uma visão mais ampla: seria um traço de um único modelo ou algo que aparece, de modo mais geral, em sistemas de linguagem desse tipo?

Diferença entre possível e impossível

Os pesquisadores observaram que modelos maiores passaram a formar padrões matemáticos distintos - ou vetores - associados às diferentes categorias de plausibilidade.

Esses padrões foram fortes o bastante para separar até casos muito parecidos, como eventos improváveis e eventos impossíveis, com cerca de 85% de precisão.

À primeira vista, distinguir bom senso de nonsense pode não parecer tão impressionante. Porém, traçar a linha entre o improvável e o impossível é bem mais difícil - inclusive para pessoas.

O fato de os modelos acompanharem essa diferença com desempenho razoável sugere que eles podem estar captando algo mais estruturado do que mera frequência de palavras.

A IA reflete o senso humano

Os pesquisadores encontraram ainda outro ponto que torna os resultados mais instigantes: em situações ambíguas, os modelos pareciam espelhar a incerteza humana.

Considere a frase “Alguém limpou o chão com um chapéu”. Para algumas pessoas, isso pode ser apenas esquisito e improvável; para outras, seria impossível em qualquer sentido realista.

Os pesquisadores compararam os julgamentos internos dos modelos com respostas de uma pesquisa feita com participantes humanos. Quando as opiniões das pessoas se dividiam, os modelos tendiam a se dividir também.

“O que mostramos é que os modelos realmente capturam muito bem essa incerteza humana”, disse Lepori.

“Em casos em que, digamos, 50% das pessoas disseram que uma afirmação era impossível e 50% disseram que era improvável, os modelos também estavam atribuindo aproximadamente 50% de probabilidade.”

Esses achados indicam que os modelos também podem representar zonas cinzentas de um jeito parecido com a forma como humanos pensam.

Entendendo como os eventos funcionam

Em conjunto, os resultados sugerem que grandes modelos de linguagem conseguem desenvolver algo como uma compreensão do mundo - ou, ao menos, uma representação interna útil de como os eventos costumam funcionar.

Os pesquisadores notaram que esses padrões começam a surgir em modelos com mais de 2 bilhões de parâmetros, o que é relativamente modesto quando comparado aos maiores sistemas em uso hoje.

Esse detalhe chama atenção porque sugere que esse tipo de conhecimento sobre o mundo não depende apenas dos modelos absolutamente gigantes. Ele pode aparecer relativamente cedo, assim que o sistema atinge um nível suficiente de complexidade.

De forma mais ampla, o trabalho reforça por que a interpretabilidade mecanicista é relevante. Se pesquisadores entendem o que os modelos “sabem”, como organizam isso e onde falham, torna-se possível construir sistemas mais confiáveis e transparentes.

O estudo não demonstra que a IA “entende” o mundo no mesmo sentido rico e vivido dos seres humanos. Ainda assim, indica que, por trás de toda a maquinaria estatística, algo mais estruturado está se formando.

Isso pode ajudar a explicar por que esses sistemas parecem surpreendentemente competentes ao lidar com a realidade - mesmo tendo visto apenas linguagem.

A pesquisa será apresentada na Conferência Internacional sobre Aprendizagem de Representações, no Rio de Janeiro, Brasil.

---