EaPU com memristores promete reduzir drasticamente a energia da IA

Grandes modelos de linguagem, geradores de imagem, assistentes inteligentes - a IA está consumindo quantidades enormes de energia neste momento.

Agora, um grupo de pesquisa da China aponta uma saída surpreendentemente simples.

A fase atual de expansão da IA tem um custo oculto: centros de dados operando no limite e contas de eletricidade disparando. Principalmente na etapa de treinamento de modelos grandes, consumo e despesas sobem a níveis difíceis de sustentar. Pesquisadores chineses apresentam uma abordagem que pode reduzir de forma radical a energia exigida por redes neurais - sem sacrificar a precisão.

Por que a IA moderna consome tanta eletricidade

Seja o ChatGPT, um gerador de imagens ou um assistente embarcado em carros, por trás do serviço existem enormes clusters de computação com chips especializados. Em especial, o treinamento de redes neurais profundas depende de operações de matriz repetidas milhões a bilhões de vezes. Para dar conta disso, a maioria dos provedores se apoia em GPUs (processadores gráficos).

Nessa configuração, dois fatores pesam muito no gasto energético:

• o processamento em si, feito por CPUs e GPUs
• a cópia contínua de dados indo e voltando entre memória e unidades de cálculo

É justamente no segundo ponto que a nova proposta mira: executar cálculos diretamente na memória, com uma base de hardware totalmente diferente.

Memristores: componentes que “se lembram”

A palavra-chave é memristor. Em termos simples, trata-se de um resistor com memória. A resistência elétrica do componente depende de como ele foi “programado” anteriormente - e esse estado fica armazenado.

Por isso, memristores combinam com a representação física dos pesos de uma rede neural. A lógica é a seguinte: em vez de manter números em uma memória tradicional e enviar esses valores o tempo todo para um processador, o cálculo acontece no mesmo lugar em que os pesos estão guardados. Em teoria, isso economiza energia em escala muito alta.

Na prática, porém, existe um obstáculo: memristores não são perfeitos. Eles apresentam ruído, variações e respostas que não são totalmente exatas. E, em IA, erros pequenos podem desestabilizar o modelo.

"O grande desafio é conviver com a imprecisão do hardware - em vez de combatê-la com correções extremamente caras."

Nova forma de treinar: em vez de “combater” erros, considerar a tolerância

É aqui que entra a técnica apresentada por um time do laboratório de Zhejiang, na China. Ela recebeu o nome de “error-aware probabilistic update”, ou EaPU. A ideia, bem intuitiva, é aceitar pequenas discrepâncias - desde que permaneçam dentro de uma margem tolerável.

Como o EaPU funciona na prática

No treinamento tradicional, a rede neural ajusta uma grande parte dos pesos a cada iteração. Em hardware com memristores, isso sai caro energeticamente, porque reprogramar (reescrever) os dispositivos demanda muita corrente.

O EaPU inverte a lógica do processo:

• O sistema tolera pequenas diferenças, desde que fiquem abaixo de um limite predefinido.
• Apenas quando uma alteração é realmente significativa, o peso correspondente é reescrito no memristor.
• Em cada rodada de aprendizado, a rede atualiza menos de 0,1% de todos os parâmetros.

Com isso, o maior custo energético do treinamento quase desaparece: a regravação incessante de inúmeras células de memória.

Consumo de energia cai fortemente, e a vida útil do hardware aumenta muito

De acordo com os pesquisadores, a comparação com abordagens anteriores baseadas em memristores mostra vários ganhos relevantes:

• Até 50 vezes menos consumo de energia no treinamento em hardware de memristores.
• Até 1.000 vezes mais vida útil, já que os componentes são gravados com bem menos frequência.
• Cerca de 60% mais precisão frente a métodos mais antigos de treinamento em memristores.

O contraste fica ainda mais marcante quando se compara com GPUs tradicionais. Segundo o grupo, na mesma tarefa, o EaPU reduz o gasto de energia em aproximadamente seis ordens de grandeza - em outras palavras: algo como um milhão de vezes menos energia do que um arranjo comparável com GPUs.

"Um consumo de energia que, em relação a sistemas com GPU, cai por um fator 10^6 mudaria de forma fundamental a operação dos modelos de IA atuais."

Primeiros testes: remoção de ruído e aumento de resolução

O EaPU já passou por testes práticos em uma matriz de memristores com largura de estrutura de 180 nanômetros. As redes neurais foram treinadas em duas tarefas clássicas de processamento de imagem:

• remover ruído de imagens
• ampliar imagens artificialmente (super-resolução)

Os resultados ficaram em patamar parecido ao de técnicas consolidadas em hardware convencional - só que com consumo de energia muito menor. Isso sugere que a proposta não funciona apenas “no papel”, mas também faz sentido em aplicações reais.

Grandes modelos de linguagem também podem se beneficiar?

Por enquanto, o tamanho do hardware disponível limita o alcance dos experimentos. Os chips de memristores usados até aqui são relativamente pequenos. Mesmo assim, o time considera que a abordagem tem potencial, em princípio, para grandes modelos de linguagem (Large Language Models, LLMs).

Se isso se confirmar, o impacto chegaria diretamente a chatbots, assistentes de programação e ferramentas de análise que hoje exigem recursos computacionais gigantescos. Os pesquisadores esperam testar o EaPU em redes bem maiores no futuro.

Outro ponto importante: o método não é exclusivo de memristores. Na visão dos autores, ele também pode ser adaptado para outros tipos de memória emergentes, como:

• transistores ferroelétricos
• RAM magnetorresistiva (MRAM)

Isso abre um conjunto amplo de opções de hardware para tornar a IA mais eficiente energeticamente.

O que isso pode significar para centros de dados e para o uso cotidiano

Se a ideia escalar, centros de dados focados em IA podem mudar bastante em relação ao que existe hoje. Em vez de galpões cheios de GPUs, seria possível imaginar chips analógicos compactos que unem armazenamento e computação no mesmo componente. Além de reduzir a conta de luz, isso tende a diminuir a necessidade de refrigeração e a pegada de CO₂.

Entre as consequências práticas possíveis estão:

• ciclos de treinamento bem mais baratos para empresas
• chips de IA menores e especializados para smartphones, carros e ambientes industriais
• mais processamento perto da fonte de dados (edge), sem precisar enviar informações para a nuvem o tempo todo

No dia a dia, recursos inteligentes poderiam chegar a cenários em que o consumo energético hoje é um impeditivo - como sensores a bateria, wearables e robôs autônomos.

Entenda os termos: o que está por trás dos conceitos

Para quem não acompanha de perto o tema de hardware, alguns termos podem confundir. Dois deles são essenciais aqui:

• Computação analógica in-memory: operações são realizadas diretamente no chip de memória, usando correntes e tensões analógicas, em vez de trabalhar apenas com zeros e uns digitais.
• Tolerância a ruído (noise-tolerance): o modelo é treinado para lidar com sinais imprecisos ou ruidosos sem tornar as previsões instáveis.

Um detalhe interessante é que redes neurais já costumam ter certa robustez a perturbações. O EaPU explora esse “espaço de tolerância” de forma consistente, em vez de exigir uma exatidão matemática máxima que, muitas vezes, nem é necessária na prática.

Riscos, perguntas em aberto e próximos passos

A técnica ainda deixa questões pendentes. Por exemplo, não está claro como ela se comporta em modelos extremamente grandes, com bilhões de parâmetros. Também é cedo para estimar os custos reais de produzir chips de memristores confiáveis em escala industrial.

Há ainda riscos no uso em aplicações críticas, como medicina ou direção autônoma. Nesses casos, será preciso avaliar com rigor quanta imprecisão de hardware - combinada com o EaPU - pode ser aceita sem ultrapassar limites de segurança.

Apesar dessas incertezas, o trabalho aponta uma direção importante: a tendência de modelos de IA cada vez maiores não precisa terminar em um beco sem saída energético. Ao projetar hardware e método de treinamento em conjunto, dá para reduzir de forma significativa a “fome” por eletricidade das novas gerações de sistemas de IA - talvez, no futuro, até chegar ao ponto de um modelo potente caber em um único chip eficiente.

---