A IA está em toda parte agora – e está sugando muita água

O queridinho da indústria de tecnologia consome mais energia e água do que aparenta. Qual é a solução?

A inteligência artificial tornou-se parte da vida quotidiana, mas até agora há pouca regulamentação sobre a sua implantação e utilização. Atualmente, não existe nenhuma lei nos EUA que exija que as empresas de IA divulguem o seu impacto ambiental em termos de utilização de energia e água. Pesquisadores preocupados contam com dados voluntários de empresas como Apple, Meta e Microsoft.

Mas a investigação mostra que a geração de IA pode consumir ainda mais recursos do que se pensava inicialmente. Imagine que você deseja pedir a um programa de IA que escreva um e-mail de 100 palavras para você. Você obtém uma resposta quase instantânea, mas o que você não vê são os recursos intensivos de computação necessários para criar aquele e-mail. No data center de IA, gerar apenas dois desses e-mails poderia consumir tanta energia quanto uma carga completa no iPhone mais recente. E de acordo com um estudo do Pew Research Center, esse e-mail de 100 palavras poderia consumir uma garrafa inteira de água para o resfriamento necessário nos data centers.

Esta entrevista com Shaolei Ren, professor associado de engenharia elétrica e de computação na Universidade da Califórnia, Riverside, foi editada para maior extensão e clareza.

AYNSLEY O’NEILL: Para aqueles de nós que não estão familiarizados com os aspectos técnicos de como a IA funciona, por que ela consome muito mais energia e muito mais água do que qualquer outra coisa que você faz no seu computador?

SHAOLEI REN: Bem, porque um modelo de linguagem grande é, por definição, muito grande. Cada modelo possui vários bilhões de parâmetros, ou mesmo centenas de bilhões de parâmetros. Digamos que você tenha 10 bilhões de parâmetros para gerar um token ou uma palavra: você fará 20 bilhões de cálculos. Esse é um processo que consome muita energia. Essa energia é convertida em calor, por isso precisamos nos livrar do calor; a evaporação da água é uma das maneiras mais eficientes de resfriar as instalações do data center. É por isso que também utilizamos muita água além da energia.

A água evapora para a atmosfera, por isso às vezes é considerada água perdida, embora tecnicamente ainda esteja dentro do nosso sistema global de ciclo da água, mas não está disponível para reutilização a curto prazo na mesma fonte. O consumo de água é a diferença entre a retirada de água menos a descarga de água, e isso é muito diferente da água que usamos para tomar banho. Quando você toma banho você retira muita água, mas não há muito consumo.

O’NEILL: Pelo que entendi nos Estados Unidos, pelo menos, a água usada nesses data centers de IA para fazer esse resfriamento vem de fontes locais ou municipais. Qual o impacto que um data center de IA tem na comunidade local ao seu redor?

REN: Nos EUA, cerca de 80% a 90% do consumo de água para centros de dados provém de fontes de água (públicas). Fizemos um estudo preliminar e ele mostra que atualmente nos EUA o consumo de água dos data centers já representa cerca de 2% a 3% do abastecimento público de água. Então aqui estamos falando de consumo e não de retirada de água. Com base na estimativa do EPRI (Electric Power Research Institute), a demanda de energia da IA ​​até 2030 poderá subir até 8%.

O’NEILL: Há um debate em andamento em Memphis, onde o bilionário da tecnologia Elon Musk está tentando construir um servidor enorme para acomodar a IA. A concessionária local estima que este sistema precisará de cerca de um milhão de galões de água por dia para resfriá-lo. Do seu ponto de vista, como as comunidades locais deveriam pesar os benefícios versus o custo de ter esses data centers locais de IA?

O’NEIL: Agora, as próprias empresas que criaram e operam estes sistemas de IA têm interesse em tornar a tecnologia mais eficiente. Que tipo de melhorias possíveis na tecnologia de IA poderiam torná-la mais eficiente em termos de energia ou água ao longo do tempo?

REN: Têm definitivamente o incentivo para reduzir o consumo de energia, reduzir o consumo de recursos para formação e inferência. Temos visto muitas propostas de pesquisas e soluções que prometem reduzir o consumo de energia, mas acontece que na realidade os sistemas não são tão otimizados.

Vi um artigo da equipe de pesquisa de uma empresa de tecnologia de ponta e mostra que o consumo de energia é 10 vezes maior do que pensávamos antes, apesar de usarem técnicas de otimização de última geração. Portanto, eles têm o incentivo para reduzir o uso de energia e recursos para a computação de IA.

No entanto, o mundo real é uma história diferente, em parte porque têm objectivos rigorosos de nível de serviço a cumprir, o que significa que precisam de devolver as respostas aos utilizadores num curto espaço de tempo – e isso limita a forma como poderiam optimizar o seu sistema. Se eles estivessem apenas fazendo processamento em lote, poderiam ser muito eficientes em termos energéticos, mas acontece que, na realidade, existem muitas restrições que os proíbem de usar essas técnicas de otimização.

Talvez possamos comparar o ônibus com um carro de passageiros. Em geral, por passageiro, o autocarro deve ser mais eficiente em termos energéticos do que um automóvel de passageiros, assumindo que o autocarro está totalmente carregado. Mas, na realidade, devido às solicitações do usuário, aos padrões aleatórios e a algumas outras restrições, o barramento não está totalmente carregado. Se você tem um ônibus para 50 passageiros, normalmente ele carrega apenas cinco passageiros e, em média, por passageiro, a eficiência de combustível é muito pior do que a do carro de passageiros.

O’NEILL: A IA tornou-se uma parte realmente imensa da vida cotidiana de muitas pessoas. Supõe-se que isso facilite nossas vidas, mas tem um custo tremendo para o meio ambiente. Qual é a solução aqui? Se os avanços tecnológicos não estão funcionando da maneira que esperamos, qual é a solução?

REN: Uma possível solução é que, em vez de usar modelos cada vez maiores, poderíamos usar modelos cada vez menores, porque normalmente esses modelos menores são bons o suficiente para completar muitas das tarefas que realmente nos interessam.

Por exemplo, se você deseja apenas saber a previsão do tempo ou um resumo de texto, usar um modelo menor geralmente é suficiente, e um modelo menor significa que você economizará muitos recursos e consumo de energia. Às vezes, você pode até renderizar modelos pequenos em seu telefone celular, o que pode economizar ainda mais energia em, digamos, 80% com muita facilidade, em comparação com a execução de um modelo maior na nuvem.