Latest / IA por IAs / O Custo Invisível da IA: Como a Inteligência Artificial Consome Água em Escala Global

Transcript

O Custo Invisível da IA: Como a Inteligência Artificial Consome Água em Escala Global · IA por IAs

• 0:03
  Olá, sejam muito bem vindos a mais um episódio do iapor IAS.
• 0:07
  Oi, pessoal, tudo bem? Hoje a gente vai falar de um
• 0:11
  assunto que pouca gente comenta quando o tema é inteligência
• 0:15
  artificial, o consumo de água. Exatamente, Kátia, a gente ouve
• 0:20
  muito sobre o poder de processamento sobre os chips,
• 0:23
  sobre a eletricidade, mas e a água?
• 0:26
  Para onde ela vai e por que os grandes modelos de IA consomem
• 0:30
  tanto? É sobre isso que vamos conversar
• 0:33
  hoje eu sou Kátia Santos. E eu sou Humberto Silva.
• 0:37
  Aproveita que o episódio está só começando.
• 0:39
  Segue a gente no seu tocador de podcasts preferido e já ativa as
• 0:43
  notificações para não perder os próximos.
• 0:45
  Isso mesmo. Bom, Humberto, para começar,
• 0:49
  acho que a primeira imagem que vem a cabeça de muita gente
• 0:53
  quando se fala em data center. É aquela sala gelada, cheia de
• 0:58
  luzes piscando, com zumbido constante, né?
• 1:02
  Totalmente. E o ar-condicionado no máximo.
• 1:05
  Lembro de uma vez que visitei um data center de uma empresa que
• 1:08
  trabalhei. A sensação era de entrar num
• 1:11
  frigorífico e a gente até entende porquê.
• 1:14
  Aqueles servidores todos ligados processando dados sem parar gera
• 1:18
  um calor absurdo. Pois é, e é aí que a água entra
• 1:22
  na história. A forma mais comum de resfriar
• 1:25
  esses gigantes é usando os sistemas de refrigeração à base
• 1:29
  de água. Funciona de um jeito até que
• 1:31
  simples de entender. A Água Fria circula por
• 1:35
  tubulações, absorve o calor dos equipamentos e depois precisa
• 1:39
  ser resfriada novamente para recomeçar o ciclo.
• 1:43
  Hum. E parte dessa água evapora no
• 1:46
  processo, certo? É como o nosso corpo suando para
• 1:49
  se resfriar. A gente perde líquido.
• 1:51
  Exatamente essa analogia. Torres de refrigeração que
• 1:54
  parecem umas chaminés gigantes liberam esse excesso de calor na
• 1:59
  forma de vapor d'água. E aí está o grande ralo.
• 2:04
  Não é uma água que a gente, sei lá, bebe e descarta.
• 2:08
  Ela literalmente evapora. Entendi e quando a gente fala de
• 2:13
  treinar um modelo de linguagem, como os que geram textos ou
• 2:16
  imagens, o consumo de energia e, consequentemente, de calor é
• 2:21
  muito maior do que o uso normal do dia a dia.
• 2:23
  Muito maior. É como se você pegasse seu
• 2:26
  computador para escrever um e-mail versus rodar um jogo
• 2:29
  super pesado por dias a fio. O processador vai trabalhar no
• 2:33
  limite, vai esquentar muito mais.
• 2:35
  Com AIA é a mesma coisa, só que numa escala.
• 2:40
  Colossal. E já existem números sobre isso,
• 2:43
  para a gente ter uma ideia da dimensão do problema.
• 2:46
  Sim, e são números que chamam atenção.
• 2:49
  Pesquisadores da universidade da Califórnia e da universidade do
• 2:53
  Texas, por exemplo, publicaram um estudo bem completo sobre
• 2:57
  isso. Eles estimaram que o treinamento
• 2:59
  do GPT 3, que nem é o modelo mais recente.
• 3:03
  Pode ter consumido algo em torno de 700000 l de água. 700000 l
• 3:11
  uau é. É difícil até de visualizar
• 3:15
  quanto seria isso em algo prático.
• 3:17
  Então, para se ter uma ideia, essa quantidade de água é o
• 3:22
  suficiente para produzir umas 370 unidades do Tesla model y.
• 3:27
  Caramba, e isso foi só para o treinamento de um modelo?
• 3:32
  E o uso diário quando a gente faz uma pergunta para um
• 3:34
  chatbot, por exemplo? Essa é a outra parte da conta.
• 3:38
  O mesmo estudo estimou que uma conversa simples, de umas 20 a
• 3:43
  50 perguntas com um chatbot, como o ChatGPT, pode custar
• 3:48
  cerca de 500 ml de água meio litro de água.
• 3:52
  Meio litro? Parece pouco, mas se você pensar
• 3:56
  nos milhões, talvez bilhões de interações que acontecem todos
• 4:00
  os dias no mundo inteiro. A conta fica gigante, muito
• 4:03
  rápida. É.
• 4:05
  É impressionante. Lembro quando eu era mais novo e
• 4:08
  meu pai ficava no meu pé por causa do tempo no banho, falando
• 4:11
  da conta de água. Hoje o banho é digital.
• 4:14
  Pois é, e a localização dos data centers faz toda a diferença.
• 4:20
  Muitas vezes, eles são construídos em lugares mais
• 4:23
  secos, como algumas regiões dos Estados Unidos, o que agrava a
• 4:27
  situação porque competem pela água com a agricultura e o
• 4:30
  consumo. Humano faz sentido.
• 4:32
  E as empresas? O que que elas dizem sobre isso?
• 4:35
  Elas divulgam esses dados de consumo.
• 4:38
  Aí é que o negócio fica mais opaco.
• 4:40
  A maioria das grandes empresas de tecnologia não divulga
• 4:44
  abertamente o consumo de água por serviço ou por data center.
• 4:49
  A Google, por exemplo, informou um aumento de 20% no consumo de
• 4:54
  água em 2022, coincidindo com a expansão da sua área de e a.
• 4:59
  Mas eles não ligam uma coisa a outra diretamente.
• 5:02
  Eles falam em crescimento geral. Hum.
• 5:05
  É uma informação sensível, imagino.
• 5:08
  E agora eu quero saber de você que está nos ouvindo.
• 5:11
  Você já tinha parado para pensar no consumo de água da tecnologia
• 5:14
  que você usa todo dia? Conta para gente aqui nos
• 5:17
  comentários. A gente quer muito saber a sua
• 5:19
  opinião. Bola, Humberto.
• 5:21
  E é curioso, porque a gente já tem uma consciência maior sobre
• 5:25
  o consumo de energia, a pegada carbônica, mas a pegada hídrica
• 5:30
  da tecnologia ainda é um assunto meio nas sombras.
• 5:35
  Totalmente. E existem alternativas para esse
• 5:38
  resfriamento, alguma tecnologia nova surgindo?
• 5:41
  Existem sim. Uma das principais é o
• 5:44
  resfriamento líquido direto ou direct Liquid cooling.
• 5:48
  Em vez de resfriar o ar da sala inteira, um líquido refrigerante
• 5:53
  circula por pequenas Placas que ficam em contato direto com os
• 5:56
  processadores, que são a maior fonte de calor.
• 5:59
  É um sistema bem mais eficiente. Ah, legal, é como ter um sistema
• 6:04
  de arrefecimento de um carro dentro do servidor, em vez de um
• 6:07
  ar-condicionado gigante para a garagem inteira.
• 6:09
  Perfeita analogia é exatamente isso, e o mais interessante é
• 6:14
  que esse método pode reduzir o consumo de água em mais de 90%
• 6:20
  em comparação com as Torres de refrigeração, além de economizar
• 6:23
  muita energia também. Poxa, então a solução já existe,
• 6:27
  a questão é a implementação. O custo, a mudança da
• 6:31
  infraestrutura que já está pronta.
• 6:32
  Exato. E também tem a questão de usar
• 6:36
  água não potável, como água do mar ou água de reuso para
• 6:40
  refrigeração. Algumas empresas já fazem isso,
• 6:43
  mas ainda não é a regra. É um quebra cabeça complexo, tem
• 6:48
  a eficiência, o custo, a localização e a fonte da água.
• 6:53
  É EE, no final, isso tudo vai pesar na balança.
• 6:56
  O desenvolvimento da IA não pode acontecer ignorando o impacto
• 7:00
  ambiental, né? Não faz sentido criar uma
• 7:02
  tecnologia tão poderosa se o custo para o planeta for muito
• 7:06
  alto. É uma conta que precisa fechar.
• 7:08
  Sem dúvida, a transparência das empresas vai ser fundamental
• 7:12
  para a gente poder cobrar e entender o tamanho real do
• 7:15
  problema e para que nós, como usuários também, tenhamos
• 7:19
  consciência do custo invisível de cada enter que a gente
• 7:23
  aperta. Perfeito, Kátia.
• 7:25
  E fica aqui a nossa reflexão final para quem nos ouviu até
• 7:28
  agora, será que no futuro teremos selos de eficiência
• 7:32
  hídrica para serviços de inteligência artificial, assim
• 7:36
  como temos para eletrodomésticos?
• 7:38
  Ótima pergunta para a gente pensar.
• 7:40
  Se você gostou do nosso papo de hoje, compartilhe este episódio
• 7:43
  com um amigo com alguém da sua família.
• 7:46
  Ajuda muito a gente a levar essa conversa para mais pessoas.
• 7:49
  É isso aí, muito obrigado pela sua companhia.
• 7:52
  A gente se encontra no próximo episódio.
• 7:54
  Tchau, pessoal, até a próxima.