Arrefecimento em computação de alto desempenho: escolha de arquiteturas de arrefecimento para GPUs que ultrapassam os limites do arrefecimento por ar

partilhar com:

Resfriamento para computação de alto desempenho ultrapassou um limiar decisivo. Aceleradores de IA, como o NVIDIA H100 com 700 W e o Blackwell B200 com 1.000 W, elevam as densidades de rack para além de 100 kW, enquanto o resfriamento a ar tem seu limite em torno de 25 a 30 kW por rack. A resposta da indústria é o resfriamento líquido, mercado que, segundo a Dell'Oro Group, deve atingir cerca de US$ 7 bilhões até 2029. Para operadores de HPC, a questão não é mais se adotar o resfriamento líquido, mas qual arquitetura se adequa à carga de trabalho, ao orçamento e às restrições da instalação.

Por que razão o arrefecimento da computação de alto desempenho se tornou o principal gargalo nos clusters de IA?

A física da transferência de calor por convecção impõe um limite máximo inulpassável ao arrefecimento por ar; as ventoinhas e os dissipadores de calor não conseguem ultrapassá-lo. A potência dos aceleradores tem aumentado acentuadamente: o H100 funciona a 700 W, o Blackwell B200 a 1 000 W e espera-se que o Rubin, da próxima geração, atinja valores ainda mais elevados, de acordo com o The Cooling Report. Um cluster denso de treino de IA eleva a densidade dos racks para além dos 100 kW, aproximando-se dos 120 kW em algumas configurações. Os projetos da próxima geração têm como objetivo atingir 200 a 250 kW por rack, razão pela qual o arrefecimento da computação de alto desempenho passou a ser uma prioridade na agenda de projeto.

Arrefecimento em Computação de Alto Desempenho

O MI300X da AMD e o Gaudi 3 da Intel também excedem os limites de consumo energético que o arrefecimento por ar consegue suportar, pelo que este não é um problema exclusivo de um único fornecedor. Prevê-se que as cargas de trabalho globais de IA atinjam cerca de 44 GW em 2026, ultrapassando as cargas de trabalho não relacionadas com a IA, que rondam os 38 GW. Quando um rack consome mais energia do que um pequeno edifício de escritórios, a refrigeração limita a densidade computacional, os custos energéticos e o tempo de atividade. As decisões relativas à refrigeração na computação de alto desempenho determinam agora se um cluster funciona em plena utilização ou se é limitado devido ao stress térmico.

Quais são as principais tecnologias de refrigeração utilizadas atualmente na computação de alto desempenho?

Três famílias tecnológicas dominam as instalações modernas de HPC. O arrefecimento convencional por ar utiliza unidades de tratamento de ar, ventoinhas e dissipadores de calor na sala de servidores para dissipar o calor. O arrefecimento líquido direto no chip, também denominado arrefecimento por placa fria, faz circular o líquido de arrefecimento através de placas metálicas montadas nas CPUs, GPUs e módulos de memória. O arrefecimento por imersão submerge servidores inteiros num fluido dielétrico, em configurações monofásicas ou bifásicas. Cada família responde a um leque diferente de requisitos de arrefecimento na computação de alto desempenho.

Os dados sobre a adoção mostram a rapidez com que o panorama está a mudar. O inquérito «Cooling Systems Survey 2024» do Uptime Institute, baseado em 964 inquiridos, revelou que 22 por cento já utilizam refrigeração líquida direta nas suas instalações, enquanto 61 por cento considerariam essa opção no futuro. Quase metade dos utilizadores de DLC refere que menos de 10% dos seus racks de TI utilizam esta tecnologia. No que diz respeito ao arrefecimento para computação de alto desempenho, a questão prática já não é de que fornecedor comprar, mas sim qual a arquitetura a padronizar à medida que as densidades aumentam.

Quanto calor consegue eliminar o sistema tradicional de arrefecimento por ar para computação de alto desempenho?

O arrefecimento por ar tem um limite prático de cerca de 25 a 30 kW por rack, um limite que não sofreu alterações significativas ao longo dos anos. A otimização não consegue ultrapassar esse limite. Qualquer cluster de HPC que exceda cerca de 30 kW por rack requer uma estratégia diferente de dissipação de calor. Compreender este limite é o primeiro passo em qualquer estratégia de arrefecimento para computação de alto desempenho.

A diferença de eficiência é igualmente visível na eficácia do consumo de energia. Os centros de dados tradicionais refrigerados a ar têm, há muito, funcionado com um PUE superior a 1,8, de acordo com a China Economic Net. A refrigeração consome normalmente 30 a 40 por cento da energia total do centro de dados, ficando apenas atrás do próprio equipamento de TI, que representa 45 a 60 por cento. As instalações com refrigeração líquida podem reduzir o PUE para valores inferiores a 1,1, e os oito nós centrais nacionais da China apresentam agora uma média de cerca de 1,25. No que diz respeito à refrigeração para computação de alto desempenho, esta diferença de eficiência traduz-se diretamente nos custos operacionais, na pegada de carbono e na capacidade de aumentar a capacidade computacional dentro de um limite energético existente.

«Direct-to-Chip» ou imersão: qual a arquitetura de refrigeração para computação de alto desempenho que deve escolher?

O arrefecimento líquido direto no chip consiste na fixação de placas de arrefecimento aos componentes que geram mais calor, removendo a maior parte do calor na própria fonte. O arrefecimento por imersão consiste em submergir o servidor na totalidade num fluido dielétrico, dissipando praticamente todo o calor de todos os componentes. A escolha entre estas duas opções define todo o plano de desenvolvimento do arrefecimento na computação de alto desempenho, pelo que a decisão merece uma análise cuidadosa.

Arrefecimento em Computação de Alto Desempenho

O Dell’Oro Group refere que o arrefecimento líquido direto monofásico consolidou a sua posição como a arquitetura dominante para clusters de IA. Para a maioria das organizações, o arrefecimento direto no chip constitui o caminho mais rápido para obter capacidade de arrefecimento em computação de alto desempenho, com o mínimo de perturbações operacionais. O arrefecimento por imersão continua a ser uma opção atraente nos casos em que as metas de densidade excedem a capacidade de adaptação das instalações existentes ou quando os operadores pretendem eliminar o tratamento do ar.

Quanto custa uma atualização do sistema de refrigeração de um sistema de computação de alto desempenho e quanto permite poupar?

A rentabilidade do arrefecimento em computação de alto desempenho está a melhorar à medida que o mercado cresce. O Dell’Oro Group prevê que o mercado mundial de arrefecimento líquido atinja cerca de $7 mil milhões em receitas dos fabricantes até 2029. Na China, o mercado de refrigeração líquida para centros de computação inteligentes atingiu 18,4 mil milhões de RMB em 2024, registando um crescimento de 66,1% em relação ao ano anterior, e poderá atingir cerca de 130 mil milhões de RMB até 2029, de acordo com a Academia Chinesa de Tecnologia da Informação e Comunicações.

A poupança no arrefecimento da computação de alto desempenho é impulsionada pela redução do PUE. Passar de um PUE de 1,8 para um valor inferior a 1,2 pode reduzir o consumo de energia relacionado com o arrefecimento em mais de metade. Os nós dos centros nacionais apresentam atualmente um PUE médio entre 1,2 e 1,3, e os projetos com refrigeração líquida têm demonstrado um PUE inferior a 1,1. A reutilização do calor acrescenta outra fonte de receitas: o líquido de refrigeração quente pode alimentar redes de aquecimento urbano, transformando o calor residual num ativo. Ao longo de um ciclo de vida de cinco anos da instalação, as poupanças energéticas decorrentes das melhorias no arrefecimento da computação de alto desempenho superam normalmente o custo de capital do próprio equipamento.

Como se faz a migração de um sistema de refrigeração para computação de alto desempenho sem tempo de inatividade?

A migração segue um padrão por fases que protege as cargas de trabalho em execução. Em primeiro lugar, audite a carga térmica real por rack utilizando telemetria, em vez dos valores nominais indicados na placa de identificação. Em segundo lugar, realize um teste-piloto numa fila ou partição, validando o fluxo do líquido de refrigeração, a deteção de fugas e o controlo da temperatura sob carga de produção. Em terceiro lugar, expanda de forma incremental, dando prioridade aos racks mais densos, onde a refrigeração por ar já é insuficiente. Um plano faseado permite que as atualizações do sistema de refrigeração da computação de alto desempenho sejam previsíveis.

Uma unidade de distribuição de líquido de arrefecimento constitui o ponto central de integração, isolando a água da instalação do líquido de arrefecimento dos servidores e controlando o caudal e a temperatura. Os coletores encaminham o líquido de arrefecimento para cada servidor, e os encaixes de desconexão rápida permitem a manutenção sem esvaziar o circuito. A deteção de fugas deve estar presente em todas as ligações, e a monitorização deve acompanhar as temperaturas do líquido de arrefecimento e da junção do chip. No caso de gerações mistas de hardware, mantenha uma pequena zona refrigerada a ar para os servidores mais antigos. Qualquer migração do sistema de refrigeração de computação de alto desempenho deve ser reversível ao nível do rack, para que uma implementação mal sucedida afete apenas uma partição e não todo o cluster.

Que ganhos em termos de fiabilidade e desempenho pode o arrefecimento para a computação de alto desempenho proporcionar?

O arrefecimento líquido elimina a limitação térmica que afeta os aceleradores arrefecidos a ar. As temperaturas baixas e constantes permitem que as GPUs funcionem à velocidade máxima do relógio durante períodos prolongados, reduzindo os tempos de treino e simulação. A plataforma Neptune da Lenovo, que coloca placas de refrigeração diretamente sobre as GPUs e os módulos de memória, apresenta menos abrandamentos e uma vida útil mais longa do hardware, uma vez que os picos térmicos são eliminados. Estas vantagens transformam a refrigeração da computação de alto desempenho numa alavanca de desempenho, e não apenas numa funcionalidade utilitária.

Os operadores também estão a utilizar gémeos digitais para ajustar o comportamento do arrefecimento. A equipa do Laboratório Nacional de Oak Ridge responsável pelo Frontier, o supercomputador de exaescala, criou um gémeo digital que simula a telemetria de potência e arrefecimento, permitindo aos engenheiros testar a temperatura da água de arrefecimento e alterações na programação antes de as aplicar na máquina real. Isto reduz o risco de realizar experiências num sistema demasiado valioso para ser testado diretamente. O arrefecimento na computação de alto desempenho está, assim, a evoluir de um recurso estático para um subsistema gerido ativamente, onde a fiabilidade, a eficiência e o desempenho são otimizados em conjunto.

Como irá evoluir o arrefecimento na computação de alto desempenho até 2030?

Três tendências irão definir o arrefecimento na computação de alto desempenho até ao final da década. Em primeiro lugar, o arrefecimento líquido direto monofásico continuará a ser a opção padrão para os clusters de IA, enquanto as abordagens bifásicas e de imersão amadurecem para nichos específicos. Em segundo lugar, as densidades dos racks continuarão a aumentar; já existem projetos que visam 200 a 250 kW por rack, o que eleva as temperaturas do líquido de refrigeração e torna a reutilização do calor mais atraente. Em terceiro lugar, a integração nas instalações aprofundar-se-á, com o arrefecimento líquido a ser integrado nos edifícios desde o início e a recuperação de calor a tornar-se padrão em climas frios.

A implicação estratégica é clara: o arrefecimento na computação de alto desempenho é agora uma decisão arquitetónica fundamental, e não um aspeto secundário das instalações. As organizações que adotarem como padrão racks preparados para arrefecimento líquido, equipas com formação adequada e ferramentas de monitorização irão integrar cada nova geração de GPUs sem necessidade de reestruturar as suas instalações. Aquelas que esperarem que o arrefecimento por ar falhe sob carga enfrentarão migrações apressadas e tempos de inatividade que poderiam ter sido evitados.

Conclusão

O arrefecimento em computação de alto desempenho passou de uma medida opcional de eficiência para um requisito obrigatório para clusters à escala da IA. O arrefecimento por ar atinge um limite de cerca de 25 a 30 kW por rack, enquanto os aceleradores da classe B200 levam os racks a ultrapassar os 100 kW. O arrefecimento líquido direto no chip é a solução dominante a curto prazo. Os dados do Uptime Institute revelam que 22 por cento das instalações já utilizam DLC, a Dell’Oro prevê um mercado de $7 mil milhões até 2029 e as instalações com refrigeração líquida atingem habitualmente um PUE inferior a 1,2. A estrutura é prática: audite a sua carga térmica, faça um teste-piloto numa partição, padronize a utilização de racks preparados para refrigeração líquida e expanda a escala com monitorização. Cada decisão tomada hoje em matéria de refrigeração para computação de alto desempenho determinará quais as organizações que poderão implementar a próxima geração de aceleradores em plena utilização.

Sobre o autor

Gavin

Gavin

O Gavin é gestor de operações numa empresa especializada em equipamento de apoio a centros de dados. Ele é especialista em fontes de alimentação ininterrupta específicas para centros de dados, ar condicionado de precisão e soluções para centros de dados. Ele pode ajudá-lo a compreender melhor estes produtos e a escolher diferentes soluções.

Posts relacionados