Nieuwe oplossingen voor (HPC/AI) serverkoeling van Gigabyte

Blog
0

Op ISC 2022, hét event voor High Performance Computing, toonde Gigabyte nieuwe oplossingen voor serverkoeling, zoals directe vloeistofkoeling en dompelkoeling. Lees meer en bekijk de dompelkoeling en andere oplossingen in de video.

Om aan gestegen eisen aan koeling te voldoen én de energie-efficiëntie te verbeteren voldoen traditionele koeloplossingen vaak niet.  De wet van Moore wordt in datacenters door exponentieel groeiende rekenkracht op de proef gesteld, met high-power componenten van AMD, Ampere, Intel en Nvidia.

Directe vloeistofkoeling en dompelkoeling voor HPC

GIGABYTE liet in samenwerking met partners zien hoe Direct Liquid Cooling (DLC) en Immersion Cooling (dompelkoeling) een langdurige impact kunnen hebben op de prestaties van serversystemen in verschillende stadia van HPC-projecten.

Bekijk de oplossingen (inclusief bad-eend) in onderstaande video:

HPC Demo Systemen

GIGABYTE demonstreerde de platforms: G492-ID0, R282-Z93, G492-PD0, G242-P34, E162-220, E152-ZE0 en meer, die allemaal compatibel zijn met NVIDIA GPU, NVIDIA BlueField Series DPU, en NVIDIA SmartNIC oplossingen. Fysieke hardware bij de demo is altijd het beste om te begrijpen hoe dingen werken.

De G492-ID0 en G492-PD0 zijn de showstoppers

De G492-ID0 wordt geleverd met 8x NVIDIA A100 SXM4 GPU en 2x Intel Xeon Ice Lake CPU en biedt de mogelijkheid om tot 10x NVIDIA SmartNIC te installeren om de gegevensoverdracht tussen nodes en clusters en GPUDirect/RDMA te versnellen. HPC-gebruikers die werken met kunstmatige intelligentie, moleculaire simulaties, genomics sequencing, weersvoorspelling en andere use cases waren onder de indruk van de systeemprestaties van de G492-ID0.

G492-PD0 en G242-P34 bieden daarentegen alternatieve HPC-oplossingen voor de traditionele Intel/AMD-gebaseerde architectuur voor programmeurs en onderzoekers die hun softwaretoepassingen optimaliseren met op ARM CPU gebaseerde codes. Met name de G242-P34 wordt geleverd met een speciale promotieaanbieding in het kader van het “NVIDIA ARM HPC Developer Kit”-programma voor gebruikers die graag de gecombineerde prestaties van NVIDIA A100 en NVIDIA BlueField-2 DPU willen uitproberen.

Gigabyte G492-ID0 HPC server

De Gigabyte G492-ID0 HPC server levert indrukwekkende prestaties.

Bezoekers delen hun ervaring met het inzetten van gecontaineriseerde applicaties, CI/CO en virtuele desktopinfrastructuur (VDI) met behulp van NVIDIA GPU-technologieën die virtuele GPU-prestaties en resource management vergemakkelijken door hardware- en softwarefuncties. Daartoe presenteerde GIGABYTE de bezoekers R282-Z93, een all-purpose HPC-servermodel dat tot 3x GPU (of 5x single-slot GPU) ondersteunt en een breed scala aan keuzes voor add-on apparaten zoals BlueField Series DPU en ConnectX Series SmartNIC. De R282-Z93 biedt grote systeemgeheugen- en lokale opslagcapaciteiten en heeft een gebalanceerde CPU-to-GPU lay-out (1:1) die ideaal is voor virtualisatie.

AIoT en 5G-projecten waren ook een hot topic onder ISC-gasten die technische vragen hadden over E162-220 en E152-ZE0. De twee servermodellen zijn juist ontwikkeld met het oog op de inzet van lichtgewicht HPC-oplossingen aan de rand, waar het verzamelen en analyseren van gegevens in real-time en snel moet gebeuren voor besluitvormers. E162-220 is een op Intel gebaseerde, single-CPU Edge-server met ondersteuning voor 1x GPU, terwijl E152-ZE0 een op AMD gebaseerde, single-CPU Edge-server is met ondersteuning voor 1x GPU (of 2x single-slot GPU). Beide modellen hebben meerdere uitbreidingssleuven voor de installatie van DPU, FPGA, SmartNIC en add-on apparaten die nodig kunnen zijn voor signaalverwerking en conversie voor 5G use cases. De kleinere vormfactor van de twee modellen, met een diepte van slechts 40 cm, sluit ook goed aan bij de eisen van AIoT- en 5G-projecten. De GPU-modellen waarnaar tijdens het evenement vaak werd verwezen voor AIoT- en 5G-projecten waren de NVIDIA A100, A30, A10 en A2.

Vloeistofgekoelde HPC-oplossingen

GIGABYTE werd vergezeld door hun partners, CoolIT en Submer, om te laten zien hoe Direct Liquid Cooling (DLC) en Immersion Cooling een langdurige impact kunnen hebben op de prestaties van serversystemen en CAPEX/OPEX ROI in verschillende stadia van HPC-projecten.

Zoals veel bezoekers en leveranciers van oplossingen ook met GIGABYTE eens waren tijdens discussies op het ISC-evenement, zagen zij een drastische toename in de vraag naar DLC en Immersion Cooling (voornamelijk 1-fase gebaseerd) in vergelijking met het pre-COVID-tijdperk. De vraag kwam vooral van datacenteroperators en Cloud Services Providers (CSP) die hun zorgen uitten over de onophoudelijk stijgende rekenkracht en dus de resulterende warmteafgifte door computercomponenten (vooral door CPU en GPU). De gesprekken gingen ook over toekomstige EU-milieuregelgeving inzake energie-efficiëntie van datacenters en EU-doelstellingen voor green computing.

gigabyte serverkoeling - vloeistofkoeling en dompelkoeling voor meer warrmteafvoer

Dompelkoeling kan tot 10 maal meer warmteafvoer bieden dan luchtkoeling. Zie ook de video hierboven.

GIGABYTE deelde ook informatie over de volgende generatie CPU/GPU-technologieën die luchtkoeling binnenkort tot het uiterste zullen drijven als het gaat om thermische dissipatie.
Grofweg, om een standaard serverrack als vergelijkingsbasis te nemen, biedt luchtkoeling tot 20kW – 30kW aan warmteafvoer; vloeistofkoeling biedt 80kW aan warmteafvoer, en dompelkoeling biedt 200kW aan warmteafvoer (met de koelwatertemperatuur onder 13°C). Het geschikte ontwerp voor de totaaloplossing varieert omdat elk project specifieke vereisten heeft waarvoor deskundig advies nodig is. Bij GIGABYTE helpen we datacenters en klanten bij het analyseren van hun projecten door te kijken naar energieverbruik, warmtedissipatie, ruimteoptimalisatie en PUE/watergebruiksefficiëntie (WUE), naast vele andere technische onderwerpen, bij elke stap van het ontwerp van de oplossing.

GIGABYE gaat nog een stap verder en biedt ook installatie-/implementatieservices in samenwerking met datacenterinfrastructuurbedrijven, om ervoor te zorgen dat klanten een soepele projectoplevering en een korte doorlooptijd voor operationele gereedheid krijgen. Het belangrijkste is dat GIGABYTE haar klanten sterk adviseert om te profiteren van haar Proof-of-Concept (PoC) bronnen voor het valideren van elk oplossingontwerp en projectparameters voor het maken van de beste beslissing, aangezien veel omgevingsfactoren de verwachte prestaties en systeemstabiliteit kunnen veranderen. GIGABYTE heeft PoC-eenheden (in zowel enkelfasige als tweefasige immersiekoeling) voor het testen en valideren van immersiegekoelde servers. De servermodelopties zijn verkrijgbaar in 1U/2U/4U-vormfactoren en kunnen op verzoek worden aangepast om te voldoen aan verschillende gebruikssituaties en werklasten. GIGABYTE werkt met alle belangrijke partners op de markt voor vloeistofkoeling en immersiekoelingstechnologie, zodat klanten kunnen rekenen op design-in compatibiliteit van de totaaloplossingen van GIGABYTE met hun infrastructuur.

Het probleem van het verbeteren van CAPEX/OPEX en FLOPS-per-watt efficiëntie terwijl HPC prestatiedoelstellingen worden overtroffen, motiveerde bezoekers om extra tijd door te brengen op onze stand om de beste oplossing te vinden uit ons HPC-oplossingenportfolio.

Ontwikkeling voor volgende-generatie HPC-oplossingen

Naast wat het GIGABYTE-team tijdens het evenement liet zien, onthulden we fragmenten van technische informatie over wat er in Q3/Q4 2022 zal worden aangekondigd voor volgende-generatie HPC-oplossingen. GIGABYTE richtte zich niet op product- of systeemspecificaties, maar eerder op hoe de nieuwe oplossingen in staat zullen zijn om eindgebruikscases aan te pakken door de systeemconfiguratie aan te passen aan workflows en datacenter-architecturen.

Als ze bijvoorbeeld op componentniveau kijken naar de onlangs aangekondigde NVIDIA Hopper H100 GPU, realiseren ze zich dat de GPU-prestaties alleen naar voren kunnen worden gehaald door een grote granulariteit in de programmering (in termen van thread-affiniteit, het toepassen van de juiste rekenprecisies, cache- en geheugenlocatie en -toewijzing, taakverdeling, instance-isolatie, enzovoort) en in het toewijzen van de juiste middelen (hardwarematig) aan het juiste type werklast. Dit staat in schril contrast met de gebruikelijke methode van monolithisch computergebruik, waarbij de gecombineerde rekenkracht van groter belang is dan de rekenkracht voor afzonderlijke taken, die verschillende gegevenstypen en -structuren, rekenmodellen en reeksen kunnen hebben. Aan de hand van dit voorbeeld leggen zij uit hoe zij hardwarespecificaties dimensioneren op basis van hun projecten en eindgebruiksgevallen. Heel vaak stellen ze een mix voor van opties met hoge en lage GPU-dichtheid, zonder rekening te houden met waar zich tijdens de workflow prestatieknelpunten kunnen voordoen. Hun advies is zeker niet de gouden regel voor HPC, maar ze kregen positieve feedback van ISC-bezoekers die leken te hebben gevonden wat ze zochten.

Gigabyte datacenter HPC

Gigabyte kan complete oplossingen bieden voor moderne datacenters, voor uiteenlopende scenario’s.

Enkele van de vroege teasers die GIGABYTE gaf aan bezoekers over volgende-generatie HPC-oplossingen: de G493-serie (4U 10GPU), de G293-serie (2U 8GPU zonder PCIe-switching), de R283-serie (all-purpose 2U 3GPU), de L-serie (DLC Cooling), en de I-serie (Immersion Cooling). Afgezien van de snelheids- en prestatieverhoging met PCIe Gen5 en DDR5, was het hoogtepunt hoe GIGABYTE de grens verlegde van de effectiviteit van luchtkoeling op high-power componenten in servermodellen met een kleine vormfactor, zonder de rekenkracht te beperken. Veel bezoekers waren al op de hoogte van de nieuwe micro-architectuur veranderingen in de volgende generatie CPU’s en GPU’s, dus kregen ze vragen zoals hoe de veranderingen zich zouden weerspiegelen in de prestaties en kosten en hoe de ROI te bepalen van het investeren in de volgende generatie keuzes. Om deze vragen te beantwoorden, keken ze naar de softwaretoepassingen en hoe codes waren gestructureerd in de projecten van de bezoekers.

Conclusie

ISC 2022 bracht enthousiasme over toekomstige HPC-oplossingen in het post-COVID-tijdperk terug. De aanwezigheid van Gigabytes HPC-demosystemen op de stand wekte grote interesse onder bezoekers in hoe Gigabyte toekomstige HPC-oplossingen realiseert die zowel de beste prestaties als energie-efficiëntie bieden. Het steeds groeiende netwerk van GIGABYTE-technologiepartners versnelt ook de ontwikkeling van nieuwe oplossingen en nieuwe bedrijfsmodellen die nieuwe kansen creëren voor gebruikers en klanten. We hopen dat we op het volgende ISC-evenement meer oplossingen live kunnen demonstreren en bezoekers in staat stellen om dingen in realtime uit te proberen en te zien hoe ver GIGABYTE is gegaan in haar HPC-ambitie.

Meer over

koeling

Deel dit artikel

Lees ook

Specialist Azure en M365, The Data Agency

IT-vacature: Specialist Azure en M365, The Data Agency. Bekijk de volledige tekst van de vacature voor meer informatie.

Waarom security­training een prioriteit moet worden

De kloof in technologische vaardigheden, waar organisaties mee te maken hebben, is gegroeid door de digitale transformatie en coronacrisis.

Interessant voor jou

0 Praat mee