c’t 12/2026
De gevolgen van artificiële intelligentie voor IT-security
Cover van
AMD EPYC 006

GIGABYTE en AMD EPYC 9006: de nieuwe generatie servers

Dit artikel is tot stand gekomen in samenwerking met onze partner GIGABYTE.

GIGABYTE, wereldwijde leverancier van geavanceerde computeroplossingen, introduceert nieuwe servers met ondersteuning voor de 6e generatie AMD EPYC 9006-serverprocessors. Daarmee breidt het zijn portfolio van systemen voor veeleisende workloads verder uit.

Lees verder na de advertentie

Aangedreven door de nieuwe AMD Zen 6-architectuur zijn de 6e generatie EPYC-CPU’s geschikt voor een breed scala aan inzetsgebieden, variërend van agent-gebaseerde AI, bedrijfsapplicaties, cloud-computing, HPC tot algemene rekenkracht.

Met de 6e generatie AMD EPYC-server-CPU’s kunnen klanten hun rekencapaciteit uitbreiden voor de AI-agents, versnelde infrastructuur en kritieke bedrijfsapplicaties die ze nodig hebben om hun organisaties een voorsprong in hun bedrijfstak te geven.

Toepassingsgebieden

AI voegt tegenwoordig nog meer diversiteit toe aan een datacenter, aangezien één enkele workflow agents kan uitvoeren, modellen kan aanroepen, gegevens kan ophalen, code kan uitvoeren en kan communiceren met de databases en applicaties waar bedrijven al op vertrouwen.

Met dit in gedachte zijn de 6e generatie AMD EPYC-CPU’s ontworpen en zijn CPU-dichtheid, frequentie, bandbreedte en efficiëntie afgestemd op elke taak, terwijl de gemeenschappelijke basis voor software, beveiliging en bedrijfsvoering behouden blijft. Deze voor workloads geoptimaliseerde aanpak biedt voordelen op essentiële vlakken, zoals agentische AI, bedrijfsdiensten en rack-scale-oplossingen.

De nieuwe 6e generatie AMD EPYC-CPU’s  zijn toonaangevend op elk niveau van agentische AI. Agentische AI-infrastructuur omvat drie verschillende CPU-rollen – algemene diensten, GPU-hostnodes en agent-sandboxes – en de 6e generatie AMD EPYC biedt voor elk daarvan een voor de specifieke werklast geoptimaliseerde processor.

Host-node-processors met hoge kloksnelheden, tot 5,3 GHz, leveren tot 1,8 keer de LLM-doorvoer van EPYC-processors van de vorige generatie. Bovendien kunnen met betrekking tot agent-sandboxes servers op basis van de AMD EPYC 9996-CPU naar schatting tot 1,18x zoveel agents per rack ondersteunen binnen hetzelfde stroomverbruik van 35 kilowatt als systemen met standaardinstellingen voor energiebeheer.

Met de 6e generatie AMD EPYC hoeven klanten geen genoegen te nemen met een ‘one-size-fits-all’-CPU in een datacenter dat allesbehalve uniform is. AMD EPYC biedt de prestaties, keuzevrijheid en ondersteuning van het ecosysteem die nodig zijn om AI van antwoorden naar actie te brengen en voor te bereiden op wat er nog komen gaat.

Vernieuwingen van de AMD Epyc 9006

De nieuwe Epyc-generatie met Zen 6-architectuur introduceert nieuwe sockets, SP7 en SP8, en daarmee ook nieuwe moederborden, waarbij SP7 tot 600 watt levert. De AMD Epyc 9006-serie heeft tot maximaal 256 kernen. Dankzij Simultaneous Multithreading, dat bij alle Epyc 9006-modellen actief is, ziet het besturingssysteem dan tot 512 threads.

De belangrijkste andere wijzigingen hebben betrekking op het geheugen en de kloksnelheden. De SP7-versie ondersteunt 16 DDR5-geheugenkanalen met elk een geheugenmodule (1 DIMM per kanaal, 1 DPC). Deze kunnen draaien met een snelheid van DDR5-8000 of, als MRDIMM’s, zelfs met 12.800 megatransfers per seconde. Deze MRDIMM’s werden aanvankelijk ook wel MCR-DIMM’s genoemd.

In totaal leveren de maximaal 1,6 TByte/s (per versie) iets meer dan 2,5 keer de overdrachtssnelheid op ten opzichte van de Epyc 9005. Dit zal de prestaties bij agent-gebaseerde AI een impuls geven; AMD spreekt van tot wel 80 procent meer tokens per seconde bij Epyc-9006-modellen ten opzichte van de vorige generatie.

De tweede verbetering betreft de kloksnelheden. De Zen 6-kernen halen nu tot 5,3 GHz en daarmee ongeveer 6 procent meer dan de voorgangers met 5,0 GHz – tussentijds had AMD ze op ‘slechts’ 5,15 GHz ingeschat. De klokfrequentie-optimalisatie wordt echter nog duidelijker bij Zen 6c: deze halen nu met tot 4,1 GHz ongeveer 11 procent meer dan hun voorgangers.

Voor het aansluiten van versnellers of netwerkkaarten beschikken de AMD Epyc 9006-processors nu over zesde generatie PCI-Express-controllers (PCIe 6.0). Per datalijnen-paar zijn deze twee keer zo snel als hun voorgangers. In SP7-systemen zijn met één socket 96 en met twee sockets 128 PCIe-lanes beschikbaar. De kleinere SP8-versie overtreft dit nog met respectievelijk 128 en 192 lanes. Ook uitbreidingen via CXL 3.1 kunnen op de Epyc 9006 worden aangesloten.

Zen 6 en Zen 6c

AMD heeft het gebruik van chiplets in zijn server-CPU’s verder uitgebreid. Terwijl de Epyc 9005 nog bestond uit één I/O-chiplet (I/O-die, IOD) en maximaal 16 compute-chiplets (CCD’s), splitst AMD nu ook de I/O-dies op, zodat zowel SP7- als SP8-pakketten twee I/O-chiplets hebben.

AMD fabriceert de IOD’s in het beproefde 6-nanometerproces bij TSMC, terwijl het bedrijf voor de CCD’s gebruikmaakt van het ultramoderne 2-nanometerproces. Hierdoor is het ook mogelijk om in één CCD tot wel 32 Zen-6c-kernen inclusief 128 MB L3-cache te verwerken (CCD32).

Voor de versies met een hoge kloksnelheid, zoals die bijvoorbeeld belangrijk is bij AI-inferentieservers met versnellingskaarten, heeft AMD de Zen-6-kernen zonder ‘c’ in petto: twaalf daarvan delen één CCD (CCD12). In tegenstelling tot eerdere generaties heeft AMD voor beide dezelfde 4 MB L3-cache per kern voorzien.

Twee sockets, één generatie

Met de 6e generatie AMD EPYC-server-CPU’s introduceert AMD de mogelijkheid om met twee sockets te werken, om zo tegemoet te komen aan de uiteenlopende workloads van het moderne datacenter. De grotere SP7-socket levert toonaangevende prestaties voor het tijdperk van agentische AI, met toonaangevende geheugenbandbreedte en PCIe Gen 6-connectiviteit, terwijl de SP8-socket efficiënte scale-out-prestaties biedt wanneer dichtheid het doel is. Beide sockets kunnen worden uitgerust met de krachtige Zen6-kernen of de dichtheidsgerichte Zen6c-kernen van AMD, zodat ze in elke implementatie passen.

Toonaangevende prestaties met SP7

Met tot 256 kernen en 512 threads per socket bieden AMD EPYC 9006-server-CPU’s de dichtheid om meer virtuele machines en AI-diensten per rack te draaien en tegelijkertijd de totale TCO te verlagen. PCIe Gen 6-connectiviteit en ondersteuning voor 16-kanaals DDR5 bieden de doorvoer die nodig is om knelpunten in netwerken en bandbreedte weg te nemen.

Deze functies maken de SP7 tot de ideale processor voor AI, HPC, hyperscale-cloud en 5G-core-implementaties in de telecomsector, waar prestaties per kern en hoge doorvoersnelheid het belangrijkst zijn. Voor AI-agents die meerdere workloads gelijktijdig moeten uitvoeren en tegelijkertijd het GPU-gebruik moeten maximaliseren, biedt de SP7 de rekenbasis om op te schalen.

Dankzij de rekenkrachtdichtheid van de SP7 kan GIGABYTE rack-systemen ontwerpen die in één enkel vloeistofgekoeld rack meer dan 40.000 CPU-kernen ondersteunen. Dit biedt agentische AI-workloads de basis om meerdere gelijktijdige workflows uit te voeren, door GPU’s aangestuurde pipelines te orkestreren en AI-implementaties op enterprise-niveau te schalen zonder dat er knelpunten in de rekenkracht optreden. Naarmate autonome agents steeds complexere, uit meerdere stappen bestaande doelstellingen op zich nemen, wordt een robuuste CPU-infrastructuur essentieel om hun volledige potentieel te benutten.

‘Scale out’-efficiëntie met SP8

SP8 hanteert een andere aanpak en biedt efficiënte rekenkracht voor virtualisatie, databases en edge-implementaties, waar efficiëntie en consistentie het belangrijkst zijn. Met een kleinere voetafdruk dan voorganger AMD EPYC 9005-CPU’s en betere prestaties per watt, is de AMD EPYC 9006-processor met SP8-socket de perfecte keuze voor omgevingen met beperkte stroomvoorziening en ruimte.

Ondanks het compacte platform biedt SP8 128 PCIe Gen 6-lanes en ondersteuning voor 2DPC-geheugen, waardoor de I/O- en geheugenflexibiliteit wordt geboden die enterprise-workloads vereisen, terwijl de prestaties per euro aan systeemkosten worden gemaximaliseerd.

Platformondersteuning voor AMD EPYC 9006

Zowel voor SP7 als SP8 biedt Giga Computing een uitgebreid serverportfolio dat elke socket koppelt aan de workloads waarvoor deze is ontworpen, variërend van rack-, blade-, GPU- en edge-systemen. Voor de SP7-socket zijn er verschillende opmerkelijke toevoegingen gedaan aan het GIGABYTE-assortiment.

De nieuwe R165-DG2-CS1 is een rackserver met één socket die gebruikmaakt van vloeistofkoeling met gesloten kringloop om de maximale 256-core-configuratie van SP7 op maximaal vermogen te ondersteunen binnen een compacte 1U-behuizing.

De B685-D80-LS1 is een 6U-bladeserver met tien nodes en directe vloeistofkoeling, speciaal gebouwd voor HPC-implementaties met hoge dichtheid.

0

Praat mee

Abonneer
Laat het mij weten wanneer er
0 Reacties
oudste
nieuwste

Inspiratie in je mailbox

Blijf bij op IT-gebied en verbreed je expertise. Ontvang elke week artikelen over de laatste tech-ontwikkelingen, toepassingen, nieuwe hard- en software én ontvang tips en aanbiedingen.

Loginmenu afsluiten