AI- en workstationkaart Asrock Arc Pro B70 Creator

Dat de Arc Pro B70 überhaupt bestaat, is ruim 18 maanden na de marktintroductie van de eerste Battlemage-kaarten een aangename verrassing. In het kader van de nieuwste Panther Lake-processorgeneratie is er al een nieuwere grafische chip­architectuur geïntroduceerd, voorlopig echter alleen als geïntegreerde GPU van de Core Ultra 300 en niet voor grafische kaarten. Het was daarom dus zomaar mogelijk geweest dat Intel de BMG-G31, die in de Arc Pro B70 gebruikt wordt, helemaal niet meer op de markt had gebracht.

De BMG-G31 beschikt over 4096 ­shader-rekenunits. Intel verdeelt die in 32 groepen, de zogenaamde Xe-cores, die qua hiërarchie ongeveer vergelijkbaar zijn met de shader-multiprocessors van Nvidia en de Compute Units van AMD.

De kleinere BMG-G21 had maximaal 20 van dergelijke eenheden, dus daar is sprake van een toename van 60 procent.

Rekenkundig en in de praktijk levert de chip van de Arc Pro B70 dankzij een boostkloksnelheid van 2,8 GHz een FP32-doorvoer op van 22,9 miljard bewerkingen per seconde (TFlops). Dat is in de praktijk ongeveer evenveel als de Nvidia RTX Pro 2000 Blackwell en net iets minder dan een RTX 5060 Ti en een Radeon RX 9060 XT.

Bij berekeningen met dubbele precisie (FP64) laat de BMG-G31 daarentegen zijn spierballen zien en haalt met zo’n 1,4 TFlops de prestaties van de veel duurdere RTX Pro 6000. FP64-precisie is echter alleen nodig bij bepaalde wetenschappelijke berekeningen, waardoor AMD en Nvidia hun consumenten- en workstationproducten steeds verder afslanken.

Op dit moment zijn de doorvoercijfers van de matrix-matrixvermenigvuldigingen spannender. Die vormen het hart van de AI-versnellingsunits – bij Nvidia Tensor Core genoemd, bij Intel XMX. Daar haalt de G31 een maximale doorvoer van 367 Tops met Int8-nauwkeurigheid bij bezette matrices.

De Intel-chip kan niet profiteren van dunbezette matrices, en evenmin van drijvende-kommanauwkeurigheden onder FP16/BF16. Op dat voor AI-toepassingen belangrijke gebied lopen de chips van AMD en Nvidia ver voorop.

De verbetering bij de geheugeninterface valt iets minder op dan bij de rekenkracht: Intel breidt uit van 192 naar 256 parallelle lijnen, wat neerkomt op slechts een derde meer. Dat zie je ook een op een terug in de mogelijke overdrachtssnelheid, die op 608 GB per seconde ligt.

Door de bredere geheugeninterface is met standaard geheugenchips al 16 in plaats van 12 GB grafisch geheugen mogelijk – op de Arc Pro B70 solderen de fabrikanten zelfs 32 GB. Overdrachten van en naar de grafische kaart verlopen via een compatibele PCIe 5.0-interface met 16 lijnparen, waarvan de schrijfsnelheid bij de test met 49,5 GB/s nog iets hoger lag dan de waarden die Radeon en GeForce doorgaans halen.

Om ervoor te zorgen dat de chip minder vaak op gegevens hoeft te wachten, buffert een 24 MB groot Level-2-cache de gegevenstoegangen. Net als Nvidia ziet Intel af van een L3-cache.

De moderne display-engine ondersteunt maximaal vier monitoren tegelijk, dankzij de DisplayPort 2.1-standaard zelfs allemaal met 144 hertz bij een niet gecomprimeerde datastroom.

Met een Display Stream Compression (DSC) zonder optisch kwaliteitsverlies zijn zelfs vier keer 240 hertz of vier 8K60-schermen mogelijk.

Slechts één van de vier DisplayPort-aansluitingen haalt 13,5 Gbit/s per lane (54 Gbit/s in totaal) en voldoet daarmee aan de UHBR13.5-variant van DP 2.1. Bij de andere aansluitingen is UHBR10 het maximum.

De video-engine is helemaal up-to-date. De twee eenheden ontlasten de processor bij het decoderen van alle gangbare formaten, van H.264 en VP9 tot het nieuwste AV1, en nemen desgewenst ook de codering in die codecs en in Sony’s XAVC-H-formaat voor hun rekening.

Asrock bouwt met de Creator een klassieke grafische kaart voor workstations die twee slots in beslag neemt en gekoeld wordt door een radiale ventilator. Ook de lengte van de kaart, die in een robuuste metalen behuizing is gehuld, ligt met iets minder dan 27 centimeter binnen de gebruikelijke afmetingen.

Asrock leidt de voedingsaansluiting echter naar de achterkant en aangezien het om een moderne, maar knikgevoelige ATX12V-2×6-stekker gaat, raadt de fabrikant aan om drie centimeter extra ruimte in te calculeren.

Zoals gebruikelijk bij workstations blijft de ventilator van de kaart in idle draaien en produceert daarbij een geluidsniveau dat precies op onze zelf­opgelegde meetgrens van 0,1 sone ligt. In idle is dat nog niet echt storend, maar dat wordt het wel als de kaart aan de slag gaat. Dan neemt het geluid van de ventilator toe tot meer dan 5 sone en vult hij in zijn eentje een hele kantoorruimte met geluid.

Bijzonder irritant is de onrustige regeling, die de chiptemperatuur te allen tijde op 70 graden Celsius probeert te houden en het toerental voortdurend daarbij aanpast. Daar zou men bij Asrock iets aan moeten doen en op zijn minst een betere hysterese programmeren voor een iets langere nalooptijd, zodat die constante toerentalveranderingen verdwijnen.

Asrock en Intel krijgen het idle energieverbruik niet goed onder controle. Ondanks het activeren van alle energiebesparingsaanbevelingen die Intel voor de Arc-kaarten voorschrijft, kwamen we met 4K-schermen niet onder de 20 watt.

Met meerdere schermen of in gemengd gebruik was het zelfs ongeveer het dubbele – dat kan veel beter!

Onder belasting produceerde de kaart soms een duidelijk hoorbaar gezoem (0,7 sone), dat niet alleen hoorbaar was bij gamescènes met honderden fps, maar ook bij AI-toepassingen met korte piekbelastingen.

Asrock gaat uit van een Thermal Design Power van 290 watt – 60 watt meer dan de richtlijn van Intel. We kwamen, inclusief transformatorverliezen op de printplaat, in totaal net iets onder dan 300 watt uit – wat nog binnen de perken valt. De piekbelastingen liepen in extreme gevallen echter op tot maar liefst 403 watt, maar duurden telkens slechts enkele milliseconden en hadden uiteindelijk geen meetbaar effect op de energierekening.

Ze vergen wel een bijzonder impulsbestendige ATX-voeding. Afhankelijk van de rest van je systeem raden voor het gebruik van de Asrock Arc Pro we een model van minimaal 700 watt van een bekende fabrikant aan.

Dankzij de 32 GB grafisch geheugen kan de Asrock Pro B70 Creator veel AI-modellen met een hoger aantal parameters of een betere nauwkeurigheid uitvoeren, zonder dat een deel van de berekeningen naar de trage CPU en het werkgeheugen moet worden verplaatst.

De AI-prestaties van de Arc Pro B70 Creator waren echter wisselend. Zolang Intels oneAPI-interface gebruikt werd, deed hij het goed en liet hij AMD’s Radeon AI Pro R9700 duidelijk achter zich.

Ook bij de MLPerf-benchmark liet hij twee kanten zien. De standaardrun via de GPU-interface ORT GenAI en via WindowsML leverde een rampzalig beeld op: de Arc Pro B70 was zelfs langzamer dan zijn eigen kleine gamingvariant, de Arc B580.

Met OpenVINO, of dat nu native was of via WindowsML, ging het een flink stuk beter en haalde hij ook daar de Radeon AI Pro R9700 in. Maar zelfs met OpenVINO bleef hij, vergeleken met CUDA, duidelijk achter bij de RTX 5080 van Nvidia – behalve wat betreft de veel snellere responstijden.

Bij workstationtoepassingen liet de kaart zich van zijn betere kant zien en liet hij Nvidia’s bijna 1000 euro kostende RTX Pro 2000 Blackwell achter zich, en zijn kleine gamingvarianten nog veel meer – die ook de certificeringen van de workstationdrivers voor professionele toepassingen missen.

De Arc Pro B70 had het echter moeilijk tegen AMD’s Radeon AI Pro R9700. In tegenstelling tot de Radeon kan hij echter  indien nodig gebruikmaken van extra foutcorrectiefuncties voor het grafische geheugen (ECC). Dat kost gemiddeld drie tot tien procent aan prestaties en in het ergste geval tot 22 procent (SPECviewperf 2020 v3.1 maya-06).

Ook het beschikbare grafische geheugen daalde met een achtste tot 28 GB omdat er geheugenruimtes moesten worden gereserveerd voor foutcorrectie. ECC blijft voor een klein aantal gebruikers  en specifieke toepassingsscenario’s echter een belangrijke functie.

Tijdens werkpauzes of na het werk is de Asrock Arc Pro B70 ook prima geschikt om games op te spelen. De benodigde functies en poorten zijn up-to-date en steeds meer games maken gebruik van Intels AI-gestuurde upscaler, genaamd XeSS.

Door zijn workstationachtergrond is de prijs-prestatieverhouding voor gamers – net als bij andere workstationkaarten – echter belabberd. Hij is gemiddeld zo’n 44 procent sneller dan de Arc B580 en bij WQHD-resolutie (2560 × 1440 pixels) ongeveer even snel als een Radeon RX 9060 XT 8 GB.

Hij kan niet tippen aan de GeForce RTX 5060 Ti, zolang die in de 8GB-versie niet zonder geheugen komt te zitten.

In het algemeen is de Arc Pro B70 voldoende voor de meeste games in WQHD op het hoogste detailniveau, maar in de Ultra HD-resolutie wordt het bij visueel rijke titels al behoorlijk krap met de framerate.

Dankzij de royale 32 GB aan geheugen is er in dat opzicht ook voor de nabije toekomst van games geen bottleneck, en dus zou de kaart, in tegenstelling tot bijvoorbeeld 8GB-modellen, ook toekomstige gametitels moeten aankunnen – ­desnoods met een iets lagere detailinstelling.

Voor zo’n 1200 euro zijn kaarten zoals de Asrock Pro B70 Creator de goedkoopste oplossing voor AI-gebruikers die minimaal 32 GB grafisch geheugen willen. AMD’s Radeon AI Pro R9700 kost minimaal 1400 euro, bij Nvidia begin je bij 3000 euro voor 32 GB.

De AI-prestaties van de Arc Pro B70 variëren echter sterk, afhankelijk van of je Intels OpenVINO met het model en framework kunt gebruiken. Als dat inderdaad het geval is, kan de kaart meer dan goed meekomen.

De Asrock levert solide prestaties, deels dankzij de hoge TDP, maar laat het afweten wat de ventilator betreft. Die trilt behoorlijk onder belasting en maakt het irritante geluid daardoor nog erger.

Je kunt de kaart het beste in een aparte ruimte in een workstation plaatsen. Daar kan hij dankzij zijn compacte ontwerp met radiale ventilator ook samen met meerdere exemplaren in één behuizing aan het werk.

(Carsten Spille en Noud van Kruysbergen)