Hetzner GEX44 GPU-server review: hoeveel AI krijg je voor 278 euro p/m?

Zelf gehoste AI-modellen kunnen een alternatief zijn voor modellen waarvoor je per token betaalt. Maar juist nu vrij beschikbare modellen steeds beter worden, wordt ook de benodigde hardware steeds duurder. Wie nu niet wil kopen, kan ook een server met een krachtige GPU huren. We onderzochten aan de hand van de GEX44 van Hetzner of dat de moeite waard is.

Video-RAM, video-RAM en nog eens video-RAM: dat is het belangrijkste ingrediënt voor een server waarop je grote taalmodellen (LLM’s) wilt draaien. Alleen als de modellen volledig in het snelle geheugen van de grafische kaart (VRAM) passen, kunnen ze snel antwoorden.

Maar wie er nu over denkt om LLM’s zelf te hosten om aan de grote AI-aanbieders te ontkomen, wordt geconfronteerd met extreem hoge prijzen voor grafische kaarten met veel geheugen.

Dat komt mede doordat juist die grote AI-aanbieders de markt leegkopen. Gehuurde servers bij kleinere hosters met een krachtige GPU vormen een alternatief waarmee je de hoge initiële investering kunt vermijden.

Zo heeft bijvoorbeeld de Duitse hoster Hetzner verschillende servers met een krachtige GPU in het assortiment. Een van de goedkopere opties op het moment van testen was de GEX44. Voor 278 euro per maand krijg je daar een Nvidia RTX 4000 SFF Ada Generation bij, met 20 GB VRAM en 64 GB RAM. Met die prijs en uitrusting is de server gericht op bedrijven die lokale AI willen uitproberen.

We hebben de server een maand lang intensief gebruikt en daarop een containeropstelling met Open WebUI en Ollama gedraaid. Met die combinatie kan een klein team via een comfortabele webinterface gezamenlijk open-weight- en opensourcemodellen gebruiken.

In de installatiedialoog kozen we voor deze test Ubuntu Server 24.04 LTS. Ook de Linux-distributies AlmaLinux, CentOS, Debian en Rocky Linux waren beschikbaar. Als je GPU-intensieve Windows-software op de server wil draaien, moet je maandelijks 58 euro betalen voor een licentie van Windows Server 2025 Standard. De GEX44 draaide in het datacenter van Hetzner in Falkenstein (Duitsland).

Na de bestelling moet je enig geduld hebben: de opdracht wordt eerst gecontroleerd. Onze testserver was na enkele uren klaar voor gebruik. Onder Linux word je vervolgens begroet door een kale SSH-sessie. Hoe je de benodigde Nvidia-drivers en andere componenten installeert om AI-modellen te draaien, hebben we uitgebreid beschreven in onze handleiding voor Open WebUI en Ollama [1].

De centrale vraag, los van de concrete toepassing, is of het huren van een server loont in vergelijking met de aanschaf van eigen hardware. Daarvoor moeten we naar de aanschaf- en gebruikskosten kijken.

De grafische kaart, een RTX 4000 SFF Ada Generation, kost ongeveer 1600 euro in aanschaf, inclusief btw. Het gaat om volwaardige server- of workstationhardware en niet om een omgebouwde gamingkaart. De overige uitrusting van onze testserver hebben we met het Linux-hulpprogramma dmidecode uitgelezen.

De ingebouwde Intel Core i5-13500, die sinds 2023 op de markt is, kost in aanschaf iets minder dan 300 euro. Hij heeft zes performance- en acht efficiency-cores, die tijdens onze tests met Ollama nauwelijks werden belast. Terwijl de grafische kaart stevig aan het werk moest, had de CPU weinig te doen.

Het Prime B760M-A D4-moederbord kost momenteel ongeveer 130 euro en is geen uitgesproken server- of workstationhardware. De twee RAM-modules van 32 GB (DDR4 zonder ECC, Samsung M378A4G43AB2-CWE), kosten samen 360 euro. Ook het RAM hebben we bewust niet zwaar belast: we kozen AI-modellen die inclusief key-value-store volledig in het VRAM van de GPU passen. Zogeheten offloading naar het RAM maakt de antwoorden traag.

Duur zijn momenteel vooral de twee ingebouwde NVMe-SSD’s van Micron met elk 1,92 TB. Hetzner heeft hier hoog in het schap gegrepen: het zijn datacenter-SSD’s van het type Micron 7500 Pro, die samen in de winkel maar liefst 3000 euro kosten – bijna twee keer zoveel als de grafische kaart.

Alles bij elkaar bevat de GEX44 componenten ter waarde van ongeveer 5400 euro. Met behuizing en voeding kun je voor de verdere berekeningen uitgaan van circa 6000 euro aanschafkosten.

Als je wilt afwegen of kopen goedkoper is dan huren, moet je daar de huurkosten bij Hetzner tegenover zetten: de server kost 278 euro per maand inclusief btw (45 cent per uur), plus eenmalig 135 euro installatiekosten. Omgerekend betekent dat dat je na iets minder dan 21 maanden continu gebruik ongeveer evenveel aan Hetzner hebt betaald als de aanschafprijs van de hardware.

In principe kun je de server op elk moment opzeggen, ook midden in de maand. Je betaalt dan alleen voor de uren waarin hij actief was. Door de installatiekosten bespaar je echter nauwelijks geld door de installatie van een LLM-server volledig met een script te automatiseren, hem bijvoorbeeld na werktijd te verwijderen en iedere ochtend opnieuw in te richten.

In deze kostenberekening ontbreken tot nu toe de gebruikskosten. Bij de server krijg je enerzijds een 1Gbit/s-verbinding zonder datalimiet en tijdens de looptijd ook een IPv4-adres waarmee je de server via internet kunt bereiken. Een snelle internetverbinding is prettig als je verschillende taalmodellen wilt downloaden om ze te testen.

In het geheugen van de grafische kaart past 20 GB, dus geschikte modellen zitten ongeveer in die orde van grootte. Een verbinding van 10 Gbit/s of 2,5 Gbit/s had de server niet misstaan en technisch is ook meer mogelijk: het ingebouwde moederbord heeft 2,5Gbit/s-ethernet, maar die capaciteit wordt niet volledig benut.

Een grote kostenpost bij het gebruik is energie. Volgens het gegevensblad verbruikt de GEX44 in idle 33 watt en maximaal 187 watt. Alleen de grafische kaart kan maximaal 70 watt opnemen; dat staat in het gegevensblad en konden we onder belasting ook meten met nvitop.

Als je de machine continu volledig belast, kan hij per maand tot 135 kWh energie verbruiken. Bij 30 cent per kilowattuur komt dat neer op maximaal 40 euro. In een datacenter komen daar nog kosten bij om de warmte af te voeren. Als je rekening houdt met gebruikskosten van iets minder dan 50 euro per maand, verschuift het omslagpunt waarop kopen goedkoper wordt dan huren bij Hetzner: vanaf ongeveer 26 maanden continu gebruik ben je met aanschaf goedkoper uit, zonder rekening te houden met kapitaalkosten.

De huurprijs die Hetzner rekent, is zakelijk goed te verklaren en het aanbod is interessant voor bedrijven die willen kennismaken met zelf gehoste AI. Hoe redelijk Hetzner de prijs heeft berekend, blijkt uit een vergelijking met de concurrentie: clouddienstverlener Akamai heeft bijvoorbeeld een grotendeels vergelijkbare server in Europa met dezelfde RTX 4000 Ada Generation en 64 GB RAM. Omgerekend en inclusief btw kost die server meer dan 720 euro per maand.

De hardwarekeuze van de GEX44 is voor AI-gebruik om twee redenen echter niet ideaal. Om te beginnen is er de RTX 4000 met 20 GB video-RAM. Toen Hetzner deze server in 2024 op de markt bracht, was dat een goede keuze en in onze test leverde de kaart snelle antwoorden met krachtige modellen: Qwen 3.6 met 27 miljard parameters haalde in de quantisatie Q4_K_M 18 tokens per seconde. Het snelste model in de test was Gemma 4 van Google in de E4B-variant, met 65 tokens per seconde.

Veel open modellen, of nauwkeuriger gezegd de gequantiseerde varianten daarvan, zijn tegenwoordig echter afgestemd op 24 GB geheugen, omdat dat een gangbare capaciteit is voor gaming-GPU’s.

Bij quantisatie worden de gewichten van het neurale netwerk in minder nauwkeurige variabelen opgeslagen, zodat de modellen in betaalbaar geheugen passen [2]. De nieuwere GEX45 (zie verderop) heeft wel een GPU met 24 GB VRAM.

Financieel vervelender is de tweede keuze van de hoster: de twee datacenter-SSD’s van elk 1,92 TB vormen de grootste kostenpost. Ze drijven de huurprijs omhoog en helaas kun je bij de bestelling geen kleinere opslag configureren. De twee schijven zijn als RAID1 geconfigureerd, zodat de gegevens worden gespiegeld en er dus 1,92 TB bruikbare ruimte beschikbaar is.

In ons testscenario, waarin je een handvol modellen downloadt die elk iets kleiner zijn dan 20 GB, blijven die dure schijven behoorlijk leeg. Ook dat is bij de GEX45 beter gekozen met twee 512GB-SSD’s.

De GEX44 lijkt ondertussen overigens niet meer beschikbaar te zijn, maar de GEX45 biedt betere specificaties voor een vergelijkbare prijs. Die server heeft de nieuwere RTX PRO 4000 Blackwell SFF Edition, met een hogere AI-performance, voor iets minder dan 260 euro per maand als je hetzner.com bezoekt vanuit Nederland (inclusief Nederlandse btw).

De Blackwell-kaart is duurder, maar ook energie-efficiënter en de eenmalige installatiekosten voor de server zijn hoger: qua kosten blijft de vergelijking met eigen hardware grotendeels overeind. De GEX45 leek bij de configuratie alleen beschikbaar in Finland (wel EU): de lage energiekosten voor datacenters daar zal mede bijdragen aan de lagere huurprijs.

Een AI-server huren kan een interessante optie zijn voor bedrijven die hun eerste stappen met zelf gehoste AI willen zetten. Ze hoeven dan niet meteen fors te investeren in dure GPU-hardware, maar kunnen tegen overzichtelijke maandelijkse kosten ervaring opdoen met het draaien van eigen taalmodellen.

Met een combinatie van Ollama en Open WebUI is bovendien relatief eenvoudig een omgeving op te zetten waarin meerdere medewerkers gezamenlijk AI-modellen kunnen gebruiken. Daarbij blijven de mogelijkheden wel afhankelijk van de hoeveelheid beschikbaar VRAM en de prestaties van de gehuurde GPU.

Literatuur

[1] Jan Mahn en Noud van Kruysbergen, LLM-server in eigen beheer, c’t 11/2026, p. 132

[2] Andrea Trinkwalder en Noud van Kruysbergen, Grote AI’s zonder high-end hardware, c’t 6/2025, p. 84