Een snelle PCIe 5.0-SSD: voordelen voor AI-workloads?

Bij snelle PCIe 5.0-SSD’s denk je misschien als eerste aan video-editing en gaming. Toch kan een snelle SSD, zoals de Samsung 9100 PRO, ook voordelen bieden bij specifieke AI-workloads. Denk aan het laden van grote taalmodellen, het verwerken van omvangrijke datasets en het opslaan van trainingsresultaten.

Met de 9100 PRO introduceerde Samsung een PCIe 5.0-SSD die hoge overdrachtssnelheden combineert met opslagcapaciteiten van 1 tot en met 8 TB. De SSD is verkrijgbaar met of zonder geïntegreerde heatsink en haalt sequentiële leessnelheden tot 14.800 MB/s en schrijfsnelheden tot 13.400 MB/s. Een snelle SSD kan daarmee niet alleen handig zijn voor video-editing en gaming, maar ook bij AI-workloads waarbij veel data vanaf opslag moet worden gelezen of weggeschreven. De meerwaarde hangt wel af van de toepassing.

Elke nieuwe PCIe-generatie vergroot de hoeveelheid gegevens die via de interface kan worden overgedragen. PCIe 5.0 werkt met een snelheid tot 32 GT/s per lane en biedt ongeveer twee keer zoveel theoretische bandbreedte als PCIe 4.0. Een PCIe 5.0 x16-verbinding biedt ongeveer 64 GB/s aan theoretische bandbreedte per richting. Voor NVMe-SSD’s is vooral de PCIe x4-verbinding relevant: die biedt bij PCIe 5.0 ongeveer 16 GB/s aan theoretische bandbreedte per richting.

Een snelle PCIe 4.0-SSD haalt bijvoorbeeld circa 7000 tot 7500 MB/s, terwijl de Samsung 9100 PRO tot 14.800 MB/s haalt. Daarmee kan de SSD bij sequentieel lezen ongeveer twee keer zo snel zijn als een snelle PCIe 4.0-SSD. Mocht je op dit moment (nog) niet over een PCIe 5.0-slot beschikken: met de 9100 PRO haal je dan in ieder geval altijd het maximale uit de PCIe 4.0-aansluiting dankzij de backwards compatibility.

AI-workloads kunnen grote hoeveelheden data verwerken. Denk aan modelbestanden, trainingsdatasets, afbeeldingen, video’s en documenten. Die gegevens worden niet allemaal op dezelfde manier gebruikt: sommige worden eenmalig ingelezen, terwijl andere voortdurend vanaf opslag moeten worden aangeleverd.

Een snelle SSD kan vooral voordeel bieden wanneer opslag de beperkende factor is. Als de CPU of GPU op nieuwe data moet wachten, kan een hogere opslagdoorvoer die wachttijd verminderen. Dat betekent echter niet dat iedere AI-taak automatisch sneller wordt met een PCIe 5.0-SSD.

Modellen zoals Llama, Qwen en DeepSeek zijn verkrijgbaar in verschillende uitvoeringen en kunnen, afhankelijk van de grootte en kwantisering, tientallen tot honderden gigabytes aan opslagruimte innemen. De Samsung 9100 PRO haalt sequentiële leessnelheden tot 14.800 MB/s. Daardoor kunnen grote modelbestanden in gunstige omstandigheden sneller vanaf de SSD worden gelezen. Dat is vooral handig als je regelmatig wisselt tussen verschillende lokale taalmodellen of meerdere grote modellen beheert.

Het verschil is concreet te maken met een rekenvoorbeeld. Het sequentieel lezen van 100 GB aan data duurt theoretisch ongeveer 14 seconden bij 7 GB/s (gemiddelde PCIe 4.0-SSD) en circa 7 seconden bij 14,8 GB/s zoals bij de 9100 PRO. Werkelijke laadtijden zijn afhankelijk van onder meer de software, de modelindeling en de verdere verwerking van de gegevens.

Een snellere SSD verhoogt niet automatisch de generatiesnelheid van een LLM. Zodra het model volledig in VRAM staat, worden de prestaties vooral bepaald door de GPU, het beschikbare VRAM en de geheugenbandbreedte van de GPU.

Ook bij lokale AI voor beeld- en videogeneratie kan snelle opslag nuttig zijn. Denk aan workflows met Stable Diffusion, FLUX en ComfyUI, waarbij je verschillende checkpoints, LoRA’s, encoders en andere modelbestanden gebruikt. Een snelle SSD kan de tijd verkorten die nodig is om deze bestanden te laden. Bij complexe workflows met grote modellen of veel wisselende componenten kan dat de totale wachttijd verminderen.

De daadwerkelijke generatie wordt vooral bepaald door de GPU-rekenkracht en de beschikbare VRAM. Bij AI-videoanalyse kan snelle opslag helpen bij het lezen van grote videobestanden, het verwerken van beeldsequenties en het wegschrijven van tussenresultaten.

Bij het trainen of fine-tunen van modellen worden vaak grote datasets gebruikt. Denk aan miljoenen afbeeldingen, omvangrijke tekstcollecties of datasets voor het trainen van een lokaal taalmodel. Als de trainingsdata voortdurend vanaf opslag moeten worden ingelezen en de SSD daarbij de beperkende factor is, kan een snellere SSD voorkomen dat de GPU onnodig op data wacht. Vooral bij grote datasets en workflows met meerdere gelijktijdige leesbewerkingen kan dat voordeel opleveren. Ook het opslaan en terugzetten van grote trainingscheckpoints kan profiteren van hogere lees- en schrijfsnelheden.

Snelle opslag kan ook een rol spelen bij lokale AI-kennisbanken op basis van retrieval-augmented generation (RAG). Daarbij worden documenten, handleidingen en andere bestanden geïndexeerd, zodat een lokaal taalmodel relevante informatie kan terugvinden.

Bij grote documentcollecties kan snelle opslag helpen bij het inlezen van bestanden, het beheren van indexen en het verwerken van grote aantallen documenten.

Hetzelfde geldt voor AI-agents die grote codebases doorzoeken en duizenden broncodebestanden indexeren. Hierbij spelen niet alleen sequentiële snelheden een rol, maar ook de prestaties bij veel kleine lees- en schrijfbewerkingen. De uiteindelijke snelheid hangt daarnaast af van de database, de gebruikte software en de hoeveelheid data die in het systeemgeheugen past.

Investeren in een snelle PCIe 5.0-SSD zoals de Samsung 9100 PRO kan bij specifieke lokale AI-workloads voordelen bieden. Vooral het laden van grote taalmodellen, het verwerken van omvangrijke datasets, het beheren van AI-kennisbanken en het opslaan van trainings-checkpoints kunnen van de 9100 PRO profiteren.