Het bouwen en beheren van groot­scha­lige AI-infra­struc­turen wordt steeds complexer. NVIDIA intro­du­ceert daarom een aanpak waarbij digital twins en AI-agents samen­werken om wijzi­gingen in AI-datacen­ters te testen voordat ze daadwer­ke­lijk worden doorge­voerd. Daarmee moeten organi­sa­ties niet alleen sneller nieuwe infra­struc­tuur kunnen imple­men­teren, maar ook de risico’s van confi­gu­ra­tie­fouten, bevei­li­gings­pro­blemen en versto­ringen beperken.

Een modern AI-datacenter, door NVIDIA doorgaans aange­duid als een AI factory, bestaat uit veel meer dan een verza­me­ling krach­tige GPU-servers. Proces­soren, netwerk­com­po­nenten, opslag­voor­zie­ningen, bevei­li­gings­sys­temen en software voor het verdelen van reken­werk moeten nauwkeurig op elkaar worden afgestemd. Een wijzi­ging in één onder­deel kan gevolgen hebben voor de presta­ties of beschik­baar­heid van de complete omgeving.

Dat maakt het testen van nieuwe confi­gu­ra­ties ingewik­keld. Tradi­ti­o­neel gebeurt dit vaak pas wanneer de fysieke infra­struc­tuur beschik­baar is of in een afzon­der­lijke testom­ge­ving. Dat kost tijd en vraagt om extra hardware. Boven­dien is het lastig om alle mogelijke inter­ac­ties tussen de verschil­lende compo­nenten vooraf te onderzoeken.

NVIDIA beschrijft in een nieuwe techni­sche publi­catie hoe digital twins en AI-agents dit proces kunnen veran­deren. Het uitgangs­punt is dat beheer­ders een repre­sen­ta­tieve digitale kopie van hun AI-infra­struc­tuur gebruiken om wijzi­gingen te onder­zoeken. AI-agents voeren vervol­gens zelfstandig controles uit, analy­seren de resul­taten en adviseren over eventuele vervolgstappen.

Digital twin als testomgeving

Centraal in de aanpak staat NVIDIA DSX Air, een simula­tie­om­ge­ving waarmee organi­sa­ties de infra­struc­tuur van een AI-datacenter digitaal kunnen nabootsen. Daarbij gaat het niet alleen om de fysieke opbouw van servers en netwerk­ver­bin­dingen, maar ook om de software, confi­gu­ra­ties en inter­faces waarmee de infra­struc­tuur wordt beheerd.

Zo kunnen beheer­ders bijvoor­beeld onder­zoeken wat er gebeurt wanneer netwerk­con­fi­gu­ra­ties worden aange­past, nieuwe software wordt geïnstal­leerd of bevei­li­gings­re­gels veran­deren. De digitale tweeling maakt het mogelijk om onder­steunde confi­gu­ra­ties te testen zonder direct in te grijpen in de produc­tie­om­ge­ving. Een belang­rijk voordeel is uiter­aard dat dit dan al kan voordat alle benodigde hardware daadwer­ke­lijk is geleverd. Organi­sa­ties kunnen daardoor eerder beginnen met het contro­leren van ontwerpen en het voorbe­reiden van de implementatie.

NVIDIA benadrukt overi­gens dat niet alle eigen­schappen van een AI-datacenter met dezelfde simula­tie­me­thode kunnen worden onder­zocht. Voor bijvoor­beeld energie­ver­bruik, geheu­gen­ca­pa­ci­teit en presta­ties zijn aanvul­lende modellen nodig. DSX Air richt zich vooral op het valideren van infra­struc­tuur­con­fi­gu­ra­ties, software-integra­ties en opera­ti­o­nele processen.

AI-agents voeren controles uit

De volgende stap is het koppelen van AI-agents aan de digitale tweeling. Deze agents krijgen speci­fieke opdrachten en kunnen vervol­gens zelfstandig de benodigde controles uitvoeren. Stel bijvoor­beeld dat een beheerder een wijzi­ging wil aanbrengen in de netwerk­con­fi­gu­ratie van een AI-cluster. Een AI-agent kan de voorge­stelde confi­gu­ratie in de digitale tweeling toepassen en onder­zoeken of de wijzi­ging voldoet aan de techni­sche en bevei­li­gings­eisen van de organisatie.

Daarbij kan de agent infor­matie ophalen uit techni­sche documen­tatie, interne proce­dures en bevei­li­gings­richt­lijnen. Vervol­gens verge­lijkt hij de resul­taten met de vooraf vastge­stelde eisen. Wanneer afwij­kingen worden gevonden, kan de agent een rapport opstellen of een wijzi­gings­ver­zoek aanmaken.

De aanpak sluit aan op bestaande CI/CD-processen, waarbij software- en confi­gu­ra­tie­wij­zi­gingen via geauto­ma­ti­seerde controles worden voorbe­reid op ingebruik­name. Het is overi­gens niet de bedoe­ling dat AI-agents onbeperkte toegang krijgen tot produc­tie­om­ge­vingen. NVIDIA voorziet in een werkwijze waarbij agents binnen de simula­tie­om­ge­ving experi­men­teren, terwijl beleids­re­gels en mense­lijke goedkeu­ring bepalen welke wijzi­gingen daadwer­ke­lijk mogen worden uitgevoerd.

Extra GPU-capaciteit voor AI-agents

Om de AI-agents en bijbe­ho­rende AI-toepas­singen te laten functi­o­neren, koppelt NVIDIA DSX Air aan NVIDIA Brev. Deze dienst biedt GPU-reken­kracht op aanvraag. Hierdoor kunnen organi­sa­ties AI-modellen laten draaien die commu­ni­ceren met de gesimu­leerde infra­struc­tuur. De modellen hoeven dus niet op de gesimu­leerde hardware zelf te worden uitge­voerd. De digitale tweeling bootst de infra­struc­tuur en relevante software-inter­ac­ties na, terwijl de benodigde AI-bereke­ningen op afzon­der­lijke GPU-systemen plaatsvinden.

NVIDIA ziet de digitale tweeling niet uitslui­tend als hulpmiddel tijdens de ontwerp­fase. Het bedrijf wil dezelfde omgeving gedurende de volle­dige levens­cy­clus van een AI-datacenter gebruiken.

Tijdens de ontwerp­fase kunnen agents alter­na­tieve confi­gu­ra­ties onder­zoeken. Bij de imple­men­tatie contro­leren ze of de infra­struc­tuur aan de gestelde eisen voldoet. Zodra het datacenter opera­ti­o­neel is, kunnen agents afwij­kingen signa­leren, confi­gu­ra­tie­wij­zi­gingen voorbe­reiden en mogelijke verbe­te­ringen voorstellen.

Daarmee ontstaat een terug­kop­pe­ling tussen de werke­lijke infra­struc­tuur en de digitale testom­ge­ving. Infor­matie over incidenten en uitge­voerde wijzi­gingen kan worden gebruikt om toekom­stige controles te verbeteren.

Dit biedt ook mogelijk­heden voor bevei­li­ging. Nieuwe bevei­li­gings­re­gels of aanpas­singen in toegangs­rechten kunnen bijvoor­beeld eerst in de digitale tweeling worden gecon­tro­leerd. Daarmee wordt het risico kleiner dat een wijzi­ging onbedoeld bestaande toepas­singen verstoort.

Simulatie blijft afhankelijk van de werkelijkheid

De aanpak kent ook beper­kingen. Een digitale tweeling is immers alleen bruik­baar wanneer deze voldoende overeen­komt met de werke­lijke infra­struc­tuur. Verou­derde confi­gu­ra­tie­ge­ge­vens of ontbre­kende afhan­ke­lijk­heden kunnen ertoe leiden dat een simulatie een onjuist beeld geeft.

Daarnaast betekent een geslaagde test niet automa­tisch dat een wijzi­ging in de produc­tie­om­ge­ving probleem­loos zal verlopen. Vooral presta­ties, energie­ver­bruik en gedrag onder extreme belas­ting vragen om aanvul­lende metingen en gespe­ci­a­li­seerde modellen.

Ook de betrouw­baar­heid van AI-agents blijft een aandachts­punt. Daarom zijn duide­lijke bevoegd­heden, contro­leer­bare resul­taten en mense­lijke goedkeu­rings­pro­ce­dures noodzakelijk.

NVIDIA adviseert organi­sa­ties dan ook om klein te beginnen, bijvoor­beeld met één terug­ke­rende controle van confi­gu­ra­tie­wij­zi­gingen. Pas wanneer deze werkwijze voldoende betrouw­baar blijkt, kan het aantal geauto­ma­ti­seerde processen worden uitgebreid.

De ontwik­ke­ling laat zien hoe de rol van digitale tweelingen veran­dert. Waar ze aanvan­ke­lijk vooral werden gebruikt om ontwerpen te visua­li­seren en scenario’s door te rekenen, worden ze stapje voor stapje onder­deel van het dagelijkse beheer. Door AI-agents hieraan te koppelen, ontstaat een omgeving waarin systemen niet alleen worden gesimu­leerd, maar waarin ook actief wijzi­gingen worden onder­zocht en voorbereid.

Voor beheer­ders van AI-infra­struc­turen kan dat uitein­de­lijk betekenen dat een belang­rijk deel van het testen en contro­leren verschuift van de fysieke produc­tie­om­ge­ving naar een digitale omgeving. Of dit in de praktijk ook leidt tot de verwachte tijdwinst en hogere betrouw­baar­heid, zal afhangen van de kwali­teit van de simula­ties en de mate waarin de AI-agents betrouw­baar kunnen worden ingezet.