Horizon3 kondigt het Adversarial Intelligence Frontier Lab aan. Dit lab ontwikkelt closed-loop systems die bewijsmateriaal uit aanvalsdata van NodeZero benutten om echte aanvalspaden razendsnel te vinden en te dichten. Terwijl de meeste AI-security zich richt op sensortelemetrie of het testen tegen digitale tweelingen, begint Horizon3’s Adversarial Intelligence Frontier Lab met geverifieerde, end-to-end aanvalspaden die al succesvol zijn benut tegen live systemen. Het onderzoek zal zich richten op het veilig, observeerbaar en beheersbaar houden van aanvals- en verdedigingssystemen in productieomgevingen.
Onderzoeksleider
Dr. Z. Berkay Celik is de eerste directeur van het Adversarial Intelligence Research Lab. Hij is werkzaam als universitair hoofddocent (Associate Professor) informatica aan de Purdue University en ook mededirecteur van het Purdue Security Laboratory. Zijn onderzoek is gericht op de security van complexe software en systemen, met de nadruk op het opsporen van kwetsbaarheden, het analyseren van aanvallen en het ontwerpen en evalueren van verdedigingsmethoden voor autonome systemen en systemen met handelingsbekwaamheid (agentic systems). Hij heeft eerder al leiding gegeven aan diverse gezamenlijke onderzoeksprojecten in samenwerking met partners uit de academische wereld, het bedrijfsleven en de overheid.
Tot nu toe hebben onderzoekers van Horizon3 al verschillende artikelen gepubliceerd, waaronder:
- Honeyquest for LLMs: Rethinking Cyber Deception for AI Attackers
- Closing the Sim-to-Real Gap: An Evaluation Framework for Autonomous Cyber Defense Configuration of Commercial EDR
- Stable Agentic Control: Tool-Mediated LLM Architecture for Autonomous Cyber Defense
Vier onderzoeksgebieden
Het Adversarial Intelligence Frontier Lab gaat in eerste instantie vier gebieden onderzoeken:
- Aanvallen met behulp van AI en vijandig gedrag: het gebruik van geavanceerde modellen om de ontdekking van kwetsbaarheden te versnellen en het bestuderen van aanvalstools, ‑tactieken en gecoördineerde agentzwermen. Dit onderzoeksgebied richt zich op hoe deze bedreigingen functioneren, opschalen en reageren op misleiding, en wat verdedigers kunnen doen om ze te detecteren en te verstoren.
- Adaptieve verdediging en leercycli voor aanval en verdediging: onderzoeken hoe aanvallen met behulp van AI securitymaatregelen omzeilen en hoe gecoördineerde offensieve en defensieve agenten de cyclus van hacken, repareren en verifiëren kunnen versnellen. Dit is gericht op adaptieve misleiding en manieren om bevindingen veilig te delen tussen diverse omgevingen om de verdediging te verbeteren, het bereik van aanvallers te beperken en de blootstelling te verkorten.
- Veilige, beheersbare en meetbare autonomie: ontwikkeling van architecturen en rigoureuze evaluatiemethoden voor autonome agents, gebaseerd op in de praktijk verzamelde data van NodeZero. Dit is gericht op scopebeperkingen, methoden voor verstoring en herstel en herhaalbare metingen van de effectiviteit van agents, defensieve resultaten en veiligheid.
- Cyberweerbaarheid en operationele paraatheid: onderzoek naar hoe AI de bescherming van kritieke infrastructuur en de uitvoering van aanval- en verdedigingsoperaties verandert, inclusief de coördinatie tussen operationele domeinen. Tevens wordt er gekeken naar de vaardigheden, opleiding en training die nodig zijn voor toekomstige cybermedewerkers.
Het Adversarial Intelligence Frontier Lab zal ook de training van klantspecifieke cyber world models versnellen. Deze vormen de basis voor de gedeelde context en het langetermijngeheugen van red agents en blue agents, waardoor ze effectiever kunnen coördineren en redeneren tijdens aanvals- en verdedigingscycli.
Unieke trainingsdata uit echte productiesystemen
De meer dan 7.000 klanten van Horizon3, variërend van grote banken en overheidsinstanties tot productiebedrijven en lokale ziekenhuizen, vormen de fundering voor het onderzoek van het lab. Deze organisaties genereren gelabelde trainingsdata van honderdduizenden NodeZero-tests die veilig zijn uitgevoerd op echte productiesystemen.
Horizon3 schat dat het dagelijks 30 miljard tokens aan geanonimiseerde, geaggregeerde en zorgvuldig gelabelde trainingsdata over aanvallen en verdediging verzamelt. Deze data bevat elke uitgevoerde aanval, ongeacht of die slaagde of faalde, reacties van verdedigingsmiddelen daarop en de context van hoe services achter de firewall zijn geconfigureerd. In tegenstelling tot datasets afgeleid van sensortelemetrie, synthetische omgevingen of digital twins, levert dit een gedetailleerd overzicht op van daadwerkelijke interacties tussen aanvaller en verdediger in live omgevingen. De combinatie van schaalgrootte, diversiteit, volume en context op basis van echte data, biedt het lab een unieke basis voor het uitvoeren van grensverleggend onderzoek naar closed-loop systems voor zowel offensieve als defensieve AI.
“We hebben jarenlang de aanvals- en verdedigingsdata verzameld die nodig is voor het onderzoek naar deze systemen”, zegt Snehal Antani, CEO en medeoprichter van Horizon3. “Daarom is onze volgende stap de geverifieerde bewijzen van aanvalspaden te gebruiken om de samenwerking tussen offensieve en defensieve agenten te verbeteren in omgevingen die er echt toe doen.”
Veerkracht van kritieke infrastructuur
Het Adversarial Intelligence Frontier Lab zal toezien op de Cyber Resilience Centers of Excellence van Horizon3, die zich richten op kritieke infrastructuur. Deze centra vertalen de onderzoeken van het lab naar praktische vorderingen die de veerkracht van essentiële systemen in cruciale markten versterkt. Hierbij wordt in de praktijk gevalideerde informatie over aanvalspaden en klantspecifieke cybermodellen gebruikt, toegepast binnen omgevingen waar een storing of inbraak nationale of economische gevolgen kan hebben. Lees meer over het Adversarial Intelligence Frontier Lab van Horizon3 en het onderzoek naar offensieve en defensieve AI op: https://horizon3.ai/labs/
0 Reacties