CyberArk stelt FuzzyAI beschik­baar, een open-source frame­work dat jailbreaks heeft uitge­voerd op alle belang­rijke AI-modellen en organi­sa­ties helpt bij het identi­fi­ceren en aanpakken van kwets­baar­heden van die modellen. De makers deden onder­zoek naar onder andere het omzeilen van security-buffers en het genereren van schade­lijke uitvoer in cloud-hosted en in-house AI-modellen. FuzzyAI herkent deze kwets­baar­heden en kan gebrui­kers waarschuwen. 

De tool biedt organi­sa­ties een syste­ma­ti­sche aanpak voor het testen van AI-modellen tegen verschil­lende kwaad­aar­dige inputs, het bloot­leggen van poten­tiële zwakke punten in hun bevei­li­gings­sys­temen en het veiliger maken van AI-ontwik­ke­ling en ‑imple­men­tatie. De kern van FuzzyAI is een krach­tige ‘fuzzer’ – een tool die softwa­re­fouten en kwets­baar­heden bloot­legt. Deze fuzzer doet dat via meer dan tien verschil­lende aanvals­tech­nieken, van het omzeilen van ethische filters tot verborgen systeemprompts. 

Met FuzzyAI kunnen organi­sa­ties en onder­zoe­kers ook hun eigen aanvals­me­thoden toevoegen om testen op maat te maken voor domein­spe­ci­fieke kwets­baar­heden. Boven­dien kunnen ervaringen worden gedeeld binnen een commu­nity, zodat continue vooruit­gang en kennis­uit­wis­se­ling op het gebied van aanvals­tech­nieken en verde­di­gings­me­cha­nismen plaatsvindt. 

“De lance­ring van FuzzyAI is een volgende stap in onze strategie voor AI-security en helpt organi­sa­ties een belang­rijke stap voorwaarts te zetten in het aanpakken van de bevei­li­gings­pro­blemen die inherent zijn aan het zich ontwik­ke­lende landschap van het gebruik van AI-modellen”, zegt Peretz Regev, Chief Product Officer bij CyberArk. “FuzzyAI is ontwik­keld door CyberArk Labs en heeft aange­toond dat het in staat is om elk belang­rijk getest AI-model te jailbreaken. FuzzyAI stelt organi­sa­ties en onder­zoe­kers in staat om zwakke plekken te identi­fi­ceren en hun AI-systemen actief te versterken tegen opkomende bedreigingen.” 

Beschikbaarheid FuzzyAI

Het volledig uitbreid­bare frame­work van FuzzyAI is per direct beschik­baar als open-source software op de GitHub-pagina van CyberArk Labs.