Enkele van de grootste namen in kunst­ma­tige intel­li­gentie (AI), waaronder Google, OpenAI, Micro­soft, Amazon, Nvidia en Intel, hebben de oprich­ting aange­kon­digd van de Coali­tion for Secure AI (CoSAI) bekend­ge­maakt. Deze nieuwe coalitie heeft als doel om een gefrag­men­teerd landschap van AI-bevei­li­ging aan te pakken door middel van open source-metho­do­lo­gieën, frame­works en tools.

De impact die CoSAI zal hebben op de AI-industrie is nog onzeker, maar zorgen over het lekken van vertrou­we­lijke infor­matie en geauto­ma­ti­seerde discri­mi­natie zijn enkele voorbeelden van de vragen die spelen rondom de bevei­li­ging, privacy en veilig­heid van genera­tieve AI-technologie.

Andere bedrijven die zich bij CoSAI aansluiten, zijn onder meer IBM, PayPal, Cisco en Anthropic. CoSAI zal opereren binnen de Organi­za­tion for the Advan­ce­ment of Struc­tured Infor­ma­tion Standards (OASIS), een non-profit organi­satie die de ontwik­ke­ling van open standaarden bevor­dert. CoSAI zal zich in eerste instantie richten op drie doelen: het ontwik­kelen van best practices voor AI-bevei­li­ging, het aanpakken van uitda­gingen binnen AI, en het bevei­ligen van AI-toepassingen.

Heather Adkins, vice presi­dent van bevei­li­ging bij Google, zegt in een verkla­ring: “We maken al vele jaren gebruik van AI en zien het voort­du­rende poten­tieel voor partijen die zich willen verde­digen, maar erkennen ook de kansen voor tegen­stan­ders. CoSAI zal organi­sa­ties, groot en klein, helpen om AI op een veilige en verant­woorde manier te integreren – waardoor ze de voordelen kunnen benutten en de risico’s kunnen beperken.”

De oprich­ting van CoSAI komt op een cruciaal moment, nu AI-techno­lo­gieën zich in een razend­snel tempo ontwik­kelen en steeds meer geïnte­greerd worden in verschil­lende sectoren. Het bundelen van krachten door deze toonaan­ge­vende bedrijven benadrukt de dringende noodzaak om gezamen­lijk te werken aan oplos­singen voor de complexe uitda­gingen die gepaard gaan met AI-beveiliging.