Met steun van de Bundes­agentur für Sprun­g­in­no­va­ti­onen (SPRIND) vernieuwt de Duitse startup Katulu de Europese AI-infra­struc­tuur. Bedrijven krijgen hierdoor veel vrijheid over de locatie van hun data en reken­kracht voor AI. Ze zijn niet langer afhan­ke­lijk van centrale data-opslag­plaatsen en dure high-perfor­mance clusters. Met Hypha laat Katulu zien hoe bestaande middelen slimmer kunnen worden ingezet voor AI, waardoor grote AI-systemen toegan­ke­lijker en goedkoper worden voor meer bedrijven. 

Katulu werd gekozen als een van de zeven innova­tieve teams voor de SPRIND Challenge voor compo­site learning, een initi­a­tief van dit Duitse agent­schap. Deze ‘challenge’ heeft als doel een nieuwe benade­ring voor gedecen­tra­li­seerde AI, ook wel compo­site learning (zie verder) genoemd, te facili­teren en zo bedrijven toegang te verschaffen tot hoogwaar­dige AI-technologie.

Met Hypha biedt Katulu bedrijven volle­dige flexi­bi­li­teit over de locatie van hun data en reken­bronnen. Het team van Katulu ontwik­kelt hiervoor een AI-infra­struc­tuur die hardwa­re­be­per­kingen voor training en inferentie bij machine learning overwint. In plaats van te vertrouwen op gecen­tra­li­seerde high-perfor­mance clusters, verdeelt Hypha AI-workloads dynamisch over beschik­bare reken­bronnen – of dat nu in de cloud, on-premise of in de edge is. Door middel van wat genoemd wordt ‘hiërar­chi­sche paral­lel­li­satie’ met minimale commu­ni­ca­tie­kosten kan Hypha flexibel schalen over uiteen­lo­pende hardware- en databronnen heen. Hiermee toont Katulu een effici­ën­tere manier om bestaande middelen voor AI te gebruiken, waardoor AI op grote schaal toegan­ke­lijker wordt voor meer bedrijven tegen lagere kosten.

Deze SPRIND Challenge is volgens medeop­richter en CEO van Katulu Michael Kühne-Schlin­kert een cruciale stap voor Europa om zijn wereld­wijde concur­ren­tie­kracht in AI te behouden en verder uit te breiden. Door de afhan­ke­lijk­heid van enorme, gecen­tra­li­seerde AI-infra­struc­turen te vermin­deren, zal Hypha Europese bedrijven in staat stellen geavan­ceerde AI-modellen te ontwik­kelen en te beheren, terwijl ze de volle­dige controle over hun data en reken­bronnen behouden. Om zoveel mogelijk bedrijven toegang te verschaffen, zal Hypha beschik­baar zijn als een open source-frame­work voor compo­site learning. Daarnaast zal het als onder­deel van de federated AI-platform van Katulu met aanvul­lende enter­prise-functies worden aange­boden om de AI-adoptie in Europa te versnellen.

Kühne-Schlin­kert benadrukt: “De toekomst van AI ligt niet in het bouwen van grotere datacen­ters, maar in het slimmer gebruiken van de reken­kracht en data die we al hebben. Hypha zal deze toekomst werke­lijk­heid maken.”

Hypha is ontworpen om een van de grootste uitda­gingen op het gebied van AI op te lossen: het efficiënt trainen en uitvoeren van AI-modellen in hetero­gene omgevingen met verschil­lende hardware en data. Geïnspi­reerd door schim­mel­net­werken in de natuur, waarbij de reken­kracht ongehin­derd naar waar het nodig is stroomt, maakt Hypha het voor bedrijven mogelijk om:

• Reken­kracht flexibel te gebruiken en te schalen over verschil­lende hardwa­re­plat­formen en cloud provi­ders heen.
• Hetero­gene data uit verdeelde bronnen efficiënt in AI-modellen te integreren en de gegevens­ver­wer­king te optimaliseren.
• Naadloos te schalen met AI-training en ‑inferentie, terwijl privacy en datasoe­ve­rei­ni­teit worden gewaarborgd.
• Groot­scha­lige AI te integreren zonder gevoe­lige infor­matie te delen met externe cloud-omgevingen.
• AI-mogelijk­heden uit te breiden zonder inves­te­ringen in aanvul­lende infrastructuur.

Het team van Katulu heeft een gepaten­teerde aanpak ontwik­keld om federated machine learning toe te passen in reële scenario’s met hetero­gene gegevens en omgevingen. Door het ontwik­kelen van priva­cy­vrien­de­lijke AI-oplos­singen helpt Katulu bedrijven om AI te schalen en tegelij­ker­tijd de volle­dige controle over hun gegevens te behouden.

Compo­site learning combi­neert gedis­tri­bu­eerd, gedecen­tra­li­seerd en gefede­reerd leren van AI-modellen. Het biedt daarmee een nieuwe aanpak: het trainen van modellen over verschil­lende systemen heen zonder dat gecen­tra­li­seerde datacen­ters nodig zijn. Met deze methode kunnen meer bedrijven samen­werken en nieuwe modellen veilig trainen. Geavan­ceerde AI kan zo toegan­ke­lijker worden voor meer organi­sa­ties en voor een verschei­den­heid aan toepassingsgebieden.