Red Hat intro­du­ceert RHEL AI, een platform dat gebrui­kers toelaat makke­lijk genera­tieve AI-modellen te ontwik­kelen, te testen en uit te rollen. RHEL AI is gebaseerd op de open source Granite-LLM-familie van IBM Research, aligne­ringstools van InstructLab en de gemeen­schap achter het InstructLab project. De oplos­sing wordt aange­boden als een RHEL image voor indivi­duele servers over de hybride cloud heen en is inbegrepen in OpenS­hift AI, Red Hats MLOps-platform.

De lance­ring van ChatGPT bracht GenAI in een stroom­ver­snel­ling. Vandaag bouwen bedrijven volwaar­dige AI-appli­ca­ties. Dankzij een groeiend ecosys­teem van open modellen kon innovatie in AI bijzonder snel gaan, waardoor klanten nu uit talloze oplos­singen kunnen kiezen.

Bij AI-projecten houden bedrijven best rekening met onder andere AI-infra­struc­tuur aanschaffen, AI-modellen aligneren met de bedrijfs­noden en de integratie met de bedrijfs­apps. Om AI-innovatie te blijven stimu­leren moeten bedrijven grotere controle krijgen over de kosten en de juiste verant­woor­de­lijke personen aanduiden. Met de aligne­ringstools van InstructLab, de Granite oplos­singen en RHEL AI wil Red Hat de voordelen van open source naar GenAI brengen om die uitda­gingen te tackelen.

AI bouwen met InstructLab

IBM Research ontwik­kelde de LAB-techniek (Large-scale Align­ment for chatBots), een aanpak die de ontwik­ke­ling van AI-modellen meer open en toegan­ke­lijk moet maken door dure mense­lijke annota­ties en merkge­bonden modellen weg te nemen. Door het succes van de LAB-methode om de presta­ties van modellen te verbe­teren, besloten Red Hat en IBM om InstructLab te lanceren, een open source gemeen­schap gebouwd rond de LAB-methode en het open source Granite-model van IBM. Het InstructLab project wil de ontwik­ke­ling van LLM terug­geven aan ontwik­ke­laars door LLM-projecten even simpel te maken als elk ander open source project.

Open source AI-innovatie op Linux backbone

RHEL AI bouwt voort op de open aanpak voor AI-innovatie, en voegt een bedrijfs­versie van het InstructLab project – met Granite taal en modellen – toe aan het toonaan­ge­vende enter­prise Linux platform. Projecten uitrollen in de hybride cloud wordt zo nog makke­lijker. RHEL AI wordt zo de basis om open source GenAI modellen naar bedrijven te brengen.

RHEL AI functi­o­na­li­teiten zijn onder andere:

• Gelicen­ti­eerde open source Granite taal en code modellen
• Een onder­steunde, levens­lange distri­butie van InstructLab
• Geopti­ma­li­seerde opstart­bare model runtime-instan­ties, waaronder Pytorch en hardware accele­ra­toren voor NVIDIA, Intel en AMD
• Red Hat’s volle­dige bedrijfs- en levens­cy­clus ondersteuning

Projecten in RHEL AI zullen makke­lijk opgeschaald kunnen worden met Red Hat OpenS­hift AI. OpenS­hift AI zal RHEL AI bevatten. Bedrijven zullen OpenS­hift Kuber­netes kunnen gebruiken om AI-modellen te trainen op schaal. De MLOps functi­o­na­li­teiten in OpenS­hift AI zullen de levens­cy­clus van het model beheren. OpenS­hift AI en RHEL AI zullen ook mee opgenomen worden in IBM watsonx voor extra functi­o­na­li­teiten voor AI-ontwik­ke­ling en data manage­ment bij bedrijven.