29 december 2023
0 Reactie(s)

29 december 2023

Nieuw soort PCIe-kaart wil helpen energieverbruik van AI-servers te verminderen

Tijdens CES 2024 intro­du­ceert het Koreaanse DEEPX de DX-H1. Dit is een PCIe-kaart die is  ontworpen om de presta­ties van AI-servers te versnellen en tegelij­ker­tijd het energie­ver­bruik te verlagen. De DX-H1, die in aanloop naar de beurs in Las Vegas de CES 2024 Innovatie Award heeft gewonnen in de categorie Computer Hardware en Compo­nenten, legt de nadruk op presta­ties, energie-effici­ëntie en kosteneffectiviteit. 

De PCIe-versnel­ler­kaart biedt een uitzon­der­lijke energie/­pres­tatie-effici­ëntie die de huidige GPU-gebaseerde oplos­singen met meer dan 10 keer overtreft. Hierdoor kan deze kaart wellicht een signi­fi­cante rol gaan spelen in het vermin­deren van koolstofe­mis­sies voor AI-servers en datacenters.

De markt voor AI-servers is afhan­ke­lijk van energie-inten­sieve GPU’s, waarvan het hoge energie­ver­bruik leidt tot aanzien­lijke koolstofe­mis­sies. De noodzaak om de milieu­ef­fecten te minima­li­seren en de effici­ëntie te verhogen, met name in datacen­ters, stimu­leert de vraag naar duurza­mere, energie­zui­nige AI-accele­ra­tors. Analisten verwachten dan ook dat deze markt snel zal gaan groeien. Uit projec­ties van Trend­Force blijkt bijvoor­beeld dat de markt voor AI-servers zal groeien met een samen­ge­stelde jaarlijkse groei (CAGR) van meer dan 36% tot 2027. Voor datacen­ters die tegelij­ker­tijd koolstofe­mis­sies willen beperken en een compe­ti­tief voordeel willen behalen door AI-presta­ties van topni­veau mogelijk te maken, verte­gen­woor­digen producten zoals de DX-H1 een mogelijke oplossing.

DEEPX heeft twee nieuwe techno­lo­gieën ontwik­keld. Dat is aller­eerst IQ8. Dit is een manier om AI-modellen te compri­meren, waardoor dataver­wer­king als het trainen van modellen sneller kan gebeuren. Smart Memory Access minima­li­seert het gebruik van D‑RAM tot minder dan een tiende van de typische GPU-niveaus, wat met name gunstig is voor inferentie-workloads.

De DX-H1 integreert ook met bestaande GPU’sen biedt een inter­face om door GPU’s getrainde AI-modellen te onder­steunen. Dit maakt een overgang mogelijk voor bedrijven die de presta­ties willen verbe­teren zonder de noodzaak van systeemwijzigingen.

0 Reactie(s)

0 reacties

Reacties gesloten

De reactiemogelijkheid is verlopen. (14 dagen)

Nieuwsbrief

Huidige abonnees: 31

Pin It on Pinterest

Share This