UnifabriX új MAX memória technológiája forradalmasíthatja az AI feldolgozást
A UnifabriX legújabb bejelentésével a mesterséges intelligencia (AI) feldolgozási teljesítményének javítására irányuló törekvések új irányt vehetnek. A vállalat által kifejlesztett CXL-csatlakozású MAX memória eszköz jelentős előnyöket kínál a memória sávszélesség és a számítási teljesítmény közötti szakadék áthidalására. Ronen Hyatt, a UnifabriX vezérigazgatója, egy nemrégiben közzétett kutatási tanulmányra hivatkozik, amelyet Amir Gholami és munkatársai készítettek az ‘AI és Memória Fal’ címmel, hogy bemutassa a problémát.
A memória fal kihívása
A kutatás rávilágít arra, hogy az AI modellek gyors növekedése és a felhasználható adatok bősége mellett a memória sávszélessége jelentős szűk keresztmetszetté vált. Az elmúlt húsz év során a csúcs szerver hardver FLOPS (Floating Point Operations Per Second) teljesítménye háromszorosára nőtt, míg a DRAM és az összeköttetési sávszélesség csak 1,6 és 1,4-szeres növekedést mutatott. Ez a különbség rendszerszintű megoldásokat igényel, mivel a memória teljesítménye lassan elmarad a számítási teljesítmények mögött, különösen a nagy AI modellek kiszolgálásában.
A CXL és az UALink megoldásai
Hyatt javaslata szerint a UnifabriX által kínált MAX memória technológia, amely CXL kapcsolaton keresztül csatlakozik, jelentősen csökkentheti a teljesítménybeli különbségeket. A vállalat megoldása nemcsak a memória teljesítményét növeli, hanem költséghatékonyságot is biztosít. Hyatt hangsúlyozta, hogy a memória szövetek előnyösebbek, mint az InfiniBand hálózatok, mivel magasabb teljesítményt kínálnak, és a CXL és az UALink nyílt memória szövet szabványok, amelyek összehasonlíthatók a Nvidia saját NVLink megoldásával.
Gazdasági előnyök
UnifabriX példája alapján, ahol 16 szerver található, köztük négy GPU szerverrel, összesen 96 TB DRAM kapacitással, a memória költsége 1,6 millió dollár. A cég becslése szerint a memória kihasználtság kevesebb mint 30% volt. Az új MAX memória egység hozzáadásával, amely 30 TB kapacitású, a 16 szerver 2,25 TB-ra növelheti a memória kapacitását, így a rendszer összesen 66 TB memóriát biztosít 670,000 dolláros költséggel. Ez a megoldás magasabb kihasználtságot és gyorsabb alkalmazás-futtatást eredményez.
Az UnifabriX által bemutatott megoldás így nem csupán 1 millió dolláros tőke-megtakarítást, hanem 1,5 millió dolláros teljes költségelőny elérését is lehetővé teszi, ami új perspektívát nyújt az AI alkalmazások fejlesztéséhez és üzemeltetéséhez.
Összegzés
A UnifabriX MAX memória technológiája innovatív megoldást kínál az AI környezetben tapasztalható memória sávszélességi problémákra, miközben jelentős költségmegtakarítást is eredményezhet. A cég úttörő szerepe a memória architektúrákban új lehetőségeket nyithat a jövőbeli technológiai fejlődés előtt.
