Noua stație rulează modele AI uriașe

Conform Playtech.ro: AMD intră pe piața de calcul intensiv cu stația Threadripper Halo

Compania AMD lansează pe piața globală o nouă stație de lucru de înaltă performanță, denumită Threadripper Halo Station. Destinată inițial centrelor de date și profesioniștilor din domeniul inteligenței artificiale, această nouă generație de echipamente promite să redefinească modul în care sunt dezvoltate și rulate modele AI complexe, oferind o capacitate de procesare fără precedent direct la sediul companiilor.

Ce ascunde stația de lucru AMD

Stația de lucru Threadripper Halo poate fi configurată cu până la 2 terabiți de memorie RAM și o cantitate impresionantă de 576 gigabiți de memorie HBM3E. Acest tip de memorie, recunoscut pentru lățimea sa de bandă excepțională, este crucial pentru sarcinile care implică procesarea unor volume masive de date. Sistemul integrează un procesor Threadripper Pro cu 96 de nuclee și două acceleratoare AMD MI350P, componente proiectate inițial pentru segmentul centrelor de date. Pentru a gestiona supraîncălzirea, întregul ansamblu beneficiază de un sistem avansat de răcire cu lichid.

AMD afirmă că această configurație permite stației să ruleze modele AI cu peste un trilion de parametri, fără a fi necesară mutarea procesării într-un centru de date extern. Pentru a demonstra capabilitățile sistemului, compania a prezentat la evenimentul de lansare generarea unei lumi 3D complete, incluzând un simulator de zbor, pornind de la o simplă solicitare text.

Miza principală a produsului constă în democratizarea accesului la calculul intensiv pentru AI. AMD nu vizează doar crearea unei stații de lucru mai rapide pentru profesioniști, ci oferă companiilor și instituțiilor posibilitatea de a lucra cu modele AI de mari dimensiuni, reducând dependența de serviciile cloud. Pe măsură ce utilizarea modelelor generative și a sistemelor AI autonome se extinde, costurile pentru procesarea în cloud pot deveni prohibitive, în special pentru organizațiile care utilizează astfel de sisteme în mod constant.

AMD intră direct în competiție cu Nvidia

Cel mai apropiat concurent al Threadripper Halo Station este Nvidia DGX Station, care propune o filozofie similară: putere de calcul suficientă pentru modele AI de mari dimensiuni, integrată într-un sistem ce poate fi instalat local. Totuși, cele două produse abordează piața din unghiuri diferite.

AMD pune accentul pe volumul și viteza memoriei. Potrivit estimărilor companiei, configurația Threadripper Halo poate atinge o capacitate de memorie de peste trei ori mai mare decât sistemul concurent de la Nvidia, permițând astfel țintirea modelelor cu un număr extrem de ridicat de parametri. Nvidia deține însă avantajul disponibilității, DGX Station fiind deja comercializat la un preț estimat de aproximativ 100.000 de euro. De asemenea, Nvidia oferă o integrare mai directă în scenariile de migrare a proiectelor între sistemul local și infrastructura cloud.

În cazul AMD, lansarea oficială este programată pentru începutul anului viitor, iar prețul exact nu a fost încă anunțat. Având în vedere configurația hardware și poziționarea strategică a produsului, este cert că nu ne aflăm în fața unui PC obișnuit de birou. Este, mai degrabă, o platformă dedicată companiilor, laboratoarelor de cercetare și instituțiilor care necesită rularea modelelor AI mari pe propriile infrastructuri.

Apariția unor astfel de sisteme subliniază transformarea rapidă a pieței de calcul dedicată inteligenței artificiale. Până acum, accesul la modelele de ultimă generație era strâns legat de centrele de date și de serviciile cloud. Stații precum Threadripper Halo își propun să aducă o parte din această capacitate de calcul mai aproape de utilizatorii finali, dezvoltatorii și cercetătorii AI, oferindu-le controlul asupra datelor și modelelor lor, păstrate în propria infrastructură.

Sursa: Playtech.ro

Redacția StiriFresh

Autor

Materiale de sinteză realizate de echipa StiriFresh pe baza surselor citate în text, cu ajutorul instrumentelor de inteligență artificială, verificate editorial înainte de publicare.

Lasa un comentariu