Conform Playtech.ro: NVIDIA își redefinește strategia în domeniul inteligenței artificiale prin introducerea unei noi arhitecturi de procesoare, denumită Groq 3 LPX, care promite o eficiență energetică și o performanță sporită prin eliminarea unor mecanisme tradiționale din procesoarele clasice. Această inovație nu înlocuiește însă unitățile de procesare grafică (GPU-uri), ci le completează, într-o abordare menită să optimizeze sarcini complexe de inteligență artificială.

Control predictibil al operațiunilor

Arhitectura Groq 3 LPX se distanțează de metodele convenționale de procesare, eliminând elemente precum predicția ramificațiilor, cache-urile tradiționale sau execuția out-of-order. În schimb, compilatorul joacă un rol central, stabilind în avans aproape fiecare operațiune, până la nivelul ciclurilor de ceas. Această abordare permite o anticipare precisă a consumului electric. Sistemul este capabil să pregătească alimentarea înainte ca o anumită zonă a cipului să solicite energie, reducând astfel fluctuațiile de tensiune. NVIDIA susține că tehnologia poate diminua variațiile de tensiune cu peste 60% și depășirile de tensiune cu peste 70%.

Controlul predictibil al sarcinilor influențează pozitiv și gestionarea termică. În loc ca performanța generală a cipului să fie restricționată de cea mai supraîncălzită zonă, sarcinile pot fi distribuite pentru a asigura o repartiție mai uniformă a căldurii. NVIDIA estimează că această metodă ar putea aduce un spor de performanță de aproximativ 10-11% în cadrul aceleiași limite termice.

Colaborarea între GPU-uri și noile procesoare

Groq 3 LPX nu este prezentat ca un înlocuitor pentru GPU-urile NVIDIA. Compania vizează o strategie prin care procesarea unui model AI să fie împărțită între două tipuri distincte de hardware. GPU-urile din platforma Vera Rubin NVL72 ar urma să fie responsabile de etapa de „prefill”, o fază care necesită o putere de calcul considerabilă și o capacitate mare de memorie. Ulterior, procesoarele LP30 ar prelua sarcina de „decode”, adică generarea efectivă a răspunsului.

Această diviziune a responsabilităților se justifică prin diferențele semnificative de capacitate de memorie. Un GPU Rubin dispune de aproximativ 288 GB de memorie HBM4, o cantitate incomparabil mai mare decât cei aproximativ 500 MB de SRAM ai unui LP30. Pentru modele AI extrem de mari, capacitatea memoriei devine rapid un factor limitativ pentru arhitectura bazată pe Groq.

În scenariul unui model cu 31 de miliarde de parametri în format FP8, ar fi necesare aproximativ 62 de procesoare LP30 doar pentru stocarea parametrilor. În cazul modelelor de tip Mixture-of-Experts, cu trilioane de parametri, numărul acestor cipuri ar putea ajunge la mii, distribuite pe mai multe rack-uri.

În luna iunie 2026, NVIDIA a prezentat aceste inovații, marcând un pas important în optimizarea arhitecturilor pentru sarcini de inteligență artificială.

Sursa: Playtech.ro