Intel prvi postigao jedino potpunu NPU podršku u MLPerf Client v0.6 benchmarku
Rezultati testiranja pokazuju da Intel Core Ultra serija 2 procesora nudi do sad neviđenu AI računalnu izvedbu koja obuhvaća CPU, GPU i NPU.
Intel je objavio da je za sada jedina tvrtka koja je postigla punu podršku za jedinicu za neuronsko procesiranje (NPU) u novoizdanom MLPerf Client v0.6 benchmarku. Ovaj rezultat označava prvo standardizirano ocjenjivanje performansi velikog jezičnog modela (LLM) na klijentskim NPU-ima u industriji. Intelova mjerenja MLPerf Client v0.6 pokazuju da Intel® Core™ Ultra Series 2 procesori mogu generirati izlaz na grafičkoj jedinici (GPU) i NPU-u mnogo brže nego što tipičan čovjek može čitati.„Ponosni smo što vodimo industriju u omogućavanju pune NPU akceleracije i industrijski vodećih GPU performansi za AI radne zadatke na klijentskim PC platformama. Ovaj uspjeh odražava Intelovu duboku hardversko-softversku kooptimizaciju i predanost demokratizaciji AI-a za PC-e svugdje.” – Daniel Rogers, potpredsjednik i generalni direktor za marketing proizvoda na PC-u u Intelu.
Zašto je to važno
S procesorima Intel Core Ultra Serije 2, Intel je na čelu evolucije AI računala, nudeći neviđene AI računske performanse koje obuhvaćaju središnju procesorsku jedinicu (CPU), GPU i NPU.MLPerf Client v0.6 mjeri četiri slučaja korištenja generiranja i sažimanja sadržaja temeljenih na Llama 2 7B modelu. Intel je pokazao vodeće performanse na NPU-u i ugrađenom Intel® Arc™ GPU-u.Intel je postigao najbrže vrijeme odgovora NPU-a, generirajući prvu riječ za samo 1,09 sekundi (latencija prvog tokena), što znači da počinje odgovarati gotovo odmah nakon primanja poziva. Također je isporučio najviši NPU propusnost od 18,55 tokena po sekundi, što se odnosi na to koliko brzo sustav može generirati svaki dodatni dio teksta, omogućujući besprijekornu interakciju s AI-jem u stvarnom vremenu. Osim toga, u usporedbi s konkurencijom, Intel je pokazao prednost u GPU-u u vremenu do prvog tokena, počevši brže od konkurencije i dodatno jačajući svoju prednost u end-to-end AI akceleraciji preko NPU-a i GPU-a.
O NPU benchmarkingu na MLPerf-u
Razvijen suradnjom članova MLCommons konzorcija — uključujući Intel, AMD, Microsoft, Nvidia i Qualcomm — MLPerf Client v0.6 proširuje se iznad prethodnih testova usmjerenih na GPU kako bi sada uključio i specijaliziranu NPU benchmarkingu.Vođeni bliskom suradnjom između Intelovog NPU hardverskog tima i OpenVINO™ softverskog tima, Intel Core Ultra procesori ostaju jedini NPU koji su postigli potpunu NPU usklađenost u konačnom benchmarku.
Testna konfiguracija
| AMD | Intel | |
| OEM Platform | ASUS Zenbook S 16 | ASUS Zenbook S 14 |
| OEM Model Number | UM5606WA | UX5406SA |
| CPU Model | AMD Ryzen AI HX 370 | Intel® Core™ Ultra 9 288V Processor |
| BIOS Date | March 21, 2025 | February 26, 2025 |
| BIOS Version | UM5606WA.317 | UX5406SA.306 |
| Total Memory | 32GB LPDDR5, 7500 MHz | 32GB LPDDR5, 8533 MHz |
| Graphics Brand | AMD Radeon 890M | Intel Arc 140V |
| Storage Memory | 1TB | 1TB |
| OS | Windows 11 Pro x64 | Windows 11 Pro x64 |
| Power Source | AC | AC |
| Power Plan | Balanced | Balanced |
| Power Mode | Best Performance | Best Performance |
| OEM Power Setting | myASUS: FullSpeed | myASUS: FullSpeed |
* Svi podaci mjeri se od 28. travnja 2025. Pogledajte press kit za detalje o opterećenju i konfiguraciji.
Obavijesti i odricanja
Performanse variraju ovisno o korištenju, konfiguraciji i drugim čimbenicima. Saznajte više na intel.com/performance index. Rezultati performansi temelje se na testiranju na datumima prikazanim u konfiguracijama i možda ne odražavaju sve javno dostupne ažurirane verzije. Pogledajte rezervni dio za detalje o konfiguraciji. Niti jedan proizvod ili komponenta ne može biti apsolutno sigurni. Vaši troškovi i rezultati mogu varirati.