Az NVIDIA egyszerre három fronton tett bejelentést: a DGX Spark kompakt AI-gép MoE-inferencia-optimalizálásától a Vera Rubin NVL72-alapú Oracle Cloud szuperklaszterig és a CUDA 13.5 általános elérhetőségéig. A közös nevező nem marketing, hanem mérnöki döntés: ugyanaz a Vera architektúra és ugyanaz a CUDA szoftverréteg fut a legkisebb és a legnagyobb konfigurációban egyaránt.
A számok a cikkben hivatkozott nyilvános forrásokból származnak – nem Devertix-eredmények.
A kis léptékű belépési pont: DGX Spark és MoE-inferencia
Az NVIDIA fejlesztői blogja szerint a DGX Spark platformon batch-size-1 konfigurációban futtatott Inclusion AI Ling-3.0-flash modell profilozása megmutatta, hogy a dekódolás memória-korlátozott: a modellsúlyok beolvasása dominálja a végrehajtási időt. Két művelet emelkedik ki szűk keresztmetszetként: a MoE-számítás és a kimeneti réteg projekciója. Ez nem elméleti megfigyelés – a célzott optimalizáció ezen a két ponton növeli a token-generálás sebességét anélkül, hogy hardvert kellene cserélni. Aki ma DGX Sparkon dolgozik, annak érdemes ezt a profilozási logikát alkalmazni, mielőtt nagyobb infrastruktúrában gondolkodik.
A felhős véglet: Vera Rubin NVL72 és Oracle Cloud
Az NVIDIA és az Oracle bejelentette az OCI Superclusters bővítését NVIDIA Vera Rubin NVL72 rendszerekkel multi-gigawattos skálára, AI-képzés, inferencia és agentikus alkalmazások növekvő igényeinek kiszolgálására. A pontos kapacitásadatok és a bővítés menetrendje egyelőre nem publikusak, de a bejelentés iránya egyértelmű: a hyperscaler szintű AI-infrastruktúra az OCI-n belül a Vera Rubin architektúrára épül. Ez releváns azoknak a vállalatoknak, amelyek nem saját adatközpontban, hanem felhőből tervezik a legnagyobb AI-munkaterheléseket futtatni.
A kapocs: CUDA 13.5 és a Vera Rubin általános elérhetősége
Az NVIDIA CUDA 13.5 kiadásával a Vera Rubin GPU-architektúra támogatása korai fejlesztői hozzáférésből általánosan elérhetővé (GA) vált, vállalati produkciós környezetekre készen. Ez a lépés azt jelenti, hogy a Vera Rubinra épülő munkaterhelések már nem kísérleti státuszban vannak: a vállalatok produkciós szinten telepíthetik őket. A CUDA mint szoftverréteg biztosítja, hogy a DGX Sparkon fejlesztett kód minimális módosítással futtatható a Vera Rubin NVL72-n is, és ez az, ami a skálázási utat valóban lineárissá teszi.
A Vera CPU teljesítményadatai valós partnerektől
Az NVIDIA Vera CPU-ról az NVIDIA blogja konkrét partnerméréseket közöl. Egy 100 megawattos adatközpont-összehasonlításban a Vera 1,6-szor több ügynököt képes kiszolgálni wattonként a leggyorsabb x86 CPU-hoz képest, és 2-szer gyorsabb ügynök-sebességet nyújt a legenergia-hatékonyabb x86 CPU-hoz képest. A partnerek mérései ezt megerősítik: a Perplexity 1,5-szer gyorsabb agentic kódolási feladatokat mért Vera CPU-val hagyományos CPU-khoz képest, a DeepInfra akár 2,2-szeres sebességet ért el a legjobb x86 processzorhoz képest agentic orchestration terheléseken. A Daytona 1000 ügynök sandboxot 10,8 másodperc alatt hozott online Vera CPU-val, ugyanez x86-on 88,4 másodpercet vett igénybe. Ezek nem szintetikus benchmarkok: a Perplexity éles produkciós rendszerbe tervezi a Vera CPU-t.
Az agentikus AI-terhelések sajátossága, hogy az ügynök folyamatosan váltogat a GPU-s következtetés és a CPU-s végrehajtás között: adatbázis-lekérdezés, kódírás, tesztelés, eszközhívás. A CPU tehát nem háttérszereplő, hanem a teljes rendszer szűk keresztmetszete lehet, ha nem méretezik megfelelően.
Mit jelent ez egy magyar vállalati döntéshozónak?
Az NVIDIA skálázási stratégiájának lényege az, hogy a belépési pont alacsony, a kilépési pont viszont nincs meghatározva. Egy vállalat ma DGX Spark szinten kezdheti az AI-t, ez kompakt, kezelhető beruházás, és ha a munkaterhelés nő, ugyanazon a szoftverplatformon haladhat tovább a felhős Vera Rubin NVL72 szint felé, platformváltás nélkül. A DGX Spark és a Vera Rubin NVL72 közötti közepes vállalati belépési pontokról (például DGX H100 vagy B200 rendszerek) a jelenlegi forrásanyag nem ad részletes képet, de a skálázási logika erre a sávra is érvényes.
Akinek ma AI-infrastruktúra-döntése van, annak érdemes először azt tisztázni, hogy a munkaterhelés CPU-korlátozott vagy GPU-korlátozott-e, és hogy az agentikus komponens mekkora arányt képvisel. Ettől függ, hogy a Vera CPU teljesítményelőnye releváns-e a konkrét esetben. A Devertixnél ebben a skálázási térképen segítünk: megmutatjuk, hogy egy adott vállalat hol helyezkedik el a DGX Spark és a multi-gigawattos felhős infrastruktúra között, és milyen lépésekben érdemes haladni, felesleges túlberuházás vagy elkésett döntés nélkül.
Kapcsolódó szolgáltatásunk: generatív AI az AWS-en · AWS FinOps
Nézzük meg együtt – egy ingyenes első egyeztetésen.
Megmutatjuk, hol hoz valódi eredményt az AI és a felhő az Ön folyamataiban.
Források
- 3 Ways to Boost MoE Inference on NVIDIA DGX Spark
- NVIDIA and Oracle Expand NVIDIA Vera Rubin to Multi-Gigawatt Scale and Bring NVIDIA Vera CPU to Oracle Cloud Infrastructure
- NVIDIA CUDA 13.5 Brings NVIDIA Vera Rubin GA Support
- Vera Delivers the Best of Both Worlds: Highest Throughput and Fastest Agents