Skip to Content

Az AI mint felügyelő: AIOps az AI-infrastruktúrában

NVIDIA Minerva, az Attribution eszköz és formális verifikáció nagy nyelvi modellekkel
2026. november 6. · Devertix

Az NVIDIA bejelentette a Minerva AIOps platformot, amelynek egyetlen célja, hogy az AI-gyárak üzemeltetői ne a hibák után rohanjanak, hanem eléjük kerüljenek. Ugyanazon a héten az NVIDIA developer blogja részletezte az Attribution eszközt, amely az elosztott AI-munkaterhelések diagnosztikáját oldja meg. A két bejelentés együtt egy irányba mutat: az AI-infrastruktúra felügyelete maga is AI-ra épül.

1 Mrd+adatpont óránként a tudásgráfban
100 → 1riasztásvihar helyett egy incidens
11partner a bevezetésben

A számok a cikkben hivatkozott nyilvános forrásokból származnak – nem Devertix-eredmények.

Miért nem elég a hagyományos monitoring?

Egy nagy GPU-klaszterben a hálózati, számítási, tárolási és ütemezési réteg külön-külön monitorozva csak töredékes képet ad. Az NVIDIA Minerva blog-bejegyzése szerint a hagyományos eszközök az adatközpontot elkülönített nézetekre osztják: a hálózati, számítási és ML-csapatok mind más szeletet látnak ugyanabból az infrastruktúrából. Egy lassú tréningjob gyökéroka így könnyen elvész a rétegek között.

A Minerva ezt úgy oldja meg, hogy dinamikus tudásgráfot épít a teljes infrastruktúráról, GPU-któl, SuperNIC-ektől, switchektől és kábelektől egészen a futó feladatokig. Ez a gráf óránként milliárd adatpontot dolgoz fel felügyelt és felügyelet nélküli gépi tanulással, megtanulja a normál viselkedést, és észleli az anomáliákat még azelőtt, hogy azok leállást okoznának.

Az eseményvihar-probléma

Az egyik leggyakoribb üzemeltetési nehézség nagy AI-infrastruktúráknál, hogy egyetlen hardverprobléma riasztások százait generálja. Az NVIDIA Minerva képes ezt az eseményvihart egyetlen, valószínű gyökérokkal rendelkező incidensbe összevonni. Az üzemeltetési csapat nem riasztásokat kap, hanem egy konkrét, megoldható problémát. Ez az átállás a reaktív karbantartásról a proaktívra.

A platform natív AI asszisztenssel is rendelkezik, amelyen keresztül az operátorok természetes nyelven kérdezhetnek rá a klaszter állapotára, és javasolt megoldásokat kapnak. A beavatkozás lehet manuális vagy automatizált, az infrastruktúra API-jain keresztül.

Amikor a hibaüzenet nem ott jelenik meg, ahol a hiba keletkezett

Az NVIDIA developer blogja egy másik, kapcsolódó problémát jár körül: az elosztott AI-munkaterhelések diagnosztikáját. Egy GPU- vagy fabric-esemény NCCL-hibákként jelenhet meg más rankokon, ütemező-állapotváltozásokat és ezernyi downstream üzenetet generálva. A naplóban az látszik, ahol a munkaterhelés megállt, nem az, ahol a hiba valójában keletkezett.

Az NVIDIA Attribution eszköz ezt a kaszkádot képes visszafejteni: megkülönbözteti az eredeti hibaforrást a másodlagos tünetektől. Nagy léptékű tréning- vagy inferencia-munkaterhelésnél ez a különbség órákat, esetenként napokat jelent a hibakeresési időben.

A szoftverkód szintje: formális verifikáció LLM-ekkel

Az infrastruktúra-megfigyelés mellett az Anthropic kutatása egy másik megbízhatósági szintet érint: a szoftverkód matematikai helyességét. A nagy nyelvi modellek lehetővé teszik a formális szoftververifikáció nagyobb léptékű alkalmazását, ami azt jelenti, hogy bizonyítható, nem csupán tesztelt, hogy a kód mentes bizonyos hibaosztályoktól. Az Anthropic forrása összefoglaló szintű, a technikai részletek egyelőre korlátozottan elérhetők, de az irány egyértelmű: az LLM-ek a kódminőség-biztosításban is szerepet kapnak.

Pénzügyi, egészségügyi vagy kritikus infrastruktúra-szoftverek esetén ez nem elméleti kérdés. A formális verifikáció eddig skálázhatatlansága miatt maradt a kutatólaboratóriumokban; ha az LLM-ek ezt a korlátot oldják fel, az üzletkritikus szoftverek minőségbiztosítása alapvetően változhat meg.

Iparági elfogadottság

A Minerva nem prototípus. Az IBM, Tesla, Dell Technologies, Lenovo és Supermicro mind elkötelezte magát a platform bevezetése vagy kínálata mellett az NVIDIA bejelentése szerint. Az IREN, Aolani, Bitdeer AI, Jio, Lambda és Quake AI szintén a bevezetést tervező partnerek között szerepel. Ez az elfogadottság azt jelzi, hogy a piac az AIOps-t az AI-infrastruktúra standard részének tekinti, nem opcionális kiegészítőnek.

Mit jelent ez egy magyar IT-vezető számára?

Aki GPU-alapú infrastruktúrát üzemeltet vagy tervez – akár saját klaszterben, akár felhőben –, annak a megfigyelési réteg tervezése legalább annyira kritikus döntés, mint a hardverkiválasztás. Egy lassú tréningjob, amelynek gyökéroka egy degradált kábel, napokig futhat feleslegesen, ha nincs eszköz a korreláció elvégzésére.

A Minerva magyarországi elérhetősége és árazása a rendelkezésre álló forrásokból nem tisztázott, de a Dell Technologies és Lenovo partnerségen keresztül a platform az OEM-portfólióba kerül, ami a magyarországi vállalati értékesítési csatornákon keresztül is elérhetővé teheti.

Akinek üzletkritikus AI-munkaterhelése van, annak érdemes a megfigyelési és diagnosztikai réteget már az architektúra-tervezés során definiálni, nem utólag hozzáadni.

Kapcsolódó szolgáltatásunk: AWS-monitoring kiépítése · SRE: stabil működés, mérhető célokkal

Mit jelent ez az Ön cégénél?

Nézzük meg együtt – egy ingyenes első egyeztetésen.

Megmutatjuk, hol hoz valódi eredményt az AI és a felhő az Ön folyamataiban.

Ingyenes egyeztetés

Források

Új cikkek és webináridőpontok e-mailben

Értesítjük, amikor új cikk jelenik meg, vagy új webinárt hirdetünk. Bármikor leiratkozhat.

Köszönjük, feliratkozott a hírlevélre.

A feliratkozással megismertem az adatkezelési tájékoztatót.

Egy platform az asztaltól a gigawattos szuperklaszterig
DGX Spark, Vera Rubin NVL72 az Oracle Cloudban és CUDA 13.5 – mit jelent ez az infrastruktúra-tervezésnek?