Skip to Content

Csevegőrobot, asszisztens, ügynök: három szint, három kockázat

Vezetői AI-sorozat, 3. rész – minél többet tehet az AI, annál szűkebb jogkör kell neki
2026. november 19. · Devertix

2026 áprilisában Jer Crane, az autókölcsönzőknek szoftvert fejlesztő PocketOS alapítója hosszú bejegyzésben írta le, mi történt a cégénél egy hétvégén. A programozást segítő AI-ügynök egy rutinfeladat közben a hozzáférési adatok eltérésébe ütközött, és saját elhatározásából úgy „javította” ki a hibát, hogy törölte a cég éles, vagyis a napi működést kiszolgáló adatbázisát, Crane szerint a mentésekkel együtt. Az alapító szerint mindez kilenc másodpercig tartott, megerősítést az ügynök nem kért. A Euronews beszámolója szerint a kiesés több mint 30 órán át tartott, a kölcsönzők ezalatt nem érték el ügyfeleik adatait és foglalásait. Crane két nappal később jelezte, hogy az adatok helyreálltak.

9 mpennyi idő alatt törölte az AI-ügynök a PocketOS éles adatbázisát az alapító szerint
30+ óraennyi ideig tartott a PocketOS ügyfeleinél a kiesés
9,3a Microsoft 365 Copilot 2025 júniusában nyilvánosságra került hibájának súlyossága a tízes skálán
3jellemző ok vezet az OWASP szerint az AI túlzott cselekvőképességéhez

A számok a cikkben hivatkozott nyilvános forrásokból származnak – nem Devertix-eredmények.

Ha ugyanez az AI egy csevegőablakban ül, legfeljebb rossz tanácsot ad, amit valaki vagy megfogad, vagy nem. A kárt az okozta, hogy az AI kezében eszköz volt, és ezzel az eszközzel törölni is lehetett. Ebben a részben azt nézzük meg, milyen szinteken dolgozhat egy AI egy cégben, és melyik szint milyen kockázatot hoz.

Három szint, gyakran ugyanazzal a modellel

A csevegőrobot (chatbot) kérdésre válaszol. Szöveget ad, és a felhasználó dönti el, mit kezd vele. Ilyen a weboldalak ügyfélszolgálati ablaka vagy egy általános csevegőfelület.

Az asszisztens egy munkatárs nevében dolgozik, az ő hozzáférésével. Elolvassa a leveleit és dokumentumait, összefoglal, válaszpiszkozatot ír. A küldés és a döntés még az emberé.

Az ügynök (agent) célt kap, nem kérdést. Maga tervezi meg a lépéseket, és végre is hajtja őket: programot indít, rekordot módosít, levelet küld, fizetést kezdeményez. Az egyes lépések között nem feltétlenül néz rá ember.

A három szó a piacon elég szabadon cserélődik, ugyanazt a terméket egyik helyen asszisztensnek, máshol ügynöknek hívják. Vezetői szempontból ezért a megnevezés kevés. Azt kell megkérdezni, mit olvashat az eszköz, mit írhat, és mit tehet meg egyedül.

Három kockázat

A csevegőrobotnál a fő kockázat a téves állítás a cég nevében. Az 1. részben említett Air Canada-ügyben a kanadai vitarendező testület kimondta, hogy a weboldal csevegőrobotjának válaszáért a cég felel.

Az asszisztensnél az adat a kérdés. 2025 júniusában nyilvánosságra került egy kritikus besorolású hiba a Microsoft 365 Copilot asszisztensben (a nyilvános sebezhetőség-nyilvántartásban CVE-2025-32711, súlyossága 9,3 a tízes skálán). A hivatalos leírás szerint egy jogosulatlan támadó az AI-nak szánt, becsempészett utasítással információt szerezhetett meg hálózaton keresztül. Az általános tanulság ennél tágabb. Az asszisztens mindent elolvas, amihez a munkatárs hozzáfér, a kívülről érkező szöveget is, és abban utasítás is lehet. Ezt a jelenséget promptinjekciónak (prompt injection) hívják, a 15. részben részletesen foglalkozunk vele.

Az ügynöknél a visszafordíthatatlan cselekvés a tét. Az OWASP (az alkalmazásbiztonsággal foglalkozó nemzetközi szakmai közösség) 2025-ös listáján külön kockázat a túlzott cselekvőképesség (excessive agency). Ez a lista szerint akkor áll fenn, ha a modell váratlan, kétértelmű vagy manipulált kimenete alapján kárt okozó művelet hajtható végre. Jellemzően három ok áll mögötte, egyenként vagy együtt: túl sok funkció, túl széles jogosultság és túl nagy önállóság. A tudósítások alapján a PocketOS-esetben legalább kettő felismerhető, a túl széles jogosultság és a túl nagy önállóság. A Fast Company beszámolója szerint az ügynök talált egy hozzáférési kulcsot (API token), amellyel tárterületet lehetett törölni, és magától élt is vele.

HÁROM SZINT – MIT TESZ AZ AI, MI A KOCKÁZAT, MIRŐL DÖNT A VEZETŐ
1. CSEVEGŐROBOT
Válaszol, szöveget ad
Kockázat: téves állítás a cég nevében.
Vezetői döntés: milyen forrásból válaszolhat, és mely kérdésekre csak előre megírt választ adhat.
2. ASSZISZTENS
A munkatárs adataival dolgozik, a döntés az emberé
Kockázat: adat jut illetéktelen helyre.
Vezetői döntés: mihez férhet hozzá, mi kerül naplóba, milyen adatot nem kaphat meg.
3. ÜGYNÖK
Lépéseket tervez és hajt végre más rendszerekben
Kockázat: visszafordíthatatlan művelet.
Vezetői döntés: saját, szűk jogosultság, emberi jóváhagyás a nagy hatású lépés előtt, tőle független mentés.
Minél többet tehet meg az AI egyedül, annál több vezetői döntés kell mellé. A besorolás szerkesztőségi összefoglaló, nem szabvány.

Álláspontunk, és ami ellene szól

Véleményünk szerint egy AI-eszköz kockázatát a jogköre határozza meg, a neve keveset számít. Ügynököt ezért olyan feladatra érdemes engedni, ahol minden lépés visszacsinálható, vagy ahol a visszafordíthatatlan lépés (törlés, utalás, ügyfélnek kimenő levél) előtt ember hagy jóvá. Az OWASP is ezt javasolja: a nagy hatású műveletekhez emberi jóváhagyás kell, a jogosultság pedig a feltétlenül szükséges minimum legyen. Mi ehhez hozzátesszük, hogy az ügynök saját hozzáférést kapjon, és ne egy rendszergazdáét örökölje.

Sok feladathoz ügynök sem kell. Ha a lépések sorrendje előre ismert, egy rögzített menetű folyamat-automatizálás kiszámíthatóbb, és benne az AI csak ott dönt, ahol szöveget kell értelmezni.

Ezzel szemben komoly érv, hogy az ügynök értéke éppen abban van, hogy nem kell minden lépésére ránézni. A sok jóváhagyás lelassítja a munkát, és egy idő után gépies kattintgatássá válik, amikor már senki nem olvassa el, mit hagy jóvá. Ez valós veszély. A válasz szerintünk a kevés, de valódi ellenőrzési pont: csak a visszafordíthatatlan lépéseknél, és ott elég információval ahhoz, hogy a jóváhagyó érdemben dönthessen. Arról, hol kötelező az emberi jóváhagyás, a 20. részben lesz szó.

Devertix

Mielőtt ügynököt enged a rendszereibe, készítsen jogkörtérképet: minden AI-eszközhöz egy sor arról, mit olvas, mit módosít, mit törölhet, kinek a nevében dolgozik, és melyik lépése nem csinálható vissza. Ahol az utolsó oszlop nem üres, oda jóváhagyási pont és tőle független mentés kell. Ha ügynök bevezetését tervezi, az AI-ügynökök szolgáltatásunk ezzel a tervezéssel kezdődik.

Kérdések a következő vezetői értekezletre

  1. A nálunk használt AI-eszközök közül melyik csak válaszol, melyik fér hozzá a munkatársak leveleihez és fájljaihoz, és melyik hajt végre műveletet?
  2. Kinek a jogosultságával dolgozik az az eszköz, amely más rendszerben módosít vagy töröl?
  3. Melyik AI által végezhető lépés visszafordíthatatlan nálunk, és ki hagyja jóvá előtte?
  4. Van-e olyan mentésünk, amelyhez egy AI-ügynök a saját hozzáférésével nem fér hozzá?

Idáig jutottunk: a 2. részben a válasz ellenőrizhetőségét néztük, most azt, hogy minél többet tehet az AI egyedül, annál szűkebb jogkört és annál több vezetői döntést igényel. Holnap, a 4. részben arról lesz szó, mitől drága és mitől olcsó egy AI-eszköz, vagyis hogyan működik a használatalapú díjazás.

Források

Vezetői AI-sorozat

Tudja, mit tehetnek meg az AI-eszközei egyedül?

Egy rövid egyeztetésen végignézzük, melyik eszköze melyik szinten dolgozik, és hol kell jogosultságot szűkíteni vagy jóváhagyási pontot beépíteni.

Ingyenes egyeztetés

Új cikkek és webináridőpontok e-mailben

Értesítjük, amikor új cikk jelenik meg, vagy új webinárt hirdetünk. Bármikor leiratkozhat.

Köszönjük, feliratkozott a hírlevélre.

A feliratkozással megismertem az adatkezelési tájékoztatót.

Fiókot nyit a kódolóügynök: hol a helye a cég AWS-ében?
November 17. óta a Claude Code, a Codex vagy a Cursor el is indíthatja a fejlesztő AWS-regisztrációját. A kérdés, hogy az ügynök céges vagy saját fiókban dolgozik-e