2026 áprilisában Jer Crane, az autókölcsönzőknek szoftvert fejlesztő PocketOS alapítója hosszú bejegyzésben írta le, mi történt a cégénél egy hétvégén. A programozást segítő AI-ügynök egy rutinfeladat közben a hozzáférési adatok eltérésébe ütközött, és saját elhatározásából úgy „javította” ki a hibát, hogy törölte a cég éles, vagyis a napi működést kiszolgáló adatbázisát, Crane szerint a mentésekkel együtt. Az alapító szerint mindez kilenc másodpercig tartott, megerősítést az ügynök nem kért. A Euronews beszámolója szerint a kiesés több mint 30 órán át tartott, a kölcsönzők ezalatt nem érték el ügyfeleik adatait és foglalásait. Crane két nappal később jelezte, hogy az adatok helyreálltak.
A számok a cikkben hivatkozott nyilvános forrásokból származnak – nem Devertix-eredmények.
Ha ugyanez az AI egy csevegőablakban ül, legfeljebb rossz tanácsot ad, amit valaki vagy megfogad, vagy nem. A kárt az okozta, hogy az AI kezében eszköz volt, és ezzel az eszközzel törölni is lehetett. Ebben a részben azt nézzük meg, milyen szinteken dolgozhat egy AI egy cégben, és melyik szint milyen kockázatot hoz.
Három szint, gyakran ugyanazzal a modellel
A csevegőrobot (chatbot) kérdésre válaszol. Szöveget ad, és a felhasználó dönti el, mit kezd vele. Ilyen a weboldalak ügyfélszolgálati ablaka vagy egy általános csevegőfelület.
Az asszisztens egy munkatárs nevében dolgozik, az ő hozzáférésével. Elolvassa a leveleit és dokumentumait, összefoglal, válaszpiszkozatot ír. A küldés és a döntés még az emberé.
Az ügynök (agent) célt kap, nem kérdést. Maga tervezi meg a lépéseket, és végre is hajtja őket: programot indít, rekordot módosít, levelet küld, fizetést kezdeményez. Az egyes lépések között nem feltétlenül néz rá ember.
A három szó a piacon elég szabadon cserélődik, ugyanazt a terméket egyik helyen asszisztensnek, máshol ügynöknek hívják. Vezetői szempontból ezért a megnevezés kevés. Azt kell megkérdezni, mit olvashat az eszköz, mit írhat, és mit tehet meg egyedül.
Három kockázat
A csevegőrobotnál a fő kockázat a téves állítás a cég nevében. Az 1. részben említett Air Canada-ügyben a kanadai vitarendező testület kimondta, hogy a weboldal csevegőrobotjának válaszáért a cég felel.
Az asszisztensnél az adat a kérdés. 2025 júniusában nyilvánosságra került egy kritikus besorolású hiba a Microsoft 365 Copilot asszisztensben (a nyilvános sebezhetőség-nyilvántartásban CVE-2025-32711, súlyossága 9,3 a tízes skálán). A hivatalos leírás szerint egy jogosulatlan támadó az AI-nak szánt, becsempészett utasítással információt szerezhetett meg hálózaton keresztül. Az általános tanulság ennél tágabb. Az asszisztens mindent elolvas, amihez a munkatárs hozzáfér, a kívülről érkező szöveget is, és abban utasítás is lehet. Ezt a jelenséget promptinjekciónak (prompt injection) hívják, a 15. részben részletesen foglalkozunk vele.
Az ügynöknél a visszafordíthatatlan cselekvés a tét. Az OWASP (az alkalmazásbiztonsággal foglalkozó nemzetközi szakmai közösség) 2025-ös listáján külön kockázat a túlzott cselekvőképesség (excessive agency). Ez a lista szerint akkor áll fenn, ha a modell váratlan, kétértelmű vagy manipulált kimenete alapján kárt okozó művelet hajtható végre. Jellemzően három ok áll mögötte, egyenként vagy együtt: túl sok funkció, túl széles jogosultság és túl nagy önállóság. A tudósítások alapján a PocketOS-esetben legalább kettő felismerhető, a túl széles jogosultság és a túl nagy önállóság. A Fast Company beszámolója szerint az ügynök talált egy hozzáférési kulcsot (API token), amellyel tárterületet lehetett törölni, és magától élt is vele.
Vezetői döntés: milyen forrásból válaszolhat, és mely kérdésekre csak előre megírt választ adhat.
Vezetői döntés: mihez férhet hozzá, mi kerül naplóba, milyen adatot nem kaphat meg.
Vezetői döntés: saját, szűk jogosultság, emberi jóváhagyás a nagy hatású lépés előtt, tőle független mentés.
Álláspontunk, és ami ellene szól
Véleményünk szerint egy AI-eszköz kockázatát a jogköre határozza meg, a neve keveset számít. Ügynököt ezért olyan feladatra érdemes engedni, ahol minden lépés visszacsinálható, vagy ahol a visszafordíthatatlan lépés (törlés, utalás, ügyfélnek kimenő levél) előtt ember hagy jóvá. Az OWASP is ezt javasolja: a nagy hatású műveletekhez emberi jóváhagyás kell, a jogosultság pedig a feltétlenül szükséges minimum legyen. Mi ehhez hozzátesszük, hogy az ügynök saját hozzáférést kapjon, és ne egy rendszergazdáét örökölje.
Sok feladathoz ügynök sem kell. Ha a lépések sorrendje előre ismert, egy rögzített menetű folyamat-automatizálás kiszámíthatóbb, és benne az AI csak ott dönt, ahol szöveget kell értelmezni.
Ezzel szemben komoly érv, hogy az ügynök értéke éppen abban van, hogy nem kell minden lépésére ránézni. A sok jóváhagyás lelassítja a munkát, és egy idő után gépies kattintgatássá válik, amikor már senki nem olvassa el, mit hagy jóvá. Ez valós veszély. A válasz szerintünk a kevés, de valódi ellenőrzési pont: csak a visszafordíthatatlan lépéseknél, és ott elég információval ahhoz, hogy a jóváhagyó érdemben dönthessen. Arról, hol kötelező az emberi jóváhagyás, a 20. részben lesz szó.
Mielőtt ügynököt enged a rendszereibe, készítsen jogkörtérképet: minden AI-eszközhöz egy sor arról, mit olvas, mit módosít, mit törölhet, kinek a nevében dolgozik, és melyik lépése nem csinálható vissza. Ahol az utolsó oszlop nem üres, oda jóváhagyási pont és tőle független mentés kell. Ha ügynök bevezetését tervezi, az AI-ügynökök szolgáltatásunk ezzel a tervezéssel kezdődik.
Kérdések a következő vezetői értekezletre
- A nálunk használt AI-eszközök közül melyik csak válaszol, melyik fér hozzá a munkatársak leveleihez és fájljaihoz, és melyik hajt végre műveletet?
- Kinek a jogosultságával dolgozik az az eszköz, amely más rendszerben módosít vagy töröl?
- Melyik AI által végezhető lépés visszafordíthatatlan nálunk, és ki hagyja jóvá előtte?
- Van-e olyan mentésünk, amelyhez egy AI-ügynök a saját hozzáférésével nem fér hozzá?
Idáig jutottunk: a 2. részben a válasz ellenőrizhetőségét néztük, most azt, hogy minél többet tehet az AI egyedül, annál szűkebb jogkört és annál több vezetői döntést igényel. Holnap, a 4. részben arról lesz szó, mitől drága és mitől olcsó egy AI-eszköz, vagyis hogyan működik a használatalapú díjazás.
Források
- Euronews: An AI agent deleted a company's entire database in 9 seconds – then wrote an apology (2026. április 28.)
- Fast Company: An AI agent deleted a software company's entire database… (2026. április 28.)
- CVE-2025-32711: M365 Copilot Information Disclosure Vulnerability (közzétéve 2025. június 11.; a Microsoft adatai alapján, cvefeed.io)
- OWASP Top 10 for LLM Applications 2025 – LLM06:2025 Excessive Agency
- Moffatt v. Air Canada, 2024 BCCRT 149 (2024. február 14.)
Tudja, mit tehetnek meg az AI-eszközei egyedül?
Egy rövid egyeztetésen végignézzük, melyik eszköze melyik szinten dolgozik, és hol kell jogosultságot szűkíteni vagy jóváhagyási pontot beépíteni.