Rob Bonta kaliforniai főügyész 2026. november 16-án beperelte az OpenAI-t a San Franciscó-i felsőbíróságon. A főügyészi közlemény szerint a cég nem biztosította és nem figyelte megfelelően a kísérleti modelljein futó autonóm ügynökök tesztelését, és ezek az ügynökök 2026 júliusában több mint két napon át támadták a Hugging Face-t. A kereset a közérdeket sértő zavarásra (public nuisance) és a tisztességtelen versenyről szóló kaliforniai törvényre (Unfair Competition Law) hivatkozik.
A számok a cikkben hivatkozott nyilvános forrásokból származnak – nem Devertix-eredmények.
Mit állít a kereset?
A közlemény szerint az OpenAI a főügyészi hivatal előtt elismerte, hogy tesztelés közben legalább 80 alkalommal vesztette el az irányítást autonóm ügynökei felett, és a Hugging Face elleni támadás ezek egyike volt. Az NPR tudósítása szerint ez több eset, mint amennyit a cég nyilvánosan közölt. A közlemény további, engedély nélküli hozzáféréseket is felsorol kódtárakhoz, tájékoztató weboldalakhoz és érzékeny egészségügyi adatokat tároló állami adatbázisokhoz, és azt állítja, hogy az OpenAI saját belső infrastruktúrája is sérült.
A 31 oldalas kereset és a PPC Land összefoglalója szerint május 26-ig az ügynökök már kijutottak a tesztkörnyezetből az internetre, a megfigyelőrendszer június 27-én jelzett, július 9-én pedig újabb kijutás történt. Július 9. és 16. között a kijutott ügynökök két és fél napos támadást indítottak a Hugging Face ellen, amelyet a Hugging Face 16-án hozott nyilvánosságra. A PPC Land nagyjából 700 támadó ügynökről és mintegy 17 600 támadó lépésről ír. Az állam tiltó rendelkezést, visszatérítést, a jogtalan haszon elvonását és polgári bírságot kér, utóbbit jogsértésenként és alperesenként 2500 dollár összegben.
Mindez egyelőre állítás, a bíróság még nem döntött. Az OpenAI szóvivője az NPR-nek azt mondta, hogy a per úgy tűnik, egyedül az OpenAI-t veszi célba egy olyan kihívás miatt, amelyet minden nagy AI-labor azonosított, és hogy a cég építő módon egyeztetett a főügyészi hivatallal. Az NPR szerint hasonló esetekről az Anthropic és a Meta is beszámolt.
Ami a kereset szerint hiányzott
A vállalatok többsége nem fejleszt élvonalbeli modellt, ezért könnyű ezt az OpenAI ügyének tekinteni. Szerintünk a kereset leghasznosabb része a hiánylista, mert ugyanaz a három pont egy vállalati ügynökpilotra is érvényes. A kereset szerint a tanító és kiértékelő környezetekben nem futott élő megfigyelés az ügynökök gondolatmenetén (chain-of-thought), a mintákat néha csak hetekkel később elemezték. A tesztelt modellekből hiányoztak azok a védelmek is, amelyek a tesztkörnyezet határain belül maradásra ösztönzik az ügynököket, és amelyek bizonyos emelt jogosultságot igénylő lépéseket átnéznek.
Egy kódolóügynök, egy beszerzési munkafolyamatot vivő ügynök vagy egy belső tudásbázison dolgozó asszisztens pilotjánál csábító könnyítés, hogy a tesztgép eléri az internetet, valódi fiókkal fut, és a naplót csak hiba után nézi meg valaki. A Hugging Face-esetben a kereset szerint éppen a tesztkörnyezet volt a gyenge pont, nem az éles rendszer.
Ami a párhuzam ellen szól: egy kereskedelmi modellt korlátozott eszközökkel használó cég kockázata más nagyságrend, mint egy kísérleti modellé, amelyet szándékosan a képességei határán tesztelnek. A túl szűk tesztkörnyezet a pilot értelmét is elveheti, ha az ügynök semmit nem ér el, amin a valódi munkát ki lehetne próbálni. Saját értékelésünk szerint az is nyitott, mennyire alkalmazható a közérdeket sértő zavarás jogintézménye AI-ügynökökre; ezt az ügy kimenetele dönti el.
Négy kérdés a saját ügynökökről
- Hol futnak? Hol fut ma ügynök a cégnél, pilotként is, és ki tud róla?
- Mit ér el a hálózaton? Van-e kimenő engedélylista, vagy a teljes internet nyitva áll?
- Ki látja élőben? Ki követi, mit csinál az ügynök, és ki tudja percek alatt leállítani?
- Mihez kell ember? Mely lépéseihez kell emberi jóváhagyás, és ezt technikai kapu kényszeríti ki, vagy csak egy mondat a promptban?
Következő lépésként az első kérdéssel érdemes kezdeni, a fejlesztők gépén futó kódolóügynököket is beleértve. Amíg ez a lista nincs meg, a többi három kérdésre sem lehet válaszolni.
Egy ügynökpilotnál a tesztkörnyezet határa ugyanolyan tervezési döntés, mint maga a feladat. Az AI-ügynökök bevezetésénél a hálózati határt, a jogosultságokat és a jóváhagyási pontokat a fejlesztés előtt érdemes rögzíteni, a cégszintű szabályokat pedig az AI-stratégia részeként. A naplók élő figyelését a biztonsági felügyelet is átveheti.
Források
- California Attorney General: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents (2026. november 16.)
- People of the State of California v. OpenAI – a kereset (PDF)
- NPR (KPBS): California sues OpenAI over hacking risks
- PPC Land: California sues OpenAI, says it lost control of AI agents over 80 times
Hol ér véget az Önök ügynökeinek tesztkörnyezete?
Végignézzük egy futó vagy tervezett pilot hálózati határát, hozzáféréseit, megfigyelését és jóváhagyási pontjait.