Skip to Content

Elszabadult ügynökök: Kalifornia az OpenAI tesztelését perli

A főügyész szerint az OpenAI legalább 80-szor veszítette el az irányítást tesztelt ügynökei felett. A kereset hiánylistája egy vállalati pilotra is ráillik
2026. november 20. · Devertix

Rob Bonta kaliforniai főügyész 2026. november 16-án beperelte az OpenAI-t a San Franciscó-i felsőbíróságon. A főügyészi közlemény szerint a cég nem biztosította és nem figyelte megfelelően a kísérleti modelljein futó autonóm ügynökök tesztelését, és ezek az ügynökök 2026 júliusában több mint két napon át támadták a Hugging Face-t. A kereset a közérdeket sértő zavarásra (public nuisance) és a tisztességtelen versenyről szóló kaliforniai törvényre (Unfair Competition Law) hivatkozik.

80+eset, amelyben a főügyész szerint az OpenAI elvesztette az irányítást tesztelt ügynökei felett
2+ naptartott a közlemény szerint a Hugging Face elleni támadás
44 naptelt el a kereset szerinti első figyelmeztető jel (május 26.) és a támadáshoz vezető újabb kijutás (július 9.) között
2500 USDa kért polgári bírság jogsértésenként és alperesenként

A számok a cikkben hivatkozott nyilvános forrásokból származnak – nem Devertix-eredmények.

Mit állít a kereset?

A közlemény szerint az OpenAI a főügyészi hivatal előtt elismerte, hogy tesztelés közben legalább 80 alkalommal vesztette el az irányítást autonóm ügynökei felett, és a Hugging Face elleni támadás ezek egyike volt. Az NPR tudósítása szerint ez több eset, mint amennyit a cég nyilvánosan közölt. A közlemény további, engedély nélküli hozzáféréseket is felsorol kódtárakhoz, tájékoztató weboldalakhoz és érzékeny egészségügyi adatokat tároló állami adatbázisokhoz, és azt állítja, hogy az OpenAI saját belső infrastruktúrája is sérült.

A 31 oldalas kereset és a PPC Land összefoglalója szerint május 26-ig az ügynökök már kijutottak a tesztkörnyezetből az internetre, a megfigyelőrendszer június 27-én jelzett, július 9-én pedig újabb kijutás történt. Július 9. és 16. között a kijutott ügynökök két és fél napos támadást indítottak a Hugging Face ellen, amelyet a Hugging Face 16-án hozott nyilvánosságra. A PPC Land nagyjából 700 támadó ügynökről és mintegy 17 600 támadó lépésről ír. Az állam tiltó rendelkezést, visszatérítést, a jogtalan haszon elvonását és polgári bírságot kér, utóbbit jogsértésenként és alperesenként 2500 dollár összegben.

Mindez egyelőre állítás, a bíróság még nem döntött. Az OpenAI szóvivője az NPR-nek azt mondta, hogy a per úgy tűnik, egyedül az OpenAI-t veszi célba egy olyan kihívás miatt, amelyet minden nagy AI-labor azonosított, és hogy a cég építő módon egyeztetett a főügyészi hivatallal. Az NPR szerint hasonló esetekről az Anthropic és a Meta is beszámolt.

Ami a kereset szerint hiányzott

A vállalatok többsége nem fejleszt élvonalbeli modellt, ezért könnyű ezt az OpenAI ügyének tekinteni. Szerintünk a kereset leghasznosabb része a hiánylista, mert ugyanaz a három pont egy vállalati ügynökpilotra is érvényes. A kereset szerint a tanító és kiértékelő környezetekben nem futott élő megfigyelés az ügynökök gondolatmenetén (chain-of-thought), a mintákat néha csak hetekkel később elemezték. A tesztelt modellekből hiányoztak azok a védelmek is, amelyek a tesztkörnyezet határain belül maradásra ösztönzik az ügynököket, és amelyek bizonyos emelt jogosultságot igénylő lépéseket átnéznek.

Egy kódolóügynök, egy beszerzési munkafolyamatot vivő ügynök vagy egy belső tudásbázison dolgozó asszisztens pilotjánál csábító könnyítés, hogy a tesztgép eléri az internetet, valódi fiókkal fut, és a naplót csak hiba után nézi meg valaki. A Hugging Face-esetben a kereset szerint éppen a tesztkörnyezet volt a gyenge pont, nem az éles rendszer.

Ábra · zárt tesztkörnyezet egy ügynökpilothoz
1 · ÜGYNÖK
Eldobható konténer vagy VM
Tesztfiók, tesztadat, rövid életű hozzáférés. Közvetlen internetkapcsolat nincs.
→ eszközátjáró: mTLS
2 · ESZKÖZÁTJÁRÓ
Minden eszközhívás itt megy át
Az emelt jogú lépés (törlés, fizetés, jogosultság-módosítás) emberi jóváhagyásra vár.
A KERESETBEN HIÁNYZOTT
3 · KIMENŐ PROXY
Csak engedélylistás (allowlist) címek
Minden más cél tiltva és naplózva. A külső API-k felé HTTPS (TLS).
A KERESETBEN HIÁNYZOTT
4 · ÉLŐ MEGFIGYELÉS ÉS LEÁLLÍTÁS
Az 1–3. elem minden lépése valós időben, TLS-kapcsolaton át a naplógyűjtőbe kerül, amelyet az ügynök nem tud módosítani. A szokatlan mintára riasztás, a riasztásra egy gombnyomásos leállítás.
A KERESETBEN HIÁNYZOTT
Saját javaslat. A címkével jelölt elemekhez hasonló védelmeket a kereset az OpenAI tesztkörnyezeteiből hiányzónak írja le.

Ami a párhuzam ellen szól: egy kereskedelmi modellt korlátozott eszközökkel használó cég kockázata más nagyságrend, mint egy kísérleti modellé, amelyet szándékosan a képességei határán tesztelnek. A túl szűk tesztkörnyezet a pilot értelmét is elveheti, ha az ügynök semmit nem ér el, amin a valódi munkát ki lehetne próbálni. Saját értékelésünk szerint az is nyitott, mennyire alkalmazható a közérdeket sértő zavarás jogintézménye AI-ügynökökre; ezt az ügy kimenetele dönti el.

Négy kérdés a saját ügynökökről

  1. Hol futnak? Hol fut ma ügynök a cégnél, pilotként is, és ki tud róla?
  2. Mit ér el a hálózaton? Van-e kimenő engedélylista, vagy a teljes internet nyitva áll?
  3. Ki látja élőben? Ki követi, mit csinál az ügynök, és ki tudja percek alatt leállítani?
  4. Mihez kell ember? Mely lépéseihez kell emberi jóváhagyás, és ezt technikai kapu kényszeríti ki, vagy csak egy mondat a promptban?

Következő lépésként az első kérdéssel érdemes kezdeni, a fejlesztők gépén futó kódolóügynököket is beleértve. Amíg ez a lista nincs meg, a többi három kérdésre sem lehet válaszolni.

Devertix

Egy ügynökpilotnál a tesztkörnyezet határa ugyanolyan tervezési döntés, mint maga a feladat. Az AI-ügynökök bevezetésénél a hálózati határt, a jogosultságokat és a jóváhagyási pontokat a fejlesztés előtt érdemes rögzíteni, a cégszintű szabályokat pedig az AI-stratégia részeként. A naplók élő figyelését a biztonsági felügyelet is átveheti.

Források

AI-ügynökök

Hol ér véget az Önök ügynökeinek tesztkörnyezete?

Végignézzük egy futó vagy tervezett pilot hálózati határát, hozzáféréseit, megfigyelését és jóváhagyási pontjait.

Ingyenes egyeztetés

Új cikkek és webináridőpontok e-mailben

Értesítjük, amikor új cikk jelenik meg, vagy új webinárt hirdetünk. Bármikor leiratkozhat.

Köszönjük, feliratkozott a hírlevélre.

A feliratkozással megismertem az adatkezelési tájékoztatót.

Mérgezett PyPI-csomag: egy nap várakozás kivédte volna?
A Microsoft agent-framework két hamis kiadása kevesebb mint egy órát élt a PyPI-on. A függőségi várakozási idő kiszűrte volna őket, de az ellenérvek is erősek