Generatív AI az AWS-en – az adat az Ön fiókjában marad.
Amazon Bedrockra építünk: a modellek a saját AWS-környezetében érik el a dokumentumait, szűrők védik az érzékeny adatot, és minden kérés auditálható.
- Saját AWS-fiók
- Az adat nem kerül modelltanításra
- PoC akár AWS-finanszírozással
Kérek egy összefoglalót a tegnapi ügyfélpanaszokról, témák szerint.
- Szállítási késés – 14 panasz, főként egy futárcégnél.
- Számlázási hiba – 6 panasz, ugyanaz a termékkód.
- Visszatérítés – 4 panasz, a határidő miatt.
Kérek választervezetet a számlázási panaszokra.
Szemléltető példa – nem ügyféladat.
Ismerős helyzet?
Így szokott kezdődni – és ezekre a helyzetekre építjük a megoldást.
Így oldjuk megSzeretnénk AI-t, de az ügyféladat nem mehet ki egy nyilvános chatbotba.
⚠ Adatvédelmi aggályA kollégák már saját fiókkal használják a ChatGPT-t. Fogalmunk sincs, mit töltenek fel.
⚠ Árnyék-AIMennyibe fog ez kerülni havonta, ha mindenki használja?
⚠ Kiszámíthatatlan költségAmit felépítünk
Vállalati GenAI-platform, a saját AWS-környezetében.
Amazon Bedrock
Vezető modellek (pl. Anthropic Claude, Amazon Nova, Llama) egy szerződésben, a saját fiókban.
Vállalati tudásbázis
RAG a saját dokumentumaira, jogosultság szerint, forrásmegjelöléssel.
Guardrails
Személyes adatok kitakarása, tiltott témák és válaszok szűrése.
Privát kapcsolat
PrivateLink, KMS-titkosítás – az adat nem hagyja el a környezetet.
Audit
Minden kérés és válasz naplózva, visszakereshetően.
Költségkontroll
Kvóták, budget, modellválasztás a feladathoz és a költséghez.
A bevezetés lépésről lépésre
Az első PoC-tól a vállalati platformig.
Felhasználási eset és PoC
Egy jól körülhatárolt felhasználási esettel indulunk, valós adatokon. A PoC néhány hét alatt megmutatja, mit tud a megoldás, és mennyibe kerülne élesben.
- Kiválasztott felhasználási eset
- Valós adatokon
- Költség- és minőségmérés
Modellválasztás
A Bedrockon több modell érhető el egy helyen. A feladathoz mérjük ki, melyik adja a legjobb minőséget a legkedvezőbb áron – és később kódátírás nélkül cserélhető.
- Modellek összevetése
- Minőség, sebesség, ár
- Cserélhető architektúra
Tudásbázis és védelmek
A dokumentumokat jogosultsággal indexeljük, a Guardrails kitakarja a személyes adatokat és szűri a nem kívánt tartalmat. A válaszok forrásmegjelöléssel érkeznek.
- RAG jogosultság szerint
- PII-kitakarás
- Tiltott témák szűrése
Éles üzem és költségkontroll
Az éles bevezetésnél kvótákat, budgetet és megfigyelést állítunk be, a használatot és a költséget dashboardon mutatjuk. Az eredmény egy kontrollált, bővíthető vállalati AI-platform.
- Kvóták és budget
- Használati dashboard
- Audit napló
GenAI-architektúra a saját AWS-fiókjában
A felhasználók és a vállalati rendszerek privát, titkosított kapcsolaton érik el a Bedrockot; a Guardrails szűr, a tudásbázis a saját dokumentumokból dolgozik, minden kérés auditált.
AI a cégnél – szabályozatlanul és saját platformon
- Magánfiókos chatbotok, ismeretlen adatkezelés
- Ügyféladat nyilvános szolgáltatásban
- Nincs nyoma, ki mit kérdezett
- Kiszámíthatatlan, szétszórt költség
- Egy vállalati AI-platform, SSO-val
- Az adat a saját AWS-fiókban marad
- Minden kérés auditálható
- Kvóta, budget, átlátható költség
Tipikus felhasználások
Összefoglaló és választervezet
Panaszok, jegyek, levelek feldolgozása.
Belső asszisztens
Szabályzatok, folyamatok, dokumentáció.
Szerződés-elemzés
Kockázatos pontok, határidők kigyűjtése.
Ajánlattervezet
Korábbi ajánlatok és termékadatok alapján.
Fejlesztői asszisztens
Kódmagyarázat, tesztgenerálás, dokumentáció.
Érzékeny adatok
Zárt környezetben, auditálhatóan.
Saját projektjeink
Tenderárazás generatív AI-jal
Kihívás
Évente mintegy 250 tender, ajánlatonként 6–8 óra kézi munka.
Megoldás
A képletek ellenőrzése, az ajánlatok feldolgozása és az ütemterv generatív AI-jal (Amazon Bedrock), a cég saját AWS-fiókjában.
Eredmény
Ajánlatonként 1–2 óra (kb. 75%-kal kevesebb), évente mintegy 1000–1500 felszabaduló mérnökóra.
30 év tervrajzai kereshetően, generatív AI-jal
Kihívás
30 év tervrajzaiban az alkatrészek nem voltak kereshetők; a bizalmas rajzok nem kerülhettek külső AI-szolgáltatáshoz.
Megoldás
A tervrajzok feldolgozása generatív AI-jal, a cég saját AWS-fiókjában; GenAI-módszertanok a tervezők napi munkájában.
Eredmény
Az alkatrészek 30 év rajzaiból kereshetők.
Agentic AI egy nagy forgalmú szolgáltatásban
Kihívás
Önállóan dolgozó AI-ügynökök – biztonságosan és skálázhatóan.
Megoldás
Architektúra-tanácsadás az AWS-en, majd fejlesztés.
Eredmény
A tanácsadásból éles fejlesztés lett, amely azóta is folytatódik.
Amiből építkezünk
Modellek
- Anthropic Claude
- Amazon Nova
- Meta Llama
- Mistral
Platform
- Amazon Bedrock
- Knowledge Bases
- Guardrails
- AgentCore
Adat
- Amazon S3 · KMS
- Amazon OpenSearch
- PrivateLink
Kontroll
- CloudTrail
- AWS Budgets
- IAM Identity Center
Vállalati szintű adatvédelem
- Az adat a saját AWS-fiókban, titkosítva
- A Bedrock az adatait nem használja modelltanításra
- PII-kitakarás és tartalomszűrés
- Teljes audit napló
Gyakori kérdések
Biztonságos az adatunk?
Igen: a Bedrock a saját AWS-fiókjában fut, a kapcsolat privát és titkosított, és az AWS az adatait nem használja modelltanításra. A hozzáférést a meglévő jogosultságok szabályozzák.
Melyik modellt érdemes választani?
A feladattól függ. A PoC során több modellt mérünk ki a saját adatain, és a minőség, sebesség és ár alapján javaslunk. A modell később kódátírás nélkül cserélhető.
Finanszírozhatja az AWS?
Bizonyos feltételek mellett igen: az AWS a PoC-t és az AI-felmérést partnerprogramokon keresztül támogathatja. A jogosultságot az első egyeztetésen megnézzük.
Mennyibe kerül havonta?
A használattól és a választott modelltől függ. Kvótákkal és budgettel a költség kontrollálható; a PoC végén becslést adunk az éles üzemre.
Beszéljük át az Ön helyzetét
Egy kötelező kérdés, a neve és az e-mail-címe – a többi mező nem kötelező.
- Átnézzük a válaszait.
- Kollégánk felveszi Önnel a kapcsolatot, és egy rövid hívásban pontosítjuk a célokat.
- Konkrét javaslatot adunk az első lépésre.


