Ez egy teljes szemléletváltás.
Az OWASP új útmutatója egy dolgot nagyon világosan kimond: 👉 a GenAI rendszerek legnagyobb kockázata NEM a modell… hanem az ADAT
⚠️ Miért kritikus ez most?
A generatív AI (LLM-ek, agentek) miatt:
- 🚀 brutális adatfeldolgozás történik
- 🔄 input → modell → output → visszacsatolás
- 🌐 sok rendszer összekapcsolódik
👉 ez létrehoz egy új, komplex támadási felületet
🧠 A legfontosabb felismerés
A klasszikus security így gondolkodott:
👉 rendszer + hálózat + alkalmazás
Az új modell:
👉 DATA PIPELINE SECURITY
🔍 Hol vannak a kockázatok?
Az OWASP teljes lifecycle-t néz:
1. 📚 Training data
- poisoned dataset
- backdoor tanítás
- bias injection
2. ⚙️ Fine-tuning
- rossz adatokkal „átnevelhető” modell
- domain specifikus manipuláció
3. 💬 Prompt (input)
- prompt injection
- data exfiltration
- jailbreak támadások
4. 🧾 Output
- érzékeny adat kiszivárgás
- hallucináció → üzleti döntési hiba
- compliance sértés
🚨 Új típusú támadások (amit sokan még nem kezelnek)
👉 ezek NEM klasszikus sérülékenységek:
- prompt injection
- model manipulation
- training data poisoning
- output leakage
👉 ezek ellen nem elég egy WAF vagy SIEM
🧩 Mit javasol az OWASP?
🔐 1. AI-specifikus security framework
Nem elég a hagyományos AppSec
🔄 2. End-to-end védelem
Teljes lánc:
👉 adat → modell → output → monitoring
🧪 3. AI security testing
- adversarial tesztelés
- prompt tesztek
- output validáció
👁️ 4. Folyamatos monitorozás
- prompt activity
- output anomáliák
- data access minták
🧱 5. Validation minden szinten
- input validáció
- output kontroll
- data integrity
🧠 Amit sok cég még nem ért
A GenAI rendszerek:
👉 nem statikusak
hanem:
- tanulnak
- változnak
- reagálnak
👉 tehát a security-nek is dinamikusnak kell lennie
🔥 Gyakorlat (amit most kellene csinálni)
Ha céges AI-t használtok:
✅ Prompt security layer
- input szűrés
- injection detection
✅ Output kontroll
- sensitive data filter
- policy enforcement
✅ Data governance
- milyen adat mehet be?
- honnan jön?
✅ Logging + audit
- ki mit kérdezett?
- mit adott vissza?
✅ Zero trust AI
- ne bízz a modellben automatikusan
🔮 Trend (nagyon fontos)
Ez a jövő:
👉 AI security = data security
és:
👉 SOC → AI SOC
🎯 Röviden
Az OWASP üzenete:
👉 ha az adat nincs kontroll alatt
👉 az AI rendszer sem biztonságos
