Az OpenAI bejelentette a Lockdown Mode nevű új biztonsági funkciót, amelynek célja a mesterséges intelligencia rendszereket érintő egyik legnagyobb kihívás, a prompt injection támadások által okozott adatkiszivárgási kockázatok csökkentése.
A funkció elsősorban azoknak a felhasználóknak és szervezeteknek készült, akik érzékeny adatokat kezelnek, például:
- jogi dokumentumokat,
- pénzügyi adatokat,
- üzleti titkokat,
- kutatási anyagokat,
- egészségügyi információkat,
- szellemi tulajdont.
Mi az a prompt injection?
A prompt injection nem hagyományos sérülékenység.
A támadó nem a szoftvert töri fel, hanem a mesterséges intelligencia működését próbálja befolyásolni.
A rosszindulatú utasításokat elrejthetik:
- weboldalakon,
- PDF fájlokban,
- dokumentumokban,
- e-mailekben,
- képekben,
- külső adatforrásokban.
Ha az AI ezeket feldolgozza, a támadó megpróbálhatja rávenni arra, hogy:
- bizalmas információkat fedjen fel,
- nem kívánt műveleteket hajtson végre,
- külső szolgáltatásokkal kommunikáljon,
- adatokat továbbítson.
Mit csinál a Lockdown Mode?
Az OpenAI szerint a prompt injection teljes megszüntetése jelenleg nem reális cél.
A Lockdown Mode ezért nem a támadás megakadályozására koncentrál, hanem az esetleges károk minimalizálására.
Az alapelv:
minél kevesebb külső kapcsolat, annál kisebb adatlopási kockázat.
Milyen funkciókat korlátoz?
Lockdown Mode bekapcsolásakor több fejlett ChatGPT funkció korlátozásra vagy letiltásra kerül.
Böngészés
- a valós idejű webes böngészés korlátozott
- csak bizonyos biztonságos információforrások érhetők el
Képek
- nincs külső képletöltés
- nincs webes képek megjelenítése
Deep Research
- teljesen letiltásra kerül
Agent Mode
- nem használható
Canvas internetkapcsolat
- internetelérést igénylő kódok nem futtathatók
Fájlletöltések
- blokkolva vannak
Miért fontos ez?
A modern AI rendszerek egyre több külső szolgáltatáshoz kapcsolódnak:
- felhőszolgáltatások
- vállalati adatbázisok
- CRM rendszerek
- dokumentumtárak
- külső API-k
- weboldalak
Minél több kapcsolat létezik, annál nagyobb a támadási felület.
A Lockdown Mode ezt próbálja minimálisra csökkenteni.
Kiknek ajánlott?
Elsősorban:
✅ ügyvédi irodák
✅ pénzügyi szervezetek
✅ kutatóintézetek
✅ egészségügyi szolgáltatók
✅ kormányzati szervek
✅ kritikus infrastruktúrát üzemeltető szervezetek
✅ vállalati vezetők és DPO-k
Olyan környezetekben, ahol az adatszivárgás súlyos következményekkel járhat.
Fontos korlátozás
A Lockdown Mode és a Developer Mode egyszerre nem használható.
Ha az egyiket bekapcsolják:
- a másik automatikusan kikapcsolódik.
Ez azért szükséges, mert a Developer Mode számos olyan funkciót engedélyez, amelyeket a Lockdown Mode biztonsági okból tilt.
Nem jelent teljes védelmet
Az OpenAI hangsúlyozza:
A Lockdown Mode nem nyújt 100%-os védelmet.
A prompt injection támadások továbbra is:
- befolyásolhatják a modell viselkedését,
- hibás válaszokat okozhatnak,
- félrevezethetik az AI-t.
A fő cél az, hogy az érzékeny adatok ne tudjanak könnyen kijutni a rendszerből.
Új munkamenet-kezelési funkciók is érkeztek
Az OpenAI további biztonsági fejlesztéseket is bevezetett.
A felhasználók most már láthatják:
- az összes aktív munkamenetet,
- az eszköz típusát,
- a hozzávetőleges földrajzi helyet,
- a bejelentkezés idejét,
- az aktuális aktivitást.
Lehetőség van:
- egyes munkamenetek lezárására,
- gyanús eszközök azonnali kijelentkeztetésére.
Mit jelent ez vállalati szempontból?
A Lockdown Mode jól mutatja, hogy az AI-biztonság kezd ugyanarra az útra lépni, mint korábban a hagyományos IT-biztonság:
- minimális jogosultság elve (Least Privilege)
- hálózati szegmentáció
- adatvesztés-megelőzés (DLP)
- Zero Trust szemlélet
A jövőben várhatóan egyre több AI-rendszer fog rendelkezni hasonló „biztonsági profilokkal”, amelyek között a szervezetek az adatérzékenységük alapján választhatnak.
