A kiberbiztonsági kutatók egy új támadási technikát mutattak be, amelyet „ChatGPhish” néven emlegetnek. A módszer lényege, hogy a támadó nem közvetlenül a felhasználót támadja meg, hanem azt a weboldalt manipulálja, amelyet a felhasználó később egy AI-asszisztenssel – például ChatGPT-vel – összefoglaltat.
Ez egy új típusú fenyegetés, amely az úgynevezett prompt injection támadások családjába tartozik.
Mi a probléma lényege?
Tegyük fel, hogy egy felhasználó azt kéri:
„Foglald össze ezt a weboldalt!”
A ChatGPT elolvassa az oldalt és összefoglalja.
A kutatók szerint azonban egy támadó elhelyezhet:
- rejtett utasításokat,
- hamis linkeket,
- QR-kódokat,
- távoli képeket,
- adathalász elemeket
az adott weboldalon.
Az AI ezeket az elemeket beemelheti az összefoglalásába, így azok már a felhasználó által megbízhatónak tartott AI-felületen jelennek meg.
Miért veszélyesebb ez egy hagyományos phishingnél?
Normál esetben:
- gyanús e-mail érkezik,
- furcsa link látható,
- a felhasználó óvatos lehet.
ChatGPhish esetén viszont:
- A felhasználó meglátogat egy legitim oldalt.
- Az oldalt összefoglaltatja AI-val.
- A támadó által beágyazott tartalom az AI válaszában jelenik meg.
A pszichológiai hatás nagyon erős:
„Ha a ChatGPT mutatja, biztosan megbízható.”
Pontosan ezt a bizalmat használja ki a támadás.
Mire használható?
A kutatók szerint többek között:
Adathalász linkek megjelenítésére
Például:
- Microsoft 365
- Google Workspace
- banki belépőoldalak
hamis másolataihoz vezető linkek.
Hamis biztonsági figyelmeztetésekre
Például:
„A fiókja veszélyben van.”
„Kattintson ide az ellenőrzéshez.”
Rosszindulatú QR-kódokra
A felhasználó:
- telefonjával beolvassa,
- mobilon nyitja meg,
- megkerüli a vállalati védelmek egy részét.
Metaadatok gyűjtésére
A támadó bizonyos esetekben megszerezheti:
- IP-címet,
- böngészőinformációkat,
- eszközadatokat,
- HTTP fejléc-információkat.
Mi az a Prompt Injection?
Ez az AI-rendszerek egyik legfontosabb új kockázata.
A támadó nem programhibát használ ki.
Ehelyett:
- szöveges utasításokat,
- rejtett promptokat,
- kontextusmanipulációt
alkalmaz.
Az AI azt hiszi, hogy ezek legitim információk.
Valójában a támadó próbálja befolyásolni a válaszát.
Nem csak a ChatGPT érintett
A probléma általános.
Hasonló támadások jelentek meg:
- AI keresőkben
- vállalati AI asszisztensekben
- dokumentum-összefoglaló rendszerekben
- fejlesztői AI eszközökben
A kutatók korábban már bemutattak hasonló technikákat:
- Microsoft Copilot
- Claude AI
- különböző AI-kódoló ügynökök ellen is.
Fejlesztői AI eszközök különösen veszélyeztetettek
A kutatás szerint az új generációs AI coding agentek ellen már léteznek támadások:
SymJack
A támadó:
- projektfájlokat manipulál,
- konfigurációt módosít,
- végül tetszőleges kódot futtat.
TrustFall
A támadó:
- egy ártatlannak tűnő Git repositoryt oszt meg,
- a fejlesztő megbízik benne,
- az AI automatikusan elindít rosszindulatú komponenseket.
Mit jelent ez a vállalatok számára?
A legfontosabb tanulság:
Az AI által megjelenített információt sem szabad automatikusan megbízhatónak tekinteni.
Ugyanúgy ellenőrizni kell:
- a linkeket,
- a QR-kódokat,
- a hivatkozásokat,
- a letöltéseket,
mint bármely más forrás esetében.
Mit tehet egy szervezet?
Felhasználói oldal
✅ AI válaszban szereplő linkek ellenőrzése
✅ QR-kódok óvatos kezelése
✅ AI által mutatott bejelentkezési oldalak ellenőrzése
✅ oktatás a prompt injection támadásokról
Technikai oldal
✅ DNS szűrés
✅ URL szűrés
✅ böngésző izoláció
✅ EDR/XDR rendszerek
✅ AI használati szabályzat kialakítása
AI Governance
Egyre fontosabb kérdés:
- milyen AI szolgáltatásokat használhatnak a munkatársak,
- milyen adatok adhatók át,
- hogyan ellenőrzik az AI által generált tartalmakat.
Összegzés
A ChatGPhish nem klasszikus sérülékenység, hanem egy új típusú AI-biztonsági kockázat.
A támadó:
- manipulál egy weboldalt,
- az AI feldolgozza,
- a rosszindulatú tartalom megjelenik a megbízhatónak tekintett AI-felületen,
- a felhasználó könnyebben válik áldozattá.
Ez jól mutatja, hogy a jövő kibertámadásai nem feltétlenül operációs rendszereket vagy alkalmazásokat támadnak majd elsőként, hanem azokat az AI-rendszereket, amelyek egyre gyakrabban közvetítik az információt a felhasználók felé.
