Az Anthropic jelentősen kibővítette Project Glasswing nevű kiberbiztonsági programját, amelynek célja, hogy a legfejlettebb mesterséges intelligencia-modellek segítségével még a támadók előtt azonosítsák a szoftverhibákat és biztonsági réseket.
A vállalat bejelentése szerint a programhoz további mintegy 150 szervezet csatlakozik több mint 15 országból, miután az első résztvevők már több mint 10 000 magas és kritikus súlyosságú sérülékenységet tártak fel különböző szoftverekben és infrastruktúrákban.
A kritikus infrastruktúra védelme került a középpontba
A program új résztvevői elsősorban olyan szervezetek, amelyek létfontosságú infrastruktúrát üzemeltetnek vagy támogatnak, többek között:
- villamosenergia-termelés és -elosztás,
- víziközművek,
- egészségügyi intézmények,
- távközlési szolgáltatók,
- hardvergyártók,
- nyílt forráskódú projektek,
- felhőszolgáltatók és nagy technológiai beszállítók.
Az Anthropic szerint ezen rendszerek egy részének kompromittálása közvetlenül vagy közvetve akár több mint 100 millió emberre is hatással lehet.
A mesterséges intelligencia átalakítja a kiberbiztonságot
Évtizedeken keresztül a sérülékenységek felkutatása szinte kizárólag emberi szakértők feladata volt. A mesterséges intelligencia azonban ezt alapjaiban változtatja meg.
A modern AI-modellek már képesek:
- több millió sor forráskód elemzésére,
- sérülékenységek automatikus felismerésére,
- exploitok szimulálására,
- javítási javaslatok készítésére,
- biztonsági auditok támogatására.
A Project Glasswing célja, hogy ezeket a képességeket elsőként a védelmi oldalon hasznosítsák.
Több mint 10 000 súlyos sérülékenységet találtak
A program első szakaszában mintegy 50 megbízható partner kapott hozzáférést a Claude Mythos Preview modellhez.
Az eredmények még a tapasztalt biztonsági szakembereket is meglepték.
A résztvevők néhány hét alatt több mint:
- 10 000 magas vagy kritikus súlyosságú sérülékenységet
azonosítottak különböző rendszerekben, köztük:
- kormányzati szoftverekben,
- vállalati infrastruktúrában,
- széles körben használt nyílt forráskódú komponensekben.
A következő nagy kihívás: a „Mythos-osztályú” AI
A program vezetői szerint a következő 6–12 hónapban megjelenhetnek olyan mesterséges intelligencia-modellek, amelyek már rendkívül fejlett támadó képességekkel rendelkeznek.
Az ilyen rendszerek képesek lehetnek:
- sérülékenységek automatikus felderítésére,
- exploitláncok készítésére,
- rosszindulatú programok fejlesztésének támogatására,
- adathalász infrastruktúrák létrehozására,
- védelemkikerülési technikák kidolgozására.
A szakértők szerint ezzel jelentősen csökkenhet a belépési küszöb a kiberbűnözők számára, hiszen olyan támadások is elérhetővé válhatnak kevésbé tapasztalt szereplők számára, amelyek korábban komoly szakértelmet igényeltek.
A védekező AI versenye a támadó AI-val
A Glasswing egyik alapelve, hogy a védelmi oldalnak előbb kell hozzáférnie ezekhez a fejlett modellekhez, mint a támadóknak.
A résztvevők jelenleg többek között az alábbi feladatokra használják a Mythos modellt:
- nagyméretű forráskódok biztonsági auditjára,
- automatikus javítási javaslatok készítésére,
- penetrációs tesztek szimulációjára,
- fenyegetések elemzésére,
- sérülékenységek priorizálására,
- biztonságos kódellenőrzésre,
- régi rendszerek korszerűsítésének támogatására.
Ez jelentős szemléletváltást jelent, hiszen a hangsúly egyre inkább a proaktív védekezésre kerül át.
A nyílt forráskódú szoftverek stratégiai jelentősége
A program egyik kiemelt fókuszterülete a nyílt forráskódú szoftverek biztonsága.
A modern internet jelentős része olyan komponensekre épül, amelyeket gyakran mindössze néhány önkéntes fejlesztő tart karban.
Ez komoly kockázatot jelent, mert:
- kevés az erőforrás,
- korlátozott a biztonsági ellenőrzés,
- lassabb a hibajavítás.
Az Anthropic szerint a mesterséges intelligencia egyszerre jelenthet veszélyt és megoldást.
Miközben a támadók gyorsabban találhatnak hibákat, a védekező oldalon is lehetőség nyílik arra, hogy korábban elképzelhetetlen méretű nyílt forráskódú projektek biztonsági auditját automatizálják.
Geopolitikai jelentőség
A program nem csupán technológiai kezdeményezés.
Az Anthropic szerint a kritikus infrastruktúrát érő kibertámadások ma már nem pusztán informatikai incidensek, hanem nemzetbiztonsági kérdések is.
Különösen érzékeny célpontnak számítanak:
- egészségügyi rendszerek,
- energetikai hálózatok,
- közlekedési infrastruktúrák,
- kommunikációs szolgáltatók.
A mesterséges intelligencia jelentősen felgyorsíthatja az ilyen rendszerek elleni támadások előkészítését és végrehajtását.
A szabályozás új modellje
A Project Glasswing egyfajta kísérleti modellként is szolgál arra, hogyan lehet biztonságosan bevezetni a rendkívül nagy képességű AI-rendszereket.
A program jelenleg:
- csak ellenőrzött szervezetek számára érhető el,
- folyamatos biztonsági felügyelet mellett működik,
- fokozatosan bővül,
- valós környezetben teszteli a védelmi mechanizmusokat.
Ez a megközelítés a jövőben más területeken is megjelenhet, például:
- biotechnológiában,
- autonóm rendszereknél,
- tudományos kutatásban,
- nemzetbiztonsági elemzésekben.
Összegzés
A Project Glasswing bővítése jól mutatja, hogy a mesterséges intelligencia szerepe a kiberbiztonságban új szintre lépett. A kezdeményezés célja nem csupán a sérülékenységek gyorsabb felderítése, hanem egy olyan védelmi ökoszisztéma kialakítása, amely képes lépést tartani az AI által felgyorsított támadási módszerekkel.
A következő évek egyik legfontosabb kérdése az lesz, hogy a mesterséges intelligencia végül a védekezést vagy a támadókat segíti-e nagyobb mértékben. Az Anthropic szerint ehhez az szükséges, hogy a legfejlettebb modellek először a biztonsági szakemberek kezébe kerüljenek.
