Ingyenes AI-sérülékenységkeresőt indított az Anthropic a nyílt forráskódú projektek támogatására

Ingyenes AI-sérülékenységkeresőt indított az Anthropic

Az Anthropic elindította az OSS Scanner nevű ingyenes szolgáltatását, amely a vállalat legerősebb mesterségesintelligencia-modelljeivel keres biztonsági sérülékenységeket nyílt forráskódú szoftverekben. A kezdeményezés célja, hogy a fejlesztők még azelőtt felismerhessék a gyengeségeket, hogy azokat támadók használnák ki.

A részt vevő projektek rendszeres biztonsági vizsgálatokat kapnak. Az új szolgáltatás gyorsabb hozzáférést biztosít az eredményekhez azoknak a karbantartóknak, akik már a lehetséges sérülékenységekről is korán szeretnének értesülni. Forrás: az Anthropic OSS Scanner-bejelentése

A gyorsaság azonban az emberi ellenőrzés áthelyezésével jár. A szolgáltatás jelentései előzetes emberi értékelés nélkül készülnek és jutnak el a projektekhez, így a résztvevőknek kell eldönteniük, hogy egy jelzett probléma valódi-e, és indokol-e javítást. A megfelelő szakértelemmel rendelkező csapatoknál ez gyorsíthatja a hibák megszüntetését, ugyanakkor kérdés, hogy a karbantartók mennyi további vizsgálati munkát tudnak vállalni.

Az emberi ellenőrzés vált a folyamat szűk keresztmetszetévé

Az Anthropic sérülékenység-bejelentési kimutatása jól szemlélteti, mekkora különbség van a lehetséges problémák előállítása és a ténylegesen felhasználható biztonsági jelentések elkészítése között.

A vállalat október 2-i állapotjelentése 29 439 lehetséges hibát tartalmazott. Ezek közül külső biztonsági cégek 6123 találatot vizsgáltak meg, és 5674-et minősítettek érvényesnek. A kimutatás szerint összesen 6157 jelentést küldtek el 591 projekt karbantartóinak, részben ellenőrzött, részben közvetlen bejelentés formájában. Forrás: az Anthropic koordinált sérülékenység-bejelentési kimutatása

Ezeket a kategóriákat körültekintően kell értelmezni. A lehetséges hibák nem azonosak a megerősített sérülékenységekkel. Egy érvényesnek minősített találat pedig még lehet egy korábbi bejelentés ismétlése, vagy kívül eshet a projekt által meghatározott biztonsági követelményeken. Az Anthropic ezeket a korlátokat maga is elismeri.

A kimutatás 516 olyan javítást is rögzített, amelyről a vállalat tudta, hogy elkészült az eredeti projektben. Ez azonban késéssel követhető mutató, és egy upstream javítás megjelenése még nem jelenti azt, hogy az érintett szoftvert használó szervezetek vagy az arra épülő termékek már telepítették is azt.

A számok megmutatják, milyen hosszú út vezet a gyanús kódrészlet felismerésétől a működő rendszerek sérülékenységének megszüntetéséig.

Az OSS Scanner ezen a folyamaton ott változtat, hogy a saját értékelést vállaló projektek korábban megkaphatják a találatokat. Így hamarabb kezdődhet meg a vizsgálat és adott esetben a javítás.

Ígéretesek a korai tesztek, de az eredményeknek vannak korlátai

Az Anthropic a bejelentésében arról számolt be, hogy külső behatolástesztelők a szolgáltatás egy korai változatának 97 magas vagy kritikus súlyosságúnak jelzett találatát vizsgálták meg, összesen 48 projektből.

Ezek közül 85 megfelelt a vállalat koordinált sérülékenység-bejelentési követelményeinek. További 11 valódi problémára utalt, de már ismert sérülékenységet vagy a vizsgáló más találatát ismételte meg. Egy találat bizonyult érvénytelennek.

Ez biztató kezdeti jelzés a jelentések minőségéről. Ugyanakkor egy korai rendszer kiválasztott találatain végzett értékelésről van szó, amely nem garantálja ugyanilyen teljesítmény elérését minden projektben vagy a későbbi vizsgálatok során.

A vállalat a túlzó súlyossági besorolásokra és a projektek fenyegetési modelljének félreértésére vonatkozó visszajelzéseket is elismerte. A bejelentésben a PostgreSQL, az OpenSSL, a wolfSSL, a HotCRP és a curl karbantartóihoz kapcsolódó kedvező értékelések is szerepeltek. Forrás: az OSS Scanner indulásáról szóló kutatási bejegyzés

A jelentésekhez magyarázatot és a probléma önálló reprodukálását lehetővé tevő anyagot kívánnak mellékelni, valamint javítási javaslatot is, ha ilyen rendelkezésre áll. Ezek azért fontosak, mert ellenőrizhető bizonyítékot adnak a fejlesztők kezébe. Sem a reprodukálható példa, sem a javasolt javítás nem teszi feleslegessé a szakmai felülvizsgálatot.

Kik csatlakozhatnak, és mit igényel a részvétel?

Az OSS Scanner dokumentációja szerint a felvételnél előnyt élveznek a már működő, jelentős múlttal rendelkező projektek, amelyek fontosak az infrastruktúra vagy a felhasználók biztonsága szempontjából. A mérlegelés része a távoli támadásoknak való kitettség, valamint a felhasználók és a projektre épülő más szoftverek száma is.

Az Anthropic egyedileg értékeli a jelentkezéseket, és ellenőrzi, hogy a jelentkező valóban a projekt meghatározó karbantartói közé tartozik-e. A vállalat szerint a szolgáltatás elsősorban azoknak a projekteknek megfelelő, amelyek már képesek feldolgozni az ellenőrzött, magas és kritikus súlyosságú hibajelentéseket. Forrás: OSS Scanner-dokumentáció

A jelentkezés a hivatalos GitHub-tárolón keresztül történik. A karbantartóknak egy pull requestben kell megadniuk a projekt konfigurációját, a kapcsolattartási címet és a szoftver összeállításához szükséges utasításokat. Egy opcionális fenyegetésimodell-fájlban leírhatják a biztonsági feltételezéseket, a vizsgálaton kívül eső területeket és a súlyossági besorolással kapcsolatos elvárásokat. Forrás: az OSS Scanner hivatalos GitHub-tárolója

Ez az előkészítés több egyszerű adminisztrációnál. A vizsgálónak különbséget kell tennie egy nem szándékos biztonsági gyengeség és a szoftver által tudatosan megengedett működés között. Egy kizárólag teljesen megbízható rendszergazdának fenntartott funkciónak például más biztonsági jelentősége lehet, mint ugyanennek a funkciónak akkor, ha hitelesítés nélkül is elérhető.

A világos projektútmutatás közös alapot ad a találatok megítéléséhez, és csökkentheti azt az időt, amelyet a jelentések beérkezése után a feltételezések tisztázására kell fordítani.

Hogyan zajlanak a vizsgálatok, és hogyan érkeznek meg a jelentések?

A tároló dokumentációja több szakaszból álló folyamatot ír le. A projekteket elkülönített virtuális gépekben állítják össze. A kezdeti előkészítés során engedélyezett a hálózati hozzáférés, hogy a rendszer letölthesse a szükséges függőségeket. A biztonsági vizsgálat idejére azonban megszüntetik az internetelérést.

A találatokat e-mailben küldik el a megadott címzetteknek, a reprodukáláshoz szükséges részletekkel és — ha elérhető — javítási javaslatokkal együtt. A karbantartók OpenPGP nyilvános kulcs megadásával titkosított kézbesítést is kérhetnek. Ebben az esetben a jelentések kizárólag az elsődleges kapcsolattartóhoz jutnak el.

A dokumentáció arra is figyelmeztet, hogy a jelentkezési konfigurációban megadott e-mail-címek nyilvánosak. Emiatt célszerű külön biztonsági kapcsolattartási címet használni. A projektek szüneteltethetik a jelentések fogadását, vagy ki is léphetnek a szolgáltatásból. Forrás: az OSS Scanner működési és jelentkezési dokumentációja

A részvételhez tehát nem elegendő egy kódtároló hivatkozását megadni. Valakinek kezelnie kell a jelentéseket fogadó postafiókot, reprodukálnia kell a feltételezett sérülékenységeket, értékelnie kell azok hatását, és döntenie kell a javítási javaslatokról.

A várható előny nagymértékben attól függ, mennyire hatékonyan illeszthetők be ezek a feladatok a projekt meglévő karbantartási folyamataiba.

Eltérő közzétételi szabályok vonatkoznak az automatikus és az ellenőrzött jelentésekre

Az Anthropic dokumentációja szerint az automatikusan készített, ember által még nem ellenőrzött jelentéseknél nem indul el automatikusan a szokásos 90 napos közzétételi határidő.

Ha a vállalat később a már működő koordinált sérülékenység-bejelentési eljárásában emberi ellenőrzéssel is megerősíti a találatot, akkor az erről küldött értesítéstől számított 90 nap elteltével közzéteheti az ügy részleteit.

Az Anthropic azt a lehetőséget is fenntartja, hogy a jövőben egyes súlyos scannerjelentéseknél közzétételi határidőt vezessen be. Ilyen változás előtt tájékoztatást és kilépési lehetőséget ígér a projekteknek. Forrás: az OSS Scanner közzétételi szabályai

Ez fontos különbség a részvételről döntő karbantartók számára. Az automatikus jelentés kézhezvétele és az emberi ellenőrzéssel megerősített bejelentés két eltérő esemény a közzétett folyamatban. A javítás és a kiadáshoz kapcsolódó kommunikáció megtervezésekor a csapatoknak követniük kell, hogy az adott találat melyik szakaszban jár.

A nyílt forráskódú csapatok már megtapasztalták a gyenge AI-jelentések költségét

Az AI-val támogatott sérülékenységkeresés körüli vita jóval a mostani indulás előtt elkezdődött.

Daniel Stenberg, a curl alapítója egy 2025. júliusi beszámolóban leírta, hogyan emésztik fel a gyenge minőségű bejelentések a biztonsági csapat korlátozott idejét. Közlése szerint az abban az évben beérkezett jelentések hozzávetőleg 20 százalékát silány minőségű, AI által generált anyagok tették ki. Július elejéig az összes 2025-ös bejelentésnek csak körülbelül 5 százaléka bizonyult valódi sérülékenységnek.

Stenberg azt is elmagyarázta, hogy egyetlen jelentés több csapattagot is leköthet, az értékelés pedig személyenként akár órákig tarthat. Azoknál a közreműködőknél, akik csak kevés időt tudnak a projektre fordítani, egy gyenge bejelentés a heti rendelkezésre állás jelentős részét felemésztheti. Forrás: Daniel Stenberg — Death by a thousand slops

Ezek a megállapítások a curl 2025-ös tapasztalatairól szóltak, nem az újonnan elindított OSS Scanner értékeléséről.

A korábbi tapasztalat mégis hasznos mércét ad a szolgáltatás sikerének megítéléséhez. A lényeg az, hogy egy karbantartói munkaórára mennyi igazolt, ténylegesen hasznosítható biztonsági eredmény jut.

Még a technikailag helyes jelentések is terhet jelenthetnek, ha már ismert munkát ismételnek meg, eltúlozzák a hatást, vagy gyorsabban érkeznek, mint ahogy a projekt fel tudja dolgozni őket.

Az OSS-Fuzz által kialakított modellre épít

A Google OSS-Fuzz szolgáltatása már bevált példát kínál a nyílt forráskódú projekteket támogató, közösen használható biztonsági infrastruktúrára.

Az OSS-Fuzz a fuzzing módszereit elosztott futtatással ötvözi: generált bemeneti adatokkal teszteli a szoftvereket, és így keres hibás működést. A felismert problémákról nem nyilvánosan értesíti a fejlesztőket, és több programozási nyelvet, valamint tesztelőmotort is támogat.

A Google dokumentációja a szolgáltatás létrejöttét a Heartbleed által láthatóvá tett biztonsági problémákhoz, valamint ahhoz köti, hogy a fejlesztők nehezen tudtak önállóan hatékony fuzzingkörnyezetet kiépíteni. A tágabb cél az intenzív tesztelés hozzáférhetővé tétele anélkül, hogy minden projektnek saját infrastruktúrát kellene létrehoznia. Forrás: OSS-Fuzz-dokumentáció

Az AI-alapú vizsgálatokban hasonló lehetőség rejlik: szélesebb kör számára tehetik elérhetővé a speciális elemzést. A különböző tesztelési módszerek ugyanakkor eltérő módon vizsgálják a szoftvert. Az AI által előállított találatok ezért a fuzzing, a hagyományos elemzés és az emberi felülvizsgálat mellett további bizonyítékforrást jelenthetnek.

Egy találat nélküli vizsgálat nem bizonyítja, hogy a projekt sérülékenységmentes. Ugyanígy a több felfedezett probléma önmagában még nem igazolja, hogy a szoftver biztonságosabbá vált.

Egy szélesebb kibervédelmi kezdeményezés része

Az OSS Scanner az október 8-án bejelentett Anthropic Cyber Mission egyik eleme.

A kezdeményezés része a Critical Infrastructure Defense Program is, amely az üzemi technológiát és az alapvető szolgáltatásokat védő szervezetek támogatását célozza. Az Anthropic a részt vevő szolgáltatók számára élvonalbeli modelleket, helyszíni mérnöki segítséget és fenyegetéskutatást ígér.

A program olyan környezetekre összpontosít, mint az elektromos hálózatok, a vízellátó rendszerek és a közlekedési hálózatok. Ezekben az eszközök akár évtizedekig is üzemben maradhatnak, a változtatások pedig különös körültekintést igényelnek. A vállalat hosszú távú kezdeményezésként mutatja be a programot, amelyet további partnerekre és ágazatokra kíván kiterjeszteni. Forrás: Introducing the Anthropic Cyber Mission

A hét korábbi részében az Anthropic kibővítette a Cyber Verification Programot, összevonta azt a Project Glasswing kezdeményezéssel, és bevezette a Defense, Red Team és Specialized hozzáférési szinteket. Ezek a védekezési feladatok, az engedélyezett támadói szemléletű tesztelés, valamint a biztonságkritikus rendszereket érintő, szigorúan ellenőrzött munka között tesznek különbséget.

A vállalat indoklása az erős kiberbiztonsági képességek kettős felhasználhatóságára épül: ugyanazok a módszerek, amelyek segítenek a védőknek gyengeségeket találni, a támadókat is támogathatják azok kihasználásában. Forrás: az Anthropic Cyber Verification Program bővítése

A valódi próba a sérülékenységek megszüntetése lesz

A nyílt forráskódú projektek karbantartói számára az OSS Scanner további biztonsági elemzést kínál vizsgálati díj nélkül. Az időráfordítás, a szakmai mérlegelés és a javítások biztonságos kiadásának munkája azonban továbbra is megmarad.

Az ilyen projektekre támaszkodó szervezetek számára a jelentőség túlmutat magán a vizsgálón. A korábbi felismerés csak akkor csökkenti a kitettséget, ha a találatokból ellenőrzött javítások, támogatott kiadások és ténylegesen telepített frissítések lesznek.

A szolgáltatás hosszú távú értékét ezért az eredmények alapján érdemes megítélni: hány hasznos találatot erősítettek meg, hány súlyos hibát javítottak ki, mennyi karbantartói munkát takarítottak meg, és eljutottak-e a frissítések az érintett felhasználókhoz.

Az indulás előrelépést jelent a sérülékenységek keresésében. A nehezebb feladat az lesz, hogy a szoftverellátási lánc ezt a többlettudást tartós védelemmé alakítsa.

Eredeti cím: Anthropic Launches Free AI Security Scanner To Help Open-Source Projects Find and Fix Vulnerabilities

Az oldal tartalma nem másolható!