Az Apple jelentős változtatásokat hajtott végre a hibajavító programon, beadási korlátok és 30 napos leállási időszak bevezetése válaszul a mesterséges intelligencia eszközök által generált alacsony minőségű sebezhetőségi jelentések megugrására .
A kiigazítások, megerősítette a Financial Times, a technológiai ipar előtt álló növekvő kihívást tükrözik: Az AI-rendszereket ma már széles körben használják a kódok lehetséges biztonsági problémák keresésére, de az általuk készített jelentések gyakran nem ellenőrzött vagy egyenes állításokat tartalmaznak “hallucinációk” . Az Apple biztonsági felülvizsgálati csapatát lenyűgözte ezeknek a beadványoknak a mennyisége, amelyek jelentős erőforrásokat emésztenek fel, és fenyegetik az emberi kutatók által felfedezett kritikus sebezhetőségeket.
Biztonsági szakemberek arról számoltak be, hogy az AI-alapú szkennelő eszközök több ezer lehetséges problémát képesek megjelölni egyetlen kódbázisban, amelyek közül sok hamis pozitív eredménynek vagy a biztonsági határok félreértelmezésének bizonyul. A hatalmas mennyiség megnehezíti az Apple biztonsági csapata számára a valódi fenyegetések fontossági sorrendjét. Azáltal, hogy korlátozza a beadványokat, és megköveteli a kutatóktól, hogy kérjenek kivételeket, Az Apple célja, hogy visszaállítsa a fókuszt a kiváló minőségre, manuálisan validált biztonsági kutatás .
Nem elszigetelt lépés
Az Apple nem egyedül reagál erre az új valóságra. A Google az év elején hasonló módosításokat hajtott végre saját hibajavító programján, a jutalmakat az összetett biztonsági kihívások megoldása felé tolja el az egyszerű sebezhetőségek helyett, amelyeket az AI könnyen azonosíthat . A lépés egy szélesebb körű iparági újrakalibrációt tükröz, mivel az AI a kiberbiztonság kétélű fegyverévé válik – hatékony eszköz a védők számára, de egyben zajforrás is, amely túlterhelheti a biztonsági műveleteket..
Az Apple számára, figyelemre méltó az időzítés. A vállalat a Siri AI és az Apple Intelligence bevezetésével egy jelentős mesterségesintelligencia-lökés közepén van., egyre kritikusabb kérdéssé teszi saját mesterséges intelligenciarendszereinek biztonságát . A bug bounty program változásai azt sugallják, hogy az Apple lépéseket tesz annak biztosítására, hogy biztonsági felülvizsgálati folyamata még akkor is hatékony maradjon, ha az AI által támogatott kutatások mennyisége nő..
Az új szabályok az Apple belső biztonsági portálján keresztül benyújtott beadványokra vonatkoznak, amelyhez a kutatók a bug bounty programban való részvételre jelentkezve férhetnek hozzá. Azoknak, akiknek a megengedettnél több jelentést kell benyújtaniuk, most hivatalos kérést kell benyújtaniuk az Apple biztonsági csapatának. A 30 napos lehűlési időszak a kutatóknak időt ad arra, hogy a benyújtás előtt alaposan ellenőrizzék eredményeiket, elméletileg csökkenti az ismétlődő vagy érvénytelen jelentések számát.
Az elkövetkező dolgok jele
Ahogy a kódelemző AI-eszközök kifinomultabbá és hozzáférhetőbbé válnak, más technológiai cégek valószínűleg követik az Apple és a Google példáját a sebezhetőséget feltáró programjaik kiigazításában. A kihívás abban rejlik, hogy egyensúlyba hozza a mesterséges intelligencia által támogatott biztonsági kutatás előnyeit – amely képes azonosítani azokat a mintákat és szélsőséges eseteket, amelyeket az emberek esetleg figyelmen kívül hagynak – a géppel generált jelentések feldolgozásával járó műveleti terhekkel szemben..
Az Apple lépése egy finom, de fontos dinamikára is rávilágít: miközben az AI elérhetőbbé teszi a biztonsági kutatást, egyben minőség-ellenőrzési problémát is okoz, amellyel az iparnak foglalkoznia kell. A 30 napos lehűlési és benyújtási korlátok alapvetően súrlódási mechanizmusok, amelyek célja, hogy arra ösztönözzék a kutatókat, hogy emberi ítélőképességet alkalmazzanak a jelentések benyújtása előtt..
Egyelőre, Az Apple hibajavító programja továbbra is nyitva áll a biztonsági kutatók előtt, akik valódi sebezhetőséget találnak az Apple szoftvereiben és szolgáltatásaiban. De az új szabályok egyértelművé teszik: a minőség többet számít, mint a mennyiség, és a mesterséges intelligencia által keltett zaj nem tolerálható.
