Apple a făcut modificări semnificative programului său de recompensă pentru erori, introducerea unor limite de trimitere și o perioadă de rece de 30 de zile ca răspuns la o creștere a rapoartelor de vulnerabilitate de calitate scăzută generate de instrumente de inteligență artificială .
Ajustările, confirmat de Financial Times, reflectă o provocare tot mai mare cu care se confruntă industria tehnologică: Sistemele AI sunt acum utilizate pe scară largă pentru a scana codul pentru potențiale probleme de securitate, dar rapoartele pe care le produc conțin adesea afirmații neverificate sau pur și simplu “halucinații” . Echipa de evaluare a securității a Apple a fost copleșită de volumul acestor trimiteri, care consumă resurse substanțiale și riscă să ascundă vulnerabilități critice descoperite de cercetătorii umani.
Profesioniștii în securitate au raportat că instrumentele de scanare bazate pe inteligență artificială pot semnala mii de probleme potențiale într-o singură bază de cod, multe dintre acestea se dovedesc a fi false pozitive sau interpretări greșite ale limitelor de securitate. Volumul mare îngreunează pentru echipa de securitate Apple să acorde prioritate amenințărilor reale. Limitând trimiterile și solicitând cercetătorilor să solicite excepții, Apple își propune să restabilească concentrarea la calitate înaltă, cercetare de securitate validată manual .
Nu este o mișcare izolată
Apple nu este singurul care răspunde la această nouă realitate. Google a făcut ajustări similare la propriul său program de recompensă pentru erori la începutul acestui an, transferarea recompenselor către soluții pentru provocări complexe de securitate, mai degrabă decât simple vulnerabilități pe care AI le poate identifica cu ușurință . Mișcarea reflectă o recalibrare mai amplă a industriei, deoarece AI devine o sabie cu două tăișuri în securitatea cibernetică - un instrument puternic pentru apărători, dar și o sursă de zgomot care poate copleși operațiunile de securitate..
Pentru Apple, momentul este notabil. Compania se află în mijlocul unui impuls major AI cu lansarea Siri AI și Apple Intelligence pe platformele sale., făcând din securitatea propriilor sisteme AI o preocupare din ce în ce mai critică . Modificările programului de recompense pentru erori sugerează că Apple ia măsuri pentru a se asigura că procesul său de evaluare a securității rămâne eficient chiar dacă volumul cercetărilor asistate de AI crește..
Noile reguli se aplică trimiterilor făcute prin portalul de securitate intern al Apple, pe care cercetătorii le pot accesa prin aplicarea pentru a participa la programul de recompense pentru erori. Cei care trebuie să trimită mai mult decât numărul plafonat de rapoarte trebuie să facă acum o solicitare oficială echipei de securitate a Apple. Perioada de rece de 30 de zile le oferă cercetătorilor timp să-și verifice în detaliu concluziile înainte de trimitere, reducând teoretic numărul de rapoarte duplicate sau invalide.
Un semn al lucrurilor care vor veni
Pe măsură ce instrumentele AI pentru analiza codului devin mai sofisticate și mai accesibile, alte companii de tehnologie vor urma probabil exemplul Apple și Google în ajustarea programelor lor de dezvăluire a vulnerabilităților. Provocarea constă în echilibrarea beneficiilor cercetării în materie de securitate asistată de inteligență artificială – care poate identifica modele și cazuri marginale pe care oamenii le-ar putea rata – față de sarcina operațională a procesării rapoartelor generate de mașini..
Mișcarea Apple evidențiază, de asemenea, o dinamică subtilă, dar importantă: în timp ce AI face cercetările în materie de securitate mai accesibile, creează, de asemenea, o problemă de control al calității pe care industria trebuie să o abordeze. Limitele de timp de 30 de zile și de trimitere sunt în esență mecanisme de frecare concepute pentru a încuraja cercetătorii să aplice raționamentul uman înainte de a trimite rapoarte.
Pentru acum, Programul de recompensă pentru erori de la Apple rămâne deschis cercetătorilor de securitate care găsesc vulnerabilități reale în software-ul și serviciile Apple. Dar noile reguli o fac clar: calitatea contează mai mult decât cantitatea, iar zgomotul generat de AI nu va fi tolerat.
