Saugumo lyderiai susiduria su nauja autonominių grėsmių klase, nes Anthropic išsamiai aprašo pirmąją AI surengtą kibernetinio šnipinėjimo kampaniją.
Šią savaitę paskelbtoje ataskaitoje bendrovės „Threat Intelligence“ komanda nurodė, kad Kinijos valstybės remiama grupė sutrikdė sudėtingą operaciją – įvertinimas atliktas labai patikimai – pavadintas GTG-1002 ir aptiktas 2025 m. rugsėjo viduryje.
Operacija buvo skirta maždaug 30 subjektų, įskaitant dideles technologijų įmones, finansų įstaigas, chemijos gamybos įmones ir vyriausybines agentūras.
Užuot AI padėjęs žmonėms operatoriams, užpuolikai sėkmingai manipuliavo Anthropic’s Claude Code modeliu, kad veiktų kaip savarankiškas agentas, savarankiškai atliekantis didžiąją daugumą taktinių operacijų.
Tai rodo nerimą keliantį CISO vystymąsi, perkeliant kibernetines atakas nuo žmonių nukreiptų pastangų prie modelio, kuriame AI agentai atlieka 80–90 procentų įžeidžiančio darbo, o žmonės veikia tik kaip aukšto lygio prižiūrėtojai. Anthropic mano, kad tai pirmasis dokumentais užfiksuotas didelio masto kibernetinės atakos atvejis, įvykdytas be didelio žmogaus įsikišimo.
AI agentai: naujas kibernetinių atakų veikimo modelis
Grupė naudojo orkestravimo sistemą, kuri pavedė Claude Code egzemplioriams veikti kaip autonominiams skverbties testavimo agentams. Šie AI agentai buvo nukreipti į šnipinėjimo kampaniją atlikti žvalgybą, atrasti pažeidžiamumą, plėtoti išnaudojimus, surinkti kredencialus, judėti į šonus tinkluose ir išfiltruoti duomenis. Tai leido dirbtiniam intelektui atlikti žvalgybą per trumpą laiką, kurio prireiktų žmonių įsilaužėlių komandai.
Žmonių dalyvavimas buvo apribotas iki 10–20 procentų visų pastangų, daugiausia dėmesio skiriant kampanijos inicijavimui ir leidimų suteikimui keliuose svarbiausiuose eskalavimo taškuose. Pavyzdžiui, žmonės operatoriai patvirtintų perėjimą nuo žvalgybos prie aktyvaus naudojimo arba įgaliotų galutinę duomenų išfiltravimo apimtį.
Užpuolikai apeidavo dirbtinio intelekto modelyje integruotas apsaugos priemones, kurios yra išmokytos vengti žalingo elgesio. Jie tai padarė sulaužydami modelį, apgaudinėdami jį, suskirstydami atakas į iš pažiūros nekaltas užduotis ir priimdami „vaidmenų žaidimo“ asmenybę. Operatoriai pasakė Claude’ui, kad tai buvo teisėtos kibernetinio saugumo įmonės darbuotojas ir buvo naudojamas gynybiniams bandymams. Tai leido operacijai tęsti pakankamai ilgai, kad būtų galima pasiekti keletą patvirtintų taikinių.
Techninis atakos sudėtingumas slypi ne naujose kenkėjiškose programose, o orkestravime. Ataskaitoje pažymima, kad sistema „daugiausia rėmėsi atvirojo kodo skverbties testavimo įrankiais“. Užpuolikai naudojo modelio konteksto protokolo (MCP) serverius kaip sąsają tarp AI ir šių prekių įrankių, leidžiančių AI vykdyti komandas, analizuoti rezultatus ir palaikyti veikimo būseną keliuose taikiniuose ir seansuose. AI netgi buvo nukreipta tyrinėti ir parašyti savo šnipinėjimo kampanijos išnaudojimo kodą.
AI haliucinacijos tampa geru dalyku
Nors kampanija sėkmingai pažeidė didelės vertės tikslus, Anthropic tyrimas atskleidė reikšmingą apribojimą: AI haliucinavo per puolimą.
Ataskaitoje teigiama, kad Claude’as „dažnai pervertindavo išvadas ir kartais išgalvodavo duomenis“. Tai pasireiškė tuo, kad dirbtinis intelektas teigė, kad gavo kredencialus, kurie neveikė, arba nustatė atradimus, kurie „pasirodė esanti viešai prieinama informacija“.
Ši tendencija reikalavo, kad žmonės operatoriai atidžiai patikrintų visus rezultatus, o tai sukeldavo iššūkių užpuolikų veiklos efektyvumui. Anot Anthropic, tai „tebėra kliūtis visiškai savarankiškoms kibernetinėms atakoms“. Saugumo lyderiams tai išryškina galimą dirbtinio intelekto atakų silpnumą: jos gali sukelti daug triukšmo ir klaidingų teigiamų rezultatų, kuriuos galima nustatyti naudojant patikimą stebėjimą.
Gynybinės AI ginklavimosi varžybos su naujomis kibernetinio šnipinėjimo grėsmėmis
Pagrindinis poveikis verslo ir technologijų lyderiams yra tai, kad kliūtys sudėtingoms kibernetinėms atakoms labai sumažėjo. Mažiau išteklių turinčios grupės dabar gali vykdyti kampanijas, kurioms anksčiau reikėjo ištisų patyrusių įsilaužėlių komandų.
Ši ataka demonstruoja ne tik „vibe įsilaužimo“ galimybes, kai žmonės tvirtai kontroliavo operacijas. GTG-1002 kampanija įrodo, kad dirbtinis intelektas gali būti naudojamas savarankiškai atrasti ir išnaudoti pažeidžiamumą atliekant tiesiogines operacijas.
„Anthropic“, kuri uždraudė paskyras ir apie tai pranešė valdžios institucijoms per dešimt dienų trukusį tyrimą, teigia, kad ši raida rodo, kad reikia skubiai dirbtinio intelekto pagrindu sukurtos gynybos. Bendrovė teigia, kad „patys gebėjimai, leidžiantys panaudoti Claude’ą šiose atakose, taip pat yra būtini kibernetinei gynybai“. Pačios bendrovės „Treat Intelligence“ komanda „plačiai naudojo Claude’ą, kad analizuotų „didžiulius duomenų kiekius, sugeneruotus“ šio tyrimo metu.
Saugumo komandos turėtų veikti darant prielaidą, kad kibernetinio saugumo srityje įvyko esminių pokyčių. Ataskaitoje gynėjai raginami „eksperimentuoti taikant AI gynybai tokiose srityse kaip SOC automatizavimas, grėsmių aptikimas, pažeidžiamumo įvertinimas ir reagavimas į incidentus“.
Prasidėjo kova tarp dirbtinio intelekto atakų ir AI varomos gynybos, o aktyvus prisitaikymas kovojant su naujomis šnipinėjimo grėsmėmis yra vienintelis perspektyvus kelias.
Taip pat žiūrėkite: Wiz: vykstant pasaulinėms AI lenktynėms, atsiranda saugumo spragų
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra „TechEx“ dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais, įskaitant „Cyber Security Expo“. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
