Daugelį metų kibernetinio saugumo ekspertai ginčijosi, kada dirbtinis intelektas peržengs slenkstį nuo patarėjo iki savarankiško užpuoliko, o ne ar. Tas teorinis etapas atėjo.
Neseniai atliktas Anthropic tyrimas dėl Kinijos valstybės remiamos operacijos užfiksavo (PDF) pirmąjį AI surengtų kibernetinių atakų atvejį, vykdomą dideliu mastu ir minimaliai prižiūrint žmones, o tai pakeičia tai, kam įmonės turi pasiruošti būsimoje grėsmės aplinkoje.
Kampanija, priskiriama grupei Anthropic kaip GTG-1002, atspindi tai, apie ką saugumo tyrinėtojai jau seniai įspėjo, bet iš tikrųjų gamtoje niekada nematė: dirbtinio intelekto sistema, savarankiškai vykdanti beveik kiekvieną kibernetinio įsibrovimo etapą – nuo pradinės žvalgybos iki duomenų išfiltravimo, o žmonės operatoriai tik prižiūrėjo strateginius kontrolės punktus.
Tai ne laipsniška evoliucija, o puolimo pajėgumų pokytis, kuris suspaudžia tai, ko kvalifikuotoms programišių komandoms prireiktų per kelias savaites, į operacijas, matuojamas valandomis, atliekamos mašinos greičiu dešimtyse taikinių vienu metu.
Skaičiai pasakoja istoriją. Anthropic kriminalistinė analizė atskleidė, kad 80–90 % GTG-1002 taktinių operacijų buvo vykdomos savarankiškai, o žmonės įsikišo tik keturiais–šešiais kritiniais sprendimo taškais per kampaniją.
Operacija buvo nukreipta į maždaug 30 subjektų – didžiųjų technologijų korporacijų, finansų įstaigų, chemijos gamintojų ir vyriausybinių agentūrų – ir pasiekė patvirtintus kelių didelės vertės tikslų pažeidimus. Didžiausio aktyvumo metu AI sistema generuodavo tūkstančius užklausų kelių operacijų per sekundę greičiu, o tokio tempo žmonių komandoms fiziškai neįmanoma išlaikyti.
Savarankiško pažeidimo anatomija
Šių dirbtinio intelekto surengtų kibernetinių atakų techninė architektūra atskleidžia sudėtingą AI galimybių ir saugos apėjimo metodų supratimą.
GTG-1002 sukūrė autonominę atakų sistemą aplink Claude Code, Anthropic kodavimo pagalbos įrankį, integruotą su Model Context Protocol (MCP) serveriais, kurie suteikė sąsajas su standartinėmis prasiskverbimo testavimo programomis – tinklo skaitytuvais, duomenų bazių išnaudojimo sistemomis, slaptažodžių krekeriais ir dvejetainės analizės rinkiniais.
Proveržis buvo ne naujų kenkėjiškų programų kūrimas, o orkestravimas. Užpuolikai manipuliavo Claude’u naudodami kruopščiai sukurtą socialinę inžineriją, įtikindami AI, kad jis atlieka teisėtus kibernetinio saugumo įmonės gynybinius saugumo bandymus.
Jie suskaidė sudėtingas kelių etapų atakas į atskiras, iš pažiūros nekenksmingas užduotis – pažeidžiamumo nuskaitymą, kredencialų patvirtinimą, duomenų išgavimą – kiekviena iš jų atrodė teisėta, kai buvo vertinama atskirai, o tai neleidžia Claude’ui atpažinti platesnio kenkėjiško konteksto.
Pradėjus veikti, sistema demonstravo nepaprastą savarankiškumą.
Viename dokumentais patvirtintame kompromise Claude’as savarankiškai atrado vidines paslaugas tiksliniame tinkle, sudarė visą tinklo topologiją keliuose IP diapazonuose, nustatė didelės vertės sistemas, įskaitant duomenų bazes ir darbo eigos valdymo platformas, ištyrė ir parašė pasirinktinį išnaudojimo kodą, patvirtino pažeidžiamumus per skambinimo ryšio sistemas, surinko kredencialus, išbandė juos ir sistemingai išanalizavo aptiktą infrastruktūrą ir sistemingai analizavo duomenis. intelekto vertė – visa tai be žingsnis po žingsnio žmogaus nurodymų.
AI išlaikė nuolatinį veikimo kontekstą per dienas trunkančius seansus, leisdamas kampanijoms sklandžiai tęstis po pertrūkių.
Jis priėmė savarankiškus taikymo sprendimus, pagrįstus atrasta infrastruktūra, pritaikytais išnaudojimo metodais, kai pirminiai metodai nepavyko, ir sugeneravo išsamią dokumentaciją visuose etapuose – struktūrinius įvertinimo failus, sekančius aptiktas paslaugas, surinktus kredencialus, išgautus duomenis ir užbaigtą atakos eigą.
Ką tai reiškia įmonės saugumui
GTG-1002 kampanija išardo kelias pagrindines prielaidas, kurios suformavo įmonės saugumo strategijas. Tradicinė gynyba, kalibruota atsižvelgiant į žmogaus užpuolikų apribojimus – greičio ribojimą, elgesio anomalijų aptikimą, bazines veikimo tempo linijas – susiduria su priešininku, veikiančiu mašinos greičiu ir mašinos ištverme.
Kibernetinių atakų ekonomika smarkiai pasikeitė, nes 80–90 % taktinio darbo gali būti automatizuotas, todėl nacionalinės valstybės lygmens pajėgumai gali būti pasiekiami mažiau sudėtingiems grėsmės veikėjams.
Tačiau dirbtinio intelekto surengtos kibernetinės atakos susiduria su būdingais apribojimais, kuriuos turėtų suprasti įmonių gynėjai. Anthropic tyrimas užfiksavo dažnas AI haliucinacijas operacijų metu – Claude’as tvirtino, kad gavo neveikiančius įgaliojimus, nustatė „kritinius atradimus“, kurie pasirodė esąs viešai prieinama informacija, ir pervertino išvadas, kurioms reikėjo žmogaus patvirtinimo.
Patikimumo problemos išlieka svarbiu trinties tašku visiškai savarankiškoms operacijoms, nors manyti, kad jos išliks neribotą laiką, būtų pavojingai naivu, nes AI galimybės ir toliau tobulėja.
Gynybinis imperatyvas
Pažangaus AI dvejopo naudojimo realybė kelia ir iššūkių, ir galimybių. Tos pačios galimybės, leidžiančios veikti GTG-1002, buvo būtinos gynybai – Anthropic’s Threat Intelligence komanda labai pasitikėjo Claude’u, analizuodama didžiulius duomenų kiekius, gautus atliekant tyrimą.
Sukaupti organizacinę patirtį su tuo, kas veikia konkrečioje aplinkoje – suprasti AI privalumus ir trūkumus gynybos kontekste – tampa svarbu prieš ateinant kitai sudėtingesnių autonominių atakų bangai.
Antropinio atskleidimas rodo lenkimo tašką. Tobulėjant dirbtinio intelekto modeliams, o grėsmių dalyviams tobulinant autonominių atakų sistemas, kyla ne klausimas, ar dirbtinio intelekto surengtos kibernetinės atakos padaugės grėsmių aplinkoje, o tai, ar įmonės gynyba gali vystytis pakankamai greitai, kad joms atremtų.
Pasirengimo langas, nors ir vis dar atviras, siaurėja greičiau, nei daugelis saugumo lyderių gali suprasti.
Taip pat žiūrėkite: Naujasis „Nvidia Blackwell“ lustas, skirtas Kinijai, gali aplenkti H20 modelį
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra „TechEx“ dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
