Kibernetinis saugumas yra šviežių ginklų lenktynių viduryje, o galingas pasirinktas ginklas šioje naujoje eroje yra AI.
AI siūlo klasikinį dvigubo krašto kardą: galingas skydas gynėjams ir stiprus naujas įrankis tiems, kurie ketina kenkėjišką ketinimą. Norint naršyti šią sudėtingą kovos lauką, reikia stabilios rankos ir giliai suprasti tiek technologiją, tiek su ja piktnaudžiavimu.
Norėdami gauti vaizdą iš fronto linijų, „AI News“ pasivijo Rachel James, pagrindinę AI ML grėsmės žvalgybos inžinierių iš pasaulinės biofarmacijos kompanijos „Abbvie“.
„Be integruoto AI padidinimo, kuris buvo pateiktas pardavėjų, pateikiami dabartiniuose įrankiuose, mes taip pat naudojame LLM analizę apie savo aptikimus, stebėjimus, koreliacijas ir susijusias taisykles“,-aiškina Jamesas.
Jamesas ir jos komanda naudoja didelius kalbų modelius, norėdami išsijoti per daugybę saugumo įspėjimų, ieškodami modelių, pastebi dublikatus ir ieškodami pavojingų spragų savo gynyboje, kol užpuolikas gali.
„Mes tai naudojame tam, kad nustatytume panašumą, dubliavimąsi ir pateiktume spragų analizę“, – priduria ji, pažymėdama, kad kitas žingsnis yra pynimas dar daugiau išorinių grėsmės duomenų. „Mes norime tai sustiprinti integruodami grėsmės žvalgybos integravimą kitame etape“.
Šios operacijos centre yra specializuota grėsmės žvalgybos platforma, vadinama „OpenCti“, kuri padeda jiems sukurti vieningą grėsmių iš skaitmeninio triukšmo jūros vaizdą.
AI yra variklis, kuris leidžia šias kibernetinio saugumo pastangas, paimdamas didžiulį kiekį šuolių, nestruktūrizuoto teksto ir tvarkingai suskirstant jį į standartinį formatą, žinomą kaip Stix. „Grand Vision“, sako Jamesas, yra naudoti kalbų modelius, kad būtų galima sujungti šią pagrindinę intelektą su visomis kitomis jų saugumo operacijų sritimis, pradedant pažeidžiamumo valdymu ir baigiant trečiųjų šalių rizika.
Tačiau pasinaudojant šia galia, būna sveika atsargumo dozė. Kaip pagrindinis pagrindinės pramonės iniciatyvos bendradarbis, Jamesas aiškiai supranta spąstus.
„Aš būčiau atlaidus, jei nepaminčiau nuostabios žmonių grupės, kuriai esu, darbas -„ Owasp Top 10 Top Genai “kaip pagrindinis būdas suprasti pažeidžiamumus, kuriuos Genai gali pristatyti“, – sako ji.
Be konkrečių pažeidžiamumų, Jamesas nurodo tris pagrindinius kompromisus, su kuriais turi susidurti verslo vadovai:
- Priimant riziką, susijusią su kūrybingu, bet dažnai nenuspėjamu generatyvinės AI pobūdžiu.
- Praradęs skaidrumą, kaip AI daro išvadas, problema, kuri tik auga, kai modeliai tampa sudėtingesni.
- Pavojus, kad blogai įvertinti realią investicijų grąžą bet kokiam AI projektui, kai hype gali lengvai sukelti pervertinimą naudą ar nuvertinti pastangas, reikalingas tokioje greitai judančioje srityje.
Norėdami sukurti geresnę kibernetinio saugumo pozą AI eroje, turite suprasti savo užpuoliką. Čia atsiranda gilioji Jameso patirtis.
„Tai iš tikrųjų yra mano ypatinga kompetencija – turiu kibernetinės grėsmės žvalgybos pagrindą ir atlikau išsamius grėsmės aktoriaus susidomėjimo, naudojimo ir AI plėtros tyrimus“, – pažymi ji.
Jamesas aktyviai seka priešininko pokalbių ir įrankių kūrimą per atvirojo kodo kanalus ir savo automatizuotas kolekcijas iš „Dark Web“, pasidalindama savo išvadomis apie savo kibernetinįhujin Github. Jos darbas taip pat apima nešvarias rankas.
„Kaip„ Owasp “greito injekcijos įvedimo pavyzdys ir„ Red Teaming Genai “vadovo bendraautorius, aš pats taip pat praleidžiu laiką kurdamas prieštaringą įvesties techniką ir palaikau ir šios srities ekspertų tinklą“,-priduria Jamesas.
Taigi, ką visa tai reiškia pramonės ateičiai? Jamesui kelias į priekį yra aiškus. Ji atkreipia dėmesį į žavią paralelę, kurią ji atrado prieš metus: „Kibernetinės grėsmės žvalgybos gyvavimo ciklas yra beveik identiškas„ Data Science “gyvavimo ciklo pagrindui AI ML sistemoms“.
Šis derinimas yra didžiulė galimybė. „Be jokios abejonės, kalbant apie duomenų rinkinius, su kuriais galime veikti, gynėjai turi unikalią galimybę išnaudoti intelekto duomenų dalijimosi ir AI galios galią“, – tvirtina ji.
Jos paskutinis pranešimas siūlo ir padrąsinimą, ir įspėjimą savo bendraamžiams kibernetinio saugumo pasaulyje: „Duomenų mokslas ir AI bus kiekvieno kibernetinio saugumo profesionalo gyvenimo dalis judant į priekį, apkabink jį.“
Rachel James pasidalins savo įžvalgomis šiais metais AI ir „Big Data Expo Europe“ Amsterdame, 2025 m. Rugsėjo 24–25 d. Būtinai peržiūrėkite jos antrąją dieną „Nuo principo iki praktikos-įterpdami AI etiką mastu“.
Taip pat žiūrėkite: „Google Cloud“ pristato saugumo komandas
Norite sužinoti daugiau apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite AI ir „Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra kartu su kitais pirmaujančiais renginiais, įskaitant intelektualią automatizavimo konferenciją, „BlockX“, „Skaitmeninės transformacijos savaitės“ ir „Cyber Security & Cloud Expo“.
Naršykite kitus būsimus „Enterprise Technology“ renginius ir internetinius seminarus, kuriuos maitina „TechForge“ čia.
