Tarp AI sistemų sprogimo, AI žiniatinklio naršyklės, tokios kaip Fellou ir Comet iš Perplexity, pradėjo pasirodyti įmonės darbalaukyje. Tokios programos apibūdinamos kaip kita kuklios naršyklės evoliucija ir yra su integruotomis AI funkcijomis; jie gali skaityti ir apibendrinti tinklalapius ir, esant pažangiausiam, savarankiškai veikti su žiniatinklio turiniu.
Bent jau teoriškai AI naršyklės pažadas yra tai, kad ji pagreitins skaitmenines darbo eigas, atliks internetinius tyrimus ir nuskaitys informaciją iš vidinių šaltinių ir platesnio interneto.
Tačiau saugumo tyrimų komandos daro išvadą, kad dirbtinio intelekto naršyklės įmonei kelia rimtų pavojų, kurių tiesiog negalima ignoruoti.
Problema slypi tame, kad AI naršyklės yra labai pažeidžiamos netiesioginių greitų injekcijų atakų. Čia modelis naršyklėje (arba pasiekiamas per naršyklę) gauna instrukcijas, paslėptas specialiai sukurtose svetainėse. Įterpiant tekstą į tinklalapius ar vaizdus žmonėms sunkiai atpažįstamais būdais, dirbtinio intelekto modeliai gali būti pateikiami instrukcijomis AI raginimų forma arba raginimų pataisomis, kurias įveda vartotojas.
Esmė IT skyriams ir sprendimus priimantiems asmenims yra ta, kad dirbtinio intelekto naršyklės dar nėra tinkamos naudoti įmonėje ir kelia didelę grėsmę saugumui.
Automatika atitinka ekspoziciją
Atlikę bandymus, mokslininkai išsiaiškino, kad į internetinį turinį įterptą tekstą apdoroja AI naršyklė ir jis interpretuojamas kaip išmaniojo modelio instrukcijos. Šios instrukcijos gali būti vykdomos naudojant vartotojo teises, todėl kuo didesnis vartotojo prieigos prie informacijos lygis, tuo didesnė rizika organizacijai. Savarankiškumas, kurį AI suteikia vartotojams, yra tas pats mechanizmas, kuris padidina atakos paviršių, ir kuo daugiau autonomijos, tuo didesnė duomenų praradimo galimybė.
Pavyzdžiui, į vaizdą galima įterpti teksto komandas, kurios, rodomos naršyklėje, gali paskatinti AI asistentą sąveikauti su jautriais turtais, pvz., įmonės el. paštu ar internetinės bankininkystės prietaisų skydeliais. Kitas testas parodė, kaip AI asistento raginimas gali būti užgrobtas ir priversti atlikti neleistinus veiksmus vartotojo vardu.
Tokio tipo pažeidžiamumas aiškiai prieštarauja visiems duomenų valdymo principams ir yra akivaizdžiausias pavyzdys, kaip „šešėlinis AI“ neteisėtos naršyklės pavidalu kelia realią grėsmę organizacijos duomenims. AI modelis veikia kaip tiltas tarp domenų ir apeina tos pačios kilmės politiką – taisyklę, kuri neleidžia kitam pasiekti duomenų iš vieno domeno.
Įgyvendinimo ir valdymo iššūkiai
Problemos šaknis yra vartotojų užklausų sujungimas naršyklėje su tiesioginiais duomenimis, pasiekiamais žiniatinklyje. Jei LLM negali atskirti saugios ir kenkėjiškos įvesties, ji gali nedelsdama pasiekti duomenis, kurių neprašė jo žmogiškasis operatorius, ir pagal juos veikti. Suteikus agento gebėjimus, pasekmės gali būti toli siekiančios ir gali lengvai sukelti kenkėjiškos veiklos pakopą visoje įmonėje.
Bet kuriai organizacijai, kuri remiasi duomenų segmentavimu ir prieigos valdymu, pažeistas AI sluoksnis vartotojo naršyklėje gali apeiti ugniasienes, keisti žetonus ir naudoti saugius slapukus lygiai taip pat, kaip tai daro vartotojas. Iš esmės AI naršyklė tampa viešai neatskleista grėsme, turėdama prieigą prie visų operatoriaus duomenų ir įrenginių. Naršyklės naudotojas nebūtinai žinos apie veiklą „po gaubtu“, todėl užkrėsta naršyklė gali veikti ilgą laiką neaptikta.
Grėsmės mažinimas
IT komandos į pirmosios kartos AI naršykles turėtų vertinti taip pat, kaip elgiasi su neteisėtu trečiųjų šalių programinės įrangos diegimu. Nors gana lengva užkirsti kelią tam, kad naudotojai įdiegtų konkrečią programinę įrangą, verta paminėti, kad pagrindinės naršyklės, tokios kaip „Chrome“ ir „Edge“, pristatomos su didesniu AI funkcijų skaičiumi „Gemini“ („Chrome“) ir „Copilot“ („Edge“). Naršyklės gaminančios įmonės aktyviai tiria dirbtinio intelekto papildytas naršymo galimybes, o agentinės funkcijos (kurios suteikia naršyklei didelę autonomiją) greitai atsiras, nes naršyklių kompanijoms reikės konkurencinio pranašumo.
Neturėdamos tinkamos priežiūros ir kontrolės, organizacijos atsidaro reikšmingai rizikai. Ateities kartos naršyklėse turėtų būti patikrintos šios funkcijos:
- Greitas izoliavimas, atskiriant vartotojo ketinimus nuo trečiosios šalies žiniatinklio turinio prieš generuojant LLM raginimą.
- Uždaryti leidimai. AI agentai neturėtų galėti atlikti savarankiškų veiksmų, įskaitant naršymą, duomenų gavimą ar prieigą prie failų be aiškaus vartotojo patvirtinimo.
- Jautraus naršymo (pvz., HR, finansų, vidinių prietaisų skydelių ir kt.) smėlio dėžė, todėl šiose jautriose srityse AI nevykdoma.
- Valdymo integracija. Naršyklės AI turi atitikti duomenų saugumo politiką, o programinė įranga turėtų pateikti įrašus, kad agentų veiksmus būtų galima atsekti.
Iki šiol nė vienas naršyklės pardavėjas nepateikė išmaniosios naršyklės, galinčios atskirti vartotojo pagrįstą tikslą ir modelio interpretuojamas komandas. Be to, naršyklės gali būti priverstos veikti prieš organizaciją naudojant santykinai nereikšmingą greitą injekciją.
Sprendimų priėmėjo išsinešimas
Agentinės AI naršyklės pristatomos kaip kita logiška žiniatinklio naršymo ir automatizavimo darbo vietoje evoliucija. Jie sukurti sąmoningai tam, kad ištrintų skirtumą tarp vartotojo ir žmogaus veiklos ir taptų sąveikos su įmonės skaitmeniniu turtu dalimi. Atsižvelgiant į tai, kaip lengvai apeinami ir sugadinami AI naršyklių LLM, dabartinės kartos AI naršyklės gali būti laikomos neveikiančia kenkėjiška programa.
Pagrindiniai naršyklių pardavėjai, atrodo, yra pasirengę integruoti dirbtinį intelektą (su agento galimybėmis arba be jų) į ateities platformų kartas, todėl reikia atidžiai stebėti kiekvieną leidimą, kad būtų užtikrinta saugumo priežiūra.
(Vaizdo šaltinis: Hugh llewelyn „nesprogusi bomba!“ yra licencijuota pagal CC BY-SA 2.0.)
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra TechEx dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
