AI plinta darbo vietose greičiau nei bet kuri kita naujausioje atmintyje buvusi technologija. Kiekvieną dieną darbuotojai DI technologijas prijungia prie įmonės sistemų, dažnai be IT saugos komandų leidimo ar priežiūros. Rezultatas yra tai, ką ekspertai vadina šešėliniu AI – augančiu įrankių ir integracijų tinklu, kuris nekontroliuojamai pasiekia įmonės duomenis.
Dr. Tal Shapira, „SaaS“ saugumo ir dirbtinio intelekto valdymo sprendimų teikėjo „Reco“ įkūrėjas ir techninis vadovas, sako, kad šis nematomas išsiplėtimas gali tapti viena didžiausių grėsmių, su kuriomis šiandien susiduria organizacijos, ypač dėl to, kad dabartinis AI diegimo greitis viršija įmonių apsaugos priemones.
„Per maždaug 18 mėnesių iš „AI ateina“ į „AI yra visur“. Problema ta, kad valdymo sistemos tiesiog nepasivijo“, – sakė Shapira.
Nematoma rizika įmonės sistemose
Shapira teigė, kad dauguma įmonių apsaugos sistemų buvo sukurtos senesniam pasauliui, kur viskas liko už ugniasienės ir tinklo sienų. „Shadow AI“ sulaužo šį modelį, nes jis veikia iš vidaus, paslėptas pačios įmonės įrankiuose.
Daugelis šiuolaikinių AI įrankių jungiasi tiesiai prie kasdienių „SaaS“ platformų, tokių kaip „Salesforce“, „Slack“ ar „Google Workspace“. Nors tai savaime nėra rizika, AI dažnai tai daro turėdamas leidimus ir papildinius, kurie lieka aktyvūs po įdiegimo. Šios „tyliosios“ nuorodos gali ir toliau suteikti AI sistemoms prieigą prie įmonės duomenų, net jei jas nustatęs asmuo nustos jomis naudotis arba išeis iš organizacijos. Tai didelė šešėlinio AI problema.
Shapira sakė: „Gilesnė problema yra ta, kad šie įrankiai įterpiami į įmonės infrastruktūrą, kartais mėnesius ar metus be aptikimo“.
Naują rizikos klasę ypač sunku atsekti, nes daugelis AI sistemų yra tikimybinės. Užuot vykdydamas aiškias komandas, dirbtinis intelektas prognozuoja pagal šablonus, todėl jų veiksmai gali keistis iš vienos situacijos į kitą, todėl juos sunkiau peržiūrėti ir kontroliuoti.
Kai dirbtinis intelektas yra nesąžiningas
Šešėlinio AI žala jau akivaizdi realaus pasaulio incidentuose. „Reco“ neseniai dirbo su „Fortune 100“ finansine įmone, kuri manė, kad jos sistemos yra saugios ir atitinkančios reikalavimus. Per kelias dienas, kai įdiegė „Reco“ stebėjimą, įmonė savo „Salesforce“ ir „Microsoft 365“ aplinkose aptiko daugiau nei 1 000 neteisėtų trečiųjų šalių integracijų – daugiau nei pusė jų buvo valdoma dirbtinio intelekto.
Viena integracija, transkripcijos įrankis, prijungtas prie Zoom, įrašė kiekvieną kliento skambutį, įskaitant diskusijas dėl kainų ir konfidencialius atsiliepimus. „Jie nesąmoningai treniravo trečiosios šalies modelį apie savo jautriausius duomenis“, – pažymėjo Shapira. „Nebuvo jokios sutarties, nesupratimo, kaip tie duomenys buvo saugomi ar naudojami.
Kitu atveju darbuotojas susiejo „ChatGPT“ tiesiogiai su „Salesforce“, leisdamas AI per valandas sugeneruoti šimtus vidinių ataskaitų. Tai gali skambėti efektyviai, tačiau taip pat išorinei AI sistemai buvo pateikta klientų informacija ir pardavimo prognozės.
Kaip „Reco“ aptinka neaptiktą
„Reco“ platforma sukurta siekiant suteikti įmonėms visą informaciją apie tai, kokie AI įrankiai yra prijungti prie jų sistemų ir kokius duomenis tie įrankiai gali pasiekti. Jis nuolatos nuskaito SaaS aplinkas, ieškodamas OAuth dotacijų, trečiųjų šalių programų ir naršyklės plėtinių. Nustačius, „Reco“ parodo, kurie vartotojai juos įdiegė, kokius leidimus jie turi ir ar elgesys atrodo įtartinas.
Jei ryšys atrodo rizikingas, sistema gali įspėti administratorius arba automatiškai atšaukti prieigą. „Svarbi greitis, nes AI įrankiai gali išgauti didžiulį duomenų kiekį per valandas, o ne dienas“, – sakė Shapira.
Skirtingai nuo tradicinių saugos produktų, kurie priklauso nuo tinklo ribų, „Reco“ daugiausia dėmesio skiria tapatybei ir prieigos lygiui. Dėl šios priežasties jis puikiai tinka šiandieninėms organizacijoms, kuriose pirmenybė teikiama debesims, daug SaaS naudojančioms organizacijoms, kuriose dauguma duomenų yra už tradicinės ugniasienės ribų.
Platesnis saugumo pažadinimo skambutis
Pramonės analitikai teigia, kad „Reco“ darbas atspindi didesnę įmonės saugumo tendenciją: perėjimas nuo AI blokavimo prie jo valdymo. Remiantis naujausia Cisco ataskaita apie pasirengimą dirbtiniu intelektu, 2025 m. 62 % organizacijų pripažino, kad jos mažai žino, kaip darbuotojai naudoja dirbtinio intelekto įrankius darbe, ir beveik pusė jau patyrė bent vieną su DI susijusį duomenų incidentą.
Kai dirbtinio intelekto funkcijos įtraukiamos į pagrindinę programinę įrangą – nuo „Salesforce Einstein“ iki „Microsoft Copilot“, iššūkis auga. „Galite manyti, kad naudojate patikimą platformą“, – sakė Shapira, – bet galbūt nesuvokiate, kad platformoje dabar yra AI funkcijų, kurios automatiškai pasiekia jūsų duomenis.
„Reco“ sistema padeda panaikinti spragą stebėdama sankcionuotą ir nesankcionuotą AI veiklą, padeda įmonėms susidaryti aiškesnį vaizdą apie tai, kur ir kodėl keliauja jų duomenys.
Saugus dirbtinio intelekto panaudojimas
Shapira mano, kad įmonės patenka į tai, ką jis vadina AI infrastruktūros etapu – laikotarpį, kai kiekvienas verslo įrankis apims tam tikrą AI formą, nesvarbu, ar ji matoma, ar ne. Dėl to būtinas nuolatinis stebėjimas, mažiausiai privilegijuota prieiga ir trumpalaikiai leidimai.
„Įmonės, kurioms pasiseks, nebus tos, kurios blokuos AI“, – pastebėjo jis. „Jie bus tie, kurie jį pritaikys saugiai, su apsauginiais turėklais, apsaugančiais ir naujoves, ir pasitikėjimą.
„Shadow AI“, anot jo, yra ne darbuotojų neapdairumo požymis, o tai, kaip greitai pajudėjo technologijos. „Žmonės stengiasi būti produktyvūs“, – sakė jis. „Mūsų darbas yra užtikrinti, kad jie galėtų tai padaryti nekeldami pavojaus organizacijai.
Įmonėms, bandančioms panaudoti dirbtinį intelektą neprarasdamos savo duomenų kontrolės, „Reco“ žinutė paprasta: jūs negalite apsaugoti to, ko nematote.
Vaizdo šaltinis: Unsplash
