Paleidus „KiloClaw“, įmonės dabar turi įrankį, skirtą užtikrinti autonominių agentų valdymą ir šešėlinį AI valdyti.
Nors praėjusius metus įmonės praleido siekdamos didelių kalbų modelių ir formalizdamos pardavėjų sutartis, kūrėjai ir žinių darbuotojai pradėjo judėti savarankiškai. Darbuotojai apeina oficialius viešuosius pirkimus, asmeninėje infrastruktūroje diegia savarankiškus agentus, kad automatizuotų savo kasdienes darbo eigas.
Ši praktika, žinoma kaip „Bring Your Own AI“ arba BYOAI, leidžia patentuoti įmonės duomenys patekti į nereguliuojamą išorinę aplinką. Siekdamas pašalinti šį pažeidžiamumą, programinės įrangos tiekėjas „Kilo“ pristatė „KiloClaw for Organizations“ – įmonės lygio platformą, skirtą suvaldyti decentralizuotą agentų diegimą ir atkurti architektūrinę priežiūrą.
Kilo taikosi į matomumo trūkumą, susijusį su agento diegimu. Kai inžinieriai nustato autonominius agentus klaidų žurnalams analizuoti, arba finansų analitikai įdiegia vietinius scenarijus, kad suderintų skaičiuokles, jie teikia pirmenybę greitam efektyvumui, o ne saugos protokolams. Šie agentai reguliariai gauna prieigą prie įmonės „Slack“ kanalų, „Jira“ plokščių ir privačių kodų saugyklų per asmeninius API raktus.
Kadangi šie ryšiai vyksta už oficialios IT kompetencijos ribų, jie sukuria akląsias vietas duomenų išfiltravimui ir intelektinės nuosavybės nutekėjimui. „KiloClaw“ suteikia centralizuotą valdymo plokštę, skirtą saugos komandoms nustatyti, stebėti ir apriboti šiuos savarankiškus veikėjus, netrukdant jų produktyvumo padidėjimui.
Neregėta „Bring-Your-Own-Agent“ infrastruktūra
Dabartinė pamaina atspindi 2010-ųjų pradžios „Bring Your Own Device“ (BYOD) erą, kai darbuotojai naudojo asmeninius išmaniuosius telefonus įmonės el. paštui ir privertė IT skyrius taikyti mobiliųjų įrenginių valdymą.
Dirbtinio intelekto atitikmuo kelia didesnę sumą. Pažeistas telefonas gali atskleisti statinį gautųjų aplanką, tačiau neprižiūrimas autonominis agentas turi aktyvaus vykdymo teises. Jis skaito, rašo, modifikuoja ir ištrina duomenis integruotose platformose tokiu greičiu, kurio žmonės negali atkartoti.
Šie autonominiai scenarijai taip pat dažnai priklauso nuo išorinės skaičiavimo galios. Darbuotojas gali paleisti agentą vietoje, o agentas siunčia įmonės duomenis į trečiųjų šalių išvadų serverius, kad apdorotų užklausas. Jei tie teikėjai naudoja gautus duomenis būsimiems modeliams mokyti, įmonė praranda savo intelektinės nuosavybės kontrolę.
„KiloClaw“ savo ruožtu nustato saugią šių procesų ribą. Užuot ignoravusi išorinius diegimus, platforma įtraukia juos į registrą, kuriame atitikties pareigūnai gali patikrinti elgesį ir duomenų srautus.
Savarankiškų AI agentų tapatybės ir prieigos valdymas
Autonominėms sistemoms valdyti reikalinga kitokia techninė architektūra nei žmonių darbo jėgos valdymui. Tradicinės tapatybės ir prieigos valdymo (IAM) sistemos yra sukurtos žmogaus kredencialams arba statiniam programų tarpusavio ryšiui.
Tačiau autonominiai agentai yra dinamiški. Agentai nuosekliai sujungia užduotis, suformuluodami naujas užklausas pagal ankstesnių veiksmų rezultatus. Įpusėjus užduočiai agentas gali paprašyti prieigos prie įmonės išteklių planavimo duomenų bazės, o standartinei saugos programinei įrangai sunku nustatyti, ar tai yra priešiškas elgesys, ar teisėta operacija.
„KiloClaw“ traktuoja agentus kaip atskirus subjektus, kuriems reikia ribojančių, terminuotų leidimų apimčių. Užuot kūrėjams prijungę nuolatinius aukšto lygio API raktus į eksperimentinius modelius, KiloClaw išleidžia trumpalaikius, siaurai apibrėžtus prieigos raktus.
Jei agentas, skirtas kassavaitiniams rinkodaros el. laiškams apibendrinti, bando atsisiųsti klientų duomenų bazę, platforma aptinka taikymo srities pažeidimą ir atšaukia prieigą. Šis izoliavimas riboja sprogimo spindulį įmonės tinkle, jei atvirojo kodo modelis veikia nenuspėjamai.
Kaip tokie įrankiai kaip KiloClaw subalansuoja greitį ir atitiktį
Įpareigojantis uždrausti naudoti pagal užsakymą pagamintus automatikos įrankius retai pavyksta; ji nukreipia elgesį į pogrindį, skatindama inžinierius užtemdyti eismą ir paslėpti darbo eigą. Tokios platformos kaip KiloClaw siekia sukurti sankcionuotą aplinką, kurioje darbuotojai galėtų saugiai registruoti savo įrankius.
Kad ši valdymo sistema veiktų, IT lyderiai turi teikti pirmenybę integracijai. „KiloClaw“ tiesiogiai prisijungia prie nuolatinio integravimo ir diegimo vamzdynų, kuriuos jau naudoja programinės įrangos komandos. Automatizuodami saugos patikras ir leidimų suteikimą, saugos komandos pašalina trintį, dėl kurios darbuotojai apeina taisykles.
Įmonės gali sukurti bazinius šablonus, nurodančius, kokius duomenis gali apdoroti išoriniai modeliai, todėl darbuotojai gali dislokuoti agentus iš anksto patvirtintose ribose. Tai palaiko atitiktį neprarandant darbo eigos automatizavimo.
Šešėlinio AI valdymo įrankių kūrimas rodo naują algoritminio reguliavimo etapą. Ankstyvosios įmonių reakcijos į generatyvius modelius buvo nukreiptos į priimtiną tekstinių pokalbių robotų naudojimo politiką. Dabar dėmesys nukreipiamas į orkestravimą, izoliavimą ir atskaitomybę tarp sistemų. Reguliavimo institucijos visame pasaulyje taip pat tiria, kaip įmonės stebi automatizuotas sistemas, todėl patikrinama priežiūra siekiama teisinių įsipareigojimų.
Skaitmeniniams agentams daugėjant įmonių tinkluose, „Agento ugniasienės“ koncepcija tampa standartiniu IT biudžeto punktu. Platformos, nubrėžiančios žmogaus ketinimų, mašinos vykdymo ir įmonės duomenų ryšius, bus būsimų saugumo operacijų pagrindas.
KiloClaw patekimas į organizacijos valdymo erdvę išryškina besikeičiančią C-suite realybę: tiesioginė grėsmė apima geranoriškus darbuotojus, perduodančius tinklo raktus nereguliuojamiems įrenginiams. Norint saugiai panaudoti jų potencialą, būtina nustatyti struktūrinę valdžią šiems nežmogiškiems veikėjams.
Taip pat žiūrėkite: Autonominės AI sistemos priklauso nuo duomenų valdymo
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra „TechEx“ dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais, įskaitant „Cyber Security & Cloud Expo“. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
