Naujasis „Microsoft“ atvirojo kodo įrankių rinkinys skirtas vykdymo saugumui, kad įmonės AI agentai būtų griežtai valdomi. Leidimas sprendžia didėjantį nerimą: autonominiai kalbos modeliai dabar vykdo kodą ir pasiekia įmonių tinklus daug greičiau, nei gali neatsilikti tradicinės politikos valdikliai.
AI integracija anksčiau reiškė pokalbio sąsajas ir patariamuosius antruosius pilotus. Šios sistemos turėjo tik skaitymo prieigą prie konkrečių duomenų rinkinių, todėl žmonės buvo griežtai vykdomi. Šiuo metu organizacijos diegia agentines sistemas, kurios imasi nepriklausomų veiksmų, sujungdamos šiuos modelius tiesiai į vidines programų programavimo sąsajas, debesų saugyklas ir nuolatinio integravimo vamzdynus.
Kai autonominis agentas gali perskaityti el. laišką, nuspręsti parašyti scenarijų ir nusiųsti jį į serverį, griežtesnis valdymas yra gyvybiškai svarbus. Statinė kodo analizė ir pažeidžiamumo nuskaitymas prieš įdiegimą tiesiog negali susidoroti su nedeterministiniu didelių kalbų modelių pobūdžiu. Viena greita injekcijos ataka (ar net pagrindinė haliucinacija) gali išsiųsti agentą perrašyti duomenų bazę arba ištraukti klientų įrašus.
Naujajame „Microsoft“ įrankių rinkinyje atsižvelgiama į vykdymo saugą, suteikiant galimybę stebėti, įvertinti ir blokuoti veiksmus tuo metu, kai modelis bando juos atlikti. Tai pranoksta pasikliaujant išankstiniu mokymu arba statiniais parametrų patikrinimais.
Įrankio iškvietimo sluoksnio perėmimas realiuoju laiku
Žvelgiant į agentų įrankių iškvietimo mechaniką, matyti, kaip tai veikia. Kai įmonės AI agentas turi išeiti už savo pagrindinio neuroninio tinklo ribų, kad galėtų atlikti kažką panašaus į inventorizacijos sistemos užklausą, jis generuoja komandą pasiekti išorinį įrankį.
„Microsoft“ sistema numeta politikos vykdymo variklį tiesiai tarp kalbos modelio ir platesnio įmonės tinklo. Kiekvieną kartą, kai agentas bando suaktyvinti išorinę funkciją, įrankių rinkinys paima užklausą ir patikrina numatytą veiksmą pagal centrinį valdymo taisyklių rinkinį. Jei veiksmas pažeidžia politiką (pvz., agentas, įgaliotas tik skaityti atsargų duomenis, bando suaktyvinti pirkimo užsakymą), įrankių rinkinys blokuoja API iškvietimą ir registruoja įvykį, kad žmogus galėtų jį peržiūrėti.
Apsaugos komandos gauna patikrinamą ir audituojamą kiekvieno savarankiško sprendimo seką. Čia taip pat laimi kūrėjai; jie gali sukurti sudėtingas kelių agentų sistemas, neįrašydami saugos protokolų į kiekvieną atskirą modelio raginimą. Saugos politika visiškai atsieta nuo pagrindinės programos logikos ir yra valdoma infrastruktūros lygiu.
Dauguma senų sistemų niekada nebuvo sukurtos taip, kad galėtų bendrauti su nedeterministine programine įranga. Sena pagrindinio kompiuterio duomenų bazė arba pritaikytas įmonės išteklių planavimo rinkinys neturi savaiminės apsaugos nuo mašininio mokymosi modelio, peršančio netinkamai suformuotas užklausas. „Microsoft“ įrankių rinkinys veikia kaip apsauginis vertimo sluoksnis. Net jei pagrindinės kalbos modelis pažeidžiamas dėl išorinių įvestų; laikosi sistemos perimetras.
Saugumo lyderiai gali stebėtis, kodėl „Microsoft“ nusprendė išleisti šį vykdymo laiko įrankių rinkinį pagal atvirojo kodo licenciją. Tai priklauso nuo to, kaip iš tikrųjų veikia šiuolaikinės programinės įrangos tiekimo grandinės.
Kūrėjai šiuo metu skuba kurti savarankiškas darbo eigas, naudodami didžiulį atvirojo kodo bibliotekų, sistemų ir trečiųjų šalių modelių derinį. Jei „Microsoft“ užrakintų šią vykdymo laiko saugos funkciją savo patentuotose platformose, kūrėjų komandos tikriausiai tiesiog ją apeitų, kad galėtų greičiau ir nepatikrinti sprendimus, kad pasiektų savo terminus.
Atviras priemonių rinkinio išstūmimas reiškia, kad saugos ir valdymo kontrolė gali tilpti į bet kurį technologijų paketą. Nesvarbu, ar organizacija naudoja vietinius atviro svorio modelius, remiasi konkurentais, tokiais kaip Anthropic, ar diegia hibridines architektūras.
Nustačius atvirą dirbtinio intelekto agentų saugumo standartą, taip pat įleidžiama platesnė kibernetinio saugumo bendruomenė. Saugumo pardavėjai ant šio atviro pagrindo gali sudėti komercines informacijos suvestines ir reagavimo į incidentus integracijas, o tai pagreitina visos ekosistemos brandą. Įmonės vengia pardavėjo užblokavimo, tačiau vis tiek gauna visuotinai patikrintą saugumo bazę.
Kitas įmonės AI valdymo etapas
Įmonės valdymas neapsiriboja vien saugumu; tai taip pat kenkia finansinei ir veiklos priežiūrai. Autonominiai agentai veikia nuolatinėje samprotavimo ir vykdymo kilpoje, kiekviename žingsnyje įrašydami API prieigos raktus. Pradedantieji ir įmonės jau pastebi, kad ženklinės išlaidos smarkiai išauga, kai jie diegia agentų sistemas.
Be vykdymo laiko valdymo agentas, kuriam pavesta ieškoti rinkos tendencijų, gali nuspręsti tūkstančius kartų pasiekti brangią patentuotą duomenų bazę, kol ji nesibaigs. Likęs vienas, blogai sukonfigūruotas agentas, pakliuvęs į rekursyvią kilpą, per kelias valandas gali surinkti didžiules debesų kompiuterijos sąskaitas.
Vykdymo laiko įrankių rinkinys suteikia komandoms galimybę nustatyti griežtus prieigos raktų naudojimo ir API skambučių dažnio apribojimus. Nustačius ribas, kiek veiksmų agentas gali atlikti per tam tikrą laikotarpį, skaičiavimo išlaidų prognozavimas tampa daug lengvesnis. Tai taip pat neleidžia pabėgusiems procesams sunaudoti sistemos išteklius.
Vykdymo laiko valdymo lygmuo perduoda kiekybinę metriką ir kontrolės mechanizmus, reikalingus atitikties įgaliojimams įvykdyti. Baigiasi laikai, kai modelių tiekėjais tikėtasi, kad jie išfiltruotų blogus rezultatus. Sistemos sauga dabar tenka infrastruktūrai, kuri iš tikrųjų vykdo modelių sprendimus
Norint pradėti įgyvendinti brandžią valdymo programą, reikės glaudaus bendradarbiavimo tarp plėtros operacijų, teisininkų ir saugumo komandų. Kalbos modelių pajėgumai tik didėja, o organizacijos, šiandien taikančios griežtą vykdymo laiko kontrolę, yra vienintelės, kurios galės valdyti autonomines rytojaus darbo eigas.
Taip pat žiūrėkite: Dirbtinio intelekto agentams prisiimant daugiau užduočių, valdymas tampa prioritetu
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra „TechEx“ dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais, įskaitant „Cyber Security & Cloud Expo“. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
