OpenAI pristato smėlio dėžės vykdymą, leidžiantį įmonės valdymo komandoms įdiegti automatizuotas darbo eigas su kontroliuojama rizika.
Komandos, perkeliančios sistemas nuo prototipo iki gamybos, susidūrė su sudėtingais architektūriniais kompromisais dėl to, kur vyko jų operacijos. Naudojant modelių agnostines sistemas, buvo suteiktas pradinis lankstumas, tačiau nepavyko visiškai išnaudoti pasienio modelių galimybių. Modelių teikėjų SDK liko arčiau pagrindinio modelio, tačiau dažnai jiems trūko pakankamai matomumo į valdymo diržus.
Kad reikalai būtų dar sudėtingesni, valdomos agentų API supaprastino diegimo procesą, tačiau labai apribojo, kur sistemos gali veikti ir kaip jos pasiekia jautrius įmonės duomenis. Kad tai išspręstų, „OpenAI“ pristato naujas agentų SDK galimybes, siūlydamas kūrėjams standartizuotą infrastruktūrą, apimančią modelio savąjį diržą ir vietinį smėlio dėžės vykdymą.
Atnaujinta infrastruktūra suderina vykdymą su natūraliu pagrindinių modelių veikimo modeliu, padidindama patikimumą, kai užduotis reikia koordinuoti įvairiose sistemose. „Oscar Health“ pateikia šio nestruktūrizuotų duomenų efektyvumo pavyzdį.
Sveikatos priežiūros paslaugų teikėjas išbandė naują infrastruktūrą, kad automatizuotų klinikinių įrašų darbo eigą, kurios senesni metodai negalėjo patikimai valdyti. Inžinierių komanda reikalavo, kad automatizuota sistema ištrauktų teisingus metaduomenis, kartu teisingai suprasdama pacientų susidūrimų sudėtingose medicininėse bylose ribas. Automatizuodamas šį procesą paslaugų teikėjas galėtų greičiau analizuoti pacientų istorijas, paspartinti priežiūros koordinavimą ir pagerinti bendrą narių patirtį.
Rachael Burns, „Oscar Health“ personalo inžinierius ir dirbtinio intelekto technologijų vadovas, sakė: „Atnaujintas agentų SDK padėjo mums automatizuoti svarbią klinikinių įrašų darbo eigą, kurios ankstesni metodai negalėjo pakankamai patikimai atlikti.
„Mums skyrėsi ne tik tinkamų metaduomenų ištraukimas, bet ir teisingas kiekvieno susitikimo ribų supratimas ilguose, sudėtinguose įrašuose. Dėl to galime greičiau suprasti, kas vyksta kiekvienam pacientui tam tikro apsilankymo metu, padėti nariams patenkinti jų priežiūros poreikius ir pagerinti jų patirtį su mumis.
„OpenAI“ optimizuoja dirbtinio intelekto darbo eigą naudodama savo modelio diržus
Norėdami įdiegti šias sistemas, inžinieriai turi valdyti vektorinių duomenų bazių sinchronizavimą, kontroliuoti haliucinacijų riziką ir optimizuoti brangius skaičiavimo ciklus. Neturėdamos standartinių sistemų, vidinės komandos dažnai kuria trapias pasirinktines jungtis, kad galėtų valdyti šias darbo eigas.
Naujasis modelio diržas padeda sumažinti šią trintį, nes įdiegiama konfigūruojama atmintis, su smėlio dėže suderinama orkestruotė ir į Codex panašūs failų sistemos įrankiai. Kūrėjai gali integruoti standartizuotus primityvus, tokius kaip įrankio naudojimas per MCP, pasirinktines instrukcijas per AGENTS.md ir failų redagavimą naudodami pataisos taikymo įrankį.
Laipsniškas atskleidimas per įgūdžius ir kodo vykdymą naudojant apvalkalo įrankį taip pat leidžia sistemai atlikti sudėtingas užduotis nuosekliai. Šis standartizavimas leidžia inžinierių komandoms praleisti mažiau laiko atnaujinant pagrindinę infrastruktūrą ir sutelkti dėmesį į konkrečios srities logikos kūrimą, kuri būtų tiesiogiai naudinga verslui.
Norint integruoti autonominę programą į seną technologijų krūvą, reikalingas tikslus maršrutas. Kai autonominis procesas pasiekia nestruktūrizuotus duomenis, jis labai priklauso nuo paieškos sistemų, kad gautų atitinkamą kontekstą.
Siekiant valdyti įvairių architektūrų integravimą ir apriboti veiklos apimtį, SDK pristato manifesto abstrakciją. Ši abstrakcija standartizuoja, kaip kūrėjai apibūdina darbo sritį, leidžiant jiems prijungti vietinius failus ir apibrėžti išvesties katalogus.
Komandos gali prijungti šias aplinkas tiesiogiai prie pagrindinių įmonės saugyklos tiekėjų, įskaitant AWS S3, Azure Blob Storage, Google Cloud Storage ir Cloudflare R2. Sukūrus nuspėjamą darbo sritį, modeliui pateikiami tikslūs parametrai, kaip rasti įvestis, rašyti išvestis ir palaikyti organizaciją ilgų operacijų metu.
Šis nuspėjamumas neleidžia sistemai teikti užklausų nefiltruotų duomenų ežerų, apribojant konkrečius, patvirtintus konteksto langus. Duomenų valdymo komandos vėliau gali tiksliau stebėti kiekvieno automatizuoto sprendimo kilmę nuo vietinio prototipo fazių iki gamybos diegimo.
Saugumo padidinimas naudojant vietinį smėlio dėžės vykdymą
SDK iš esmės palaiko smėlio dėžės vykdymą, siūlydamas nenaudojamą sluoksnį, kad programos galėtų veikti kontroliuojamoje kompiuterio aplinkoje, kurioje yra būtinų failų ir priklausomybių. Inžinierių komandoms nebereikia rankiniu būdu sujungti šio vykdymo sluoksnio. Jie gali įdiegti savo pasirinktines smėlio dėžes arba naudoti įmontuotą palaikymą tokiems teikėjams kaip „Blaxel“, „Cloudflare“, „Daytona“, E2B, „Modal“, „Runloop“ ir „Vercel“.
Rizikos mažinimas tebėra pagrindinis bet kurios įmonės, diegiančios savarankišką kodo vykdymą, rūpestis. Apsaugos komandos turi daryti prielaidą, kad bet kuri sistema, nuskaitanti išorinius duomenis arba vykdanti sugeneruotą kodą, susidurs su greito įpurškimo atakomis ir bandymais išfiltruoti.
OpenAI artėja prie šio saugumo reikalavimo, atskirdama valdymo laidą nuo skaičiavimo sluoksnio. Šis atskyrimas izoliuoja kredencialus ir neleidžia jiems patekti į aplinką, kurioje vykdomas modelio sukurtas kodas. Izoliuojant vykdymo sluoksnį, įvesta kenkėjiška komanda negali pasiekti centrinės valdymo plokštumos arba pavogti pirminių API raktų, taip apsaugodama platesnį įmonės tinklą nuo šoninio judėjimo atakų.
Šis atskyrimas taip pat sprendžia su sistemos gedimais susijusių išlaidų skaičiavimo problemas. Ilgai vykdomos užduotys dažnai nepavyksta įpusėjus dėl tinklo skirtojo laiko, sudėtinio rodinio strigčių arba API apribojimų. Jei sudėtingas agentas imasi dvidešimties žingsnių, kad sudarytų finansinę ataskaitą ir nepavyksta atlikti devyniolikto žingsnio, pakartotinis visos sekos vykdymas sudegina brangius skaičiavimo išteklius.
Jei aplinka sugenda pagal naują architektūrą, smėlio dėžės konteinerio praradimas nereiškia, kad prarasite visą eksploatavimo laiką. Kadangi sistemos būsena išlieka išorinė, SDK naudoja integruotą momentinį vaizdą ir rehidrataciją. Infrastruktūra gali atkurti būseną naujame konteineryje ir tęsti tiksliai nuo paskutinio patikros taško, jei baigiasi pradinės aplinkos galiojimo laikas arba sugenda. Užkertant kelią būtinybei iš naujo paleisti brangius, ilgai trunkančius procesus, tiesiogiai sumažėja debesų kompiuterijos išlaidos.
Norint atlikti šias operacijas, reikia dinamiško išteklių paskirstymo. Atskirta architektūra leidžia paleisties iškviesti vieną arba kelias smėlio dėžes, atsižvelgiant į esamą apkrovą, nukreipti konkrečius antrinius agentus į izoliuotas aplinkas ir sugretinti užduotis daugelyje konteinerių, kad būtų galima greičiau vykdyti.
Šios naujos galimybės paprastai pasiekiamos visiems klientams per API, naudojant standartinę kainodarą, pagrįstą žetonais ir įrankių naudojimu, nereikalaujant pasirinktinių pirkimo sutarčių. Naujos diržų ir smėlio dėžės galimybės pirmiausia pradedamos naudoti „Python“ kūrėjams, o „TypeScript“ palaikymas numatomas ateityje.
„OpenAI“ planuoja įdiegti papildomų galimybių, įskaitant kodo režimą ir antrinius agentus, tiek į Python, tiek į „TypeScript“ bibliotekas. Pardavėjas ketina laikui bėgant išplėsti platesnę ekosistemą, palaikydamas papildomus smėlio dėžės tiekėjus ir pasiūlydamas daugiau būdų kūrėjams prijungti SDK tiesiai prie esamų vidinių sistemų.
Taip pat žiūrėkite: „Commvault“ paleidžia „Ctrl-Z“ debesies AI darbo krūviams
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra „TechEx“ dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais, įskaitant „Cyber Security & Cloud Expo“. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
