Naujausios „OpenAI“ valdymo sistemos siūlo įmonių lyderiams struktūrinį planą, skirtą saugiam ir suderinamam AI diegimui visame pasaulyje.
Didžiųjų kalbų modelių priėmimas nuolat progresavo, reikalaujant tvarios, komercinio lygio architektūros. OpenAI išleido pasienio valdymo sistemą (FGF), kurioje dokumentuojama, kaip organizacija sprendžia sisteminės rizikos vertinimą ir mažinimą.
Sistema tiesiogiai susieta su ES bendrosios paskirties AI praktikos kodeksu ir Kalifornijos skaidrumo pasienyje AI įstatymu, žinomu kaip TFAIA. Šiame leidinyje pateikiamas labai praktiškas šablonas, kuriame išsamiai aprašoma, kaip galima struktūrizuoti vidines sistemas ir diegimo vamzdynus, kad būtų galima saugiai palaikyti didelio pajėgumo mašininio mokymosi modelius.
Šių reguliavimo struktūrų pavertimas verslo strategija prasideda nuo apibrėžtų grėsmių kategorijų supratimo. Sistema apibrėžia sisteminę riziką kaip numatomą reikšmingą didelės žalos riziką. Konkrečiai, tai apima scenarijus, kai modelis prisideda prie daugiau nei 50 mirčių arba padaro 1 milijardą dolerių turtinės žalos dėl vieno incidento.
Nors šie scenarijai yra kraštutinėje tikimybės ribose, jų kodavimas leidžia diegimo komandoms sukurti tinkamas apsaugos priemones. Anksti nustatydamos ribas, įmonės gali paskirstyti tikslius skaičiavimo išteklius ir inžinerines valandas nuolatiniam stebėjimui po įdiegimo ir trečiosios šalies auditui; užtikrinti, kad programos atitiktų reikalavimus per visą jų gyvavimo ciklą.
Pakopinio rizikos vertinimo taikymas vidinėms sistemoms
OpenAI suskirsto grėsmes konkrečiose srityse: kibernetinis nusikaltimas, cheminė, biologinė, radiologinė ir branduolinė (CBRN) rizika, žalingas manipuliavimas ir kontrolės praradimas.
Kategorijų sistema naudoja skirtingus rizikos lygius, kad įvertintų modelio galimybes. Pavyzdžiui, 3 pakopos kibernetinių nusikaltimų įvertinimas taikomas modeliui, papildytam įrankiu, galinčiam identifikuoti ir plėtoti bet kokio sunkumo funkcinius nulinės dienos išnaudojimus daugelyje užkietėjusių realaus pasaulio sistemų be žmogaus įsikišimo.
ChBRB kategorijoje 3 pakopos modelis galėtų padėti ekspertui sukurti labai pavojingą naują grėsmės vektorių, panašų į CDC A klasės biologinį veiksnį, arba savarankiškai užbaigti reguliuojamos biologinės grėsmės sintezės ciklą. Užuot vertinusios šias galimybes tik kaip į pavojų, vidinės saugos komandos gali naudoti šias pakopas, kad nustatytų apibrėžtas ribas savo patentuoto modelio egzemplioriams, tiksliai žinodamos, kada kodavimo asistentui ar tyrimo įrankiui reikia griežtesnės priežiūros.
Sistemoje taip pat nurodoma rizika, susijusi su žalinga manipuliacija, apibūdinama kaip tikslingas žmogaus elgesio iškraipymas, pvz., modelio galimybių panaudojimas įtakos operacijoms ar kišimasis į rinkimus.
OpenAI pažymi, kad ši sritis tebėra tiriamoji ir geriausiai ją sprendžia sistemos lygmens mažinimo priemonės, pvz., stebėjimas po įdiegimo, o ne vertinimai prieš įdiegimą. Su vartotojais susiduriančioms įmonėms tai rodo, kad rinkodaros automatizavimo sistemoms, naudojančioms kalbos modelius, tiesiog reikia realaus laiko turinio klasifikatorių, kad būtų užtikrintas objektyvus viešas pranešimas.
Spręsdama riziką, kad žmonės gali prarasti galimybę patikimai nukreipti arba išjungti sistemą, sistema šį vektorių pažymi kaip kontrolės praradimą. Šios kategorijos 2 lygio modelis demonstruoja galimybę patikimai išvengti aptikimo naudojant įvairius vertinimo metodus, įskaitant vengimą stebėti minčių grandinę.
3 pakopos modelis apibūdinamas kaip pranašesnis už labiausiai patyrusius žmones vykdant sudėtingiausius projektus ir gali veikti savarankiškai ilgą, ilgalaikį laikotarpį. Jis demonstruoja labai detalų situacijos suvokimą ir slaptumą, todėl modelio ir jo minčių grandinės stebėjimas negali patikimai aptikti arba atmesti žmogaus kontrolės vengimo.
Nustačius šiuos parametrus, įmonės, pasikliaujančios autonominiais tiekimo grandinės logistikos arba finansinės prekybos agentais, turi apibrėžtus įgaliojimus kurti deterministinius saugiklius nuo gedimų ir palaikyti nuoseklią žmogaus priežiūrą automatizuotose darbo eigose.
Integracijos iššūkių ir informacijos saugumo sprendimas
„OpenAI“ suderina savo vidinę apsaugą su ISO 27001, 27017, 27018 ir 27701 standartais, kartu su SOC 2 II tipo vertinimais. Siekdama apsaugoti neišleistų modelių svorį, įmonė naudoja ramybės ir gabenimo duomenų šifravimą, kelių veiksnių autentifikavimą ir griežtus kelių šalių patvirtinimo protokolus. Vidinis personalas reguliariai mokomas, o modelis vykdomas smėlio dėžėje su apribotu išėjimu pagal numatytuosius nustatymus.
Kai įmonės atspindi šią sąranką, jos sukuria saugų vidaus operacijų pagrindą.
Integruojant modelius į patentuotas įmonių duomenų aplinkas, inžinierių komandos dažnai pasikliauja paieškos papildytos kartos ir tankiomis vektorinėmis duomenų bazėmis. Norint apsaugoti šias duomenų bazes nuo prieštaringų raginimų ar bandymų išgauti duomenis, reikia specialių skaičiavimo išlaidų.
Kiekviena API užklausa praeina per saugos klasifikatorius prieš pasiekiant vektorinę duomenų bazę, o gautas kontekstas patikrinamas prieš generuojant galutinį atsakymą. Šiuolaikinių debesyje priglobtų AI valdymo struktūrų sujungimas su senesniais pagrindinio kompiuterio duomenų kaupikliais verčia komandas kurti specialiai pritaikytą, stipriai šifruotą tarpinę programinę įrangą, šis inžinerinis darbas sukuria stabilią įmonei paruoštą infrastruktūrą.
Ekosistemų atitikties ir reagavimo į incidentus palaikymas
Siekdama išlaikyti tikslią rizikos bazę, OpenAI prašo išorės domeno ekspertų ir nepriklausomų trečiųjų šalių vertintojų. Šie išorės ekspertai padeda atlikti modelių, artėjančių prie naujos rizikos pakopos, testavimo nepalankiausiomis sąlygomis apsaugos priemones ir teikia nepriklausomas nuomones vidaus saugos patariamajai grupei.
CDO įmonėse taip pat gali gauti naudos iš išorinių audito laikytojų, kad būtų galima nepriklausomai patikrinti, ar jų lokalizuoto modelio diegimas neviršija priimtinų rizikos slenksčių.
Prisijungus prie platesnio reguliavimo ekosistemos, išorinės ataskaitos diktuoja nuolatinį veiklos ritmą. OpenAI dokumentuoja savo mažinimo rezultatus saugos ir saugos modelio ataskaitoje. Pagal ES AI įstatymo nuostatas įmonė įsipareigoja kas šešis mėnesius įvertinti, ar atnaujinti šias ataskaitas, skirtas jos galingiausiems modeliams.
Manoma, kad ataskaitų atnaujinimas yra būtinas, jei modelio galimybės iš esmės pasikeičia po mokymo arba jei integracija į vidines sistemas padidina riziką. Atsakomybė už atitiktį ES tenka „OpenAI Ireland Limited“, o „OpenAI OpCo LLC“ tvarko įsipareigojimus pagal TFAIA JAV.
Siekdama valdyti staigias programinės įrangos anomalijas, OpenAI naudoja AI saugos incidentų reagavimo planą, sutrumpintą AIRP. Šis planas diktuoja rimtų saugos incidentų skirstymo, tyrimo ir išorinio pranešimo apie rimtus saugos incidentus procedūras.
Galimi incidentai pažymimi automatiniu stebėjimu, darbuotojų eskalavimu arba galutinio vartotojo atsiliepimais. Kai pažymėta, reagavimo komandos ištiria pagrindinę priežastį, apimtį ir poveikį, imdamosi veiksmų įvykiui sušvelninti ir jį sustabdyti. Įmonių vadovai gali lengvai atspindėti šiuos reagavimo mechanizmus; sukuriant lygiagrečius vidinius reagavimo padalinius, galinčius aktyviai koreguoti anomalią API elgseną.
OpenAI sistemos atnaujinimus gali siūlyti įvairūs vadovai, įskaitant saugos sistemų vadovą, CISO ir generalinį advokatą. Bendrovė atlieka oficialų pagrindų vertinimą ne rečiau kaip kartą per 12 mėnesių; vertinant įstatymų pakeitimus, naujų modelių galimybes ir pramonės standartus.
Pažangių skaičiavimo modelių integravimas tebėra perspektyvus kelias į įmonės efektyvumą, o taikant šias sistemas užtikrinama, kad vidinė architektūra yra gerai paruošta saugiai patenkinti šiuolaikinius atitikties reikalavimus.
Taip pat žiūrėkite: Anthropic išleidžia Claude Opus 4.8
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra „TechEx“ dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais, įskaitant „Cyber Security & Cloud Expo“. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
