„OpenAI“ suteikia daugiau saugos valdiklių tiesiai į AI kūrėjų rankas su nauja „apsaugos“ modelių tyrimo peržiūra. Naujoji atvirojo svorio modelių šeima „gpt-oss-safeguard“ skirta turinio klasifikavimui tinkinti.
Naujasis pasiūlymas apims du modelius, gpt-oss-safeguard-120b ir mažesnis gpt-oss-safeguard-20b. Abi yra sureguliuotos esamos gpt-oss šeimos versijos ir bus prieinamos pagal leistiną Apache 2.0 licenciją. Tai leis bet kuriai organizacijai laisvai naudoti, koreguoti ir įdiegti modelius, kaip jai atrodo tinkama.
Tikrasis skirtumas čia yra ne tik atviroji licencija; tai metodas. Užuot pasikliaudamas fiksuotu modelio taisyklių rinkiniu, gpt-oss-safeguard naudoja savo samprotavimo galimybes, kad interpretuotų paties kūrėjo politiką išvados taške. Tai reiškia, kad dirbtinio intelekto kūrėjai, naudojantys naująjį OpenAI modelį, gali sukurti savo specifinę saugos sistemą, kad būtų galima klasifikuoti bet ką – nuo vieno vartotojo raginimų iki pilnų pokalbių istorijų. Kūrėjas, o ne modelio teikėjas, turi paskutinį žodį dėl taisyklių rinkinio ir gali pritaikyti jį konkrečiam naudojimo atvejui.
Šis metodas turi keletą aiškių pranašumų:
- Skaidrumas: Modeliuose naudojamas mąstymo procesas, todėl kūrėjas iš tikrųjų gali pažvelgti po variklio dangčiu ir pamatyti modelio klasifikavimo logiką. Tai didžiulis žingsnis aukštyn, palyginti su įprastu „juodosios dėžės“ klasifikatoriumi.
- Agility: Kadangi saugos politika nėra nuolat mokoma naujame OpenAI modelyje, kūrėjai gali kartoti ir peržiūrėti savo gaires, nereikalaujant viso perkvalifikavimo ciklo. OpenAI, kuri iš pradžių sukūrė šią sistemą savo vidinėms komandoms, pažymi, kad tai yra daug lankstesnis būdas užtikrinti saugumą, nei mokyti tradicinį klasifikatorių netiesiogiai atspėti, ką reiškia politika.
Užuot pasikliavę universaliu platformos laikiklio saugos sluoksniu, atvirojo kodo AI modelius naudojantys kūrėjai dabar gali kurti ir įgyvendinti savo specifinius standartus.
Kūrėjai galės pasiekti naujus OpenAI atviro svorio AI saugos modelius Hugging Face platformoje, nors jie nėra rašomi.
Taip pat žiūrėkite: „OpenAI“ pertvarko, įeina į „kitą Microsoft“ partnerystės skyrių
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra „TechEx“ dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais, įskaitant „Cyber Security Expo“. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
Įrašas „OpenAI“ pristato atviro svorio AI saugos modelius kūrėjams, pirmą kartą pasirodė AI naujienose.
