AI sistemos pradeda peržengti paprastus atsakymus. Daugelyje organizacijų AI agentai dabar testuojami, kad galėtų planuoti užduotis, priimti sprendimus ir atlikti veiksmus su ribotu žmogaus indėliu. Tai jau ne tik klausimas, ar modelis pateikia teisingą atsakymą. Kalbama apie tai, kas nutinka, kai tam modeliui leidžiama veikti.
Autonominėms sistemoms reikia aiškių ribų. Jiems reikia taisyklių, kurios apibrėžia, ką jie gali pasiekti, ką jiems leidžiama daryti ir kaip sekami jų veiksmai. Be šių valdiklių net gerai apmokytos sistemos gali sukelti problemų, kurias sunku aptikti ar pakeisti.
Viena įmonė, sprendžianti šią problemą, yra „Deloitte“. Įmonė kūrė valdymo sistemas ir patariamuosius metodus, padedančius organizacijoms valdyti dirbtinio intelekto sistemas.
Nuo įrankių iki AI agentų
Dauguma šiandien naudojamų AI sistemų vis dar priklauso nuo žmogaus raginimų. Jie generuoja tekstą, analizuoja duomenis ar prognozuoja, bet žmogus dažniausiai nusprendžia, kas bus toliau. Agentinis AI pakeičia šį modelį. Šios sistemos gali suskirstyti tikslą į veiksmus, pasirinkti veiksmus ir sąveikauti su kitomis sistemomis, kad atliktų užduotis.
Ta papildoma nepriklausomybė kelia naujų iššūkių. Kai sistema veikia pati, ji gali eiti keliais, kurių visiškai nesitikėjo, arba naudoti duomenis ne pagal paskirtį.
„Deloitte“ darbas yra skirtas padėti organizacijoms pasiruošti tokioms rizikoms. Vietoj to, kad dirbtinį intelektą traktuotų kaip atskirą įrankį, įmonė žiūri į tai, kaip jis dera su verslo procesais, įskaitant sprendimų priėmimą ir duomenų srautą per sistemas.
Valdymo įtraukimas į gyvavimo ciklą
Valdymas neturėtų būti įtrauktas po įdiegimo. Jis turi būti įtrauktas į visą AI sistemos gyvavimo ciklą.
Tai prasideda projektavimo etape. Organizacijos turi apibrėžti, ką sistemai leidžiama daryti ir kur yra jos ribos. Tai gali apimti duomenų naudojimo taisyklių nustatymą ir apibūdinimą, kaip sistema turėtų reaguoti neaiškiose situacijose.
Kitas etapas yra diegimas. Šiuo metu valdymas sutelkiamas į prieigą ir valdymą, įskaitant tai, kas gali naudotis sistema ir prie ko ji gali prisijungti. Kai sistema veikia, stebėjimas tampa pagrindiniu rūpesčiu. Autonominės sistemos laikui bėgant gali keistis, kai sąveikauja su naujais duomenimis. Be reguliarių patikrinimų jie gali nutolti nuo pradinės paskirties.
Skaidrumo ir atskaitomybės vaidmuo
Dirbtinio intelekto sistemoms prisiimant didesnę atsakomybę, tampa sunkiau atsekti, kaip priimami sprendimai. Tai sukuria didesnio skaidrumo poreikį. Deloitte darbuose pabrėžiama, kaip svarbu sekti, kaip veikia sistemos. Tai apima registravimo veiksmus ir sprendimų dokumentavimą. Šie įrašai padeda organizacijoms nustatyti, kas atsitiko, jei kas nors negerai. Jei autonominė sistema imasi veiksmų, turi būti aišku, kas atsakingas.
Deloitte atliktas tyrimas rodo, kad dirbtinio intelekto agentų priėmimas vyksta greičiau nei jų valdymui reikalingos kontrolės priemonės. Maždaug 23 % įmonių jau naudoja jas, ir tikimasi, kad per dvejus metus šis skaičius pasieks 74 %. Tik 21 % teigia, kad turi tvirtas apsaugos priemones, skirtas prižiūrėti, kaip jie elgiasi.
AI agentų priežiūra realiuoju laiku
Kai autonominė sistema yra aktyvi, dėmesys nukreipiamas į tai, kaip ji elgiasi realiomis sąlygomis. Ne visada pakanka statinių taisyklių, todėl reikia laikytis sistemų, kai jos veikia.
„Deloitte“ metodas apima stebėjimą realiuoju laiku, leidžiantį organizacijoms stebėti, ką dirbtinio intelekto sistema atlieka atlikdama užduotis. Jei sistema elgiasi netikėtai, komandos gali greitai įsikišti. Tai gali apimti tam tikrų veiksmų pristabdymą arba leidimų koregavimą. Priežiūra realiuoju laiku taip pat padeda laikytis reikalavimų. Reguliuojamose pramonės šakose įmonės turi parodyti, kad sistemos atitinka taisykles ir standartus.
Praktiškai šie valdikliai pradedami rodyti darbo nustatymuose. Deloitte aprašo scenarijus, kai AI sistemos stebi įrangos veikimą įvairiose svetainėse. Jutiklių duomenys gali signalizuoti apie ankstyvus gedimo požymius, kurie gali paskatinti priežiūros darbų eigą ir atnaujinti vidines sistemas. Valdymo sistemos apibrėžia, kokių veiksmų sistema gali imtis, kada reikalingas žmogaus pritarimas ir kaip registruojami sprendimai. Procesas vyksta keliose sistemose, tačiau vartotojo požiūriu jis atrodo kaip vienas veiksmas.
Valdymas yra AI & Big Data Expo North America 2026 diskusijų dalis, kuri vyks gegužės 18–19 dienomis Santa Klaroje, Kalifornijoje. „Deloitte“ yra įtraukta į renginio deimantų rėmėją, įtraukdama ją tarp įmonių, prisidedančių prie pokalbių apie tai, kaip autonominės sistemos yra įdiegiamos ir kontroliuojamos praktiškai.
Iššūkis yra ne tik sukurti pažangesnes sistemas, bet ir užtikrinti, kad jos elgtųsi taip, kaip organizacijos galėtų suprasti, valdyti ir laikui bėgant pasitikėti.
(Romano nuotrauka)
Taip pat žiūrėkite: Autonominės AI sistemos priklauso nuo duomenų valdymo
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra „TechEx“ dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais, įskaitant „Cyber Security & Cloud Expo“. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
