Nepaisant visų DI mums teikiamų galimybių, visada yra tikimybė, kad technologija suges arba bus pažeista. Ištikus AI sistemos krizei, naujasis ISACA tyrimas atskleidė, kad dauguma apklaustų organizacijų negalėjo paaiškinti, kaip greitai jos galėtų sustabdyti AI sistemos ekstremalią situaciją, ar net pranešti, kas sukėlė problemą.
Remiantis ISACA ataskaita, 59% skaitmeninio pasitikėjimo profesionalų nesuprato, kaip greitai jų organizacija gali pertraukti ir sustabdyti AI sistemą saugumo incidento metu. Tik 21% pranešė, kad galėtų prasmingai įsitraukti per pusvalandį. Žymi aplinką, kurioje sugadintos AI sistemos gali toliau veikti nekontroliuojamai, todėl gali kilti negrįžtamos žalos rizika.
Ali Sarrafi, autonominės įmonės platformos „Kovant“ generalinis direktorius ir įkūrėjas, sakė: „ISACA išvados rodo didelę struktūrinę problemą, susijusią su organizacijų DI diegimu. Sistemos įterpiamos į svarbias darbo eigas be valdymo lygmens, reikalingo jų veiksmams prižiūrėti ir audituoti. Jei įmonė negali greitai sustabdyti dirbtinio intelekto sistemos, paaiškinti, kas yra atsakingas už tai, kas kontroliuoja verslą, sistema“.
AI gedimai ir rizika
Iš viso tik 42 % respondentų išreiškė bet kokį pasitikėjimą, kad jų organizacija gali išanalizuoti ir išaiškinti rimtus DI incidentus, todėl galimi veiklos sutrikimai ir saugumo rizika. Be to, nepaaiškinus šių incidentų reguliavimo institucijoms ir vadovybei, įmonės gali susilaukti teisinių nuobaudų ir visuomenės atsako.
Norint pasimokyti iš klaidų, reikalinga tinkama analizė. Be aiškaus supratimo, pasikartojančių incidentų tikimybė tik didėja. Svarbu atsakingai valdyti dirbtinį intelektą, naudojant veiksmingą DI valdymą, tačiau ISACA išvados rodo, kad to dažnai trūksta.
Atskaitomybė yra dar viena neaiški sritis, kurioje 20 % praneša, kad nežino, kas būtų atsakingas, jei dirbtinio intelekto sistema padarytų žalą. Tik 38 % nurodė, kad valdyba arba vykdomasis asmuo yra galutinai atsakingas.
Sarrafi pažymėjo, kad AI priėmimo sulėtinimas nėra išeitis; Vietoj to labai svarbu permąstyti, kaip jis valdomas. „AI sistemos turi būti struktūrizuotame valdymo lygmenyje, kuris traktuoja juos kaip skaitmeninius darbuotojus, turinčius aiškią nuosavybę, apibrėžtus eskalavimo kelius ir galimybę akimirksniu pristabdyti arba nepaisyti, kai peržengiamos rizikos slenksčiai. Agentai nustoja būti paslaptingais robotais ir tampa sistemomis, kurias galite patikrinti ir kuriomis galite pasitikėti. Kadangi dirbtinis intelektas tampa vis giliau įterptas į verslą ir valdymą. Architektūra nuo pat pirmos dienos su matomumu ir valdymu visais lygmenimis. Organizacijos, kurios turi šią teisę, nesumažins rizikos, jos bus tos, kurios užtikrintai galės išplėsti dirbtinį intelektą versle.
Tačiau 40 % respondentų teigia, kad žmonės patvirtina beveik visus dirbtinio intelekto veiksmus prieš juos diegdami, o dar 26 % vertina AI rezultatus. Be to, be patobulintos valdymo infrastruktūros, žmogaus priežiūros vargu ar pakaks problemoms nustatyti ir išspręsti prieš pakeliant.
ISACA išvados rodo didelę struktūrinę problemą, susijusią su AI diegimu skirtinguose sektoriuose. Kadangi daugiau nei trečdalis organizacijų nereikalauja, kad jų darbuotojai atskleistų, kur ir kada dirbtinis intelektas naudojamas darbo gaminiuose, aklųjų zonų tikimybė didėja.
Nepaisant griežtesnių taisyklių, dėl kurių vyresnioji vadovybė yra labiau atskaitinga, organizacijoms nepavyksta saugiai ir efektyviai įgyvendinti ir naudoti AI. Atrodo, kad daugelis įmonių AI riziką traktuoja kaip techninę problemą, o ne kaip dalyką, dėl kurio reikia kruopštaus valdymo visoje organizacijoje.
Labai svarbu pakeisti tai, kaip DI integruojama ir atliekami veiksmai. Be tinkamo valdymo ir atskaitomybės įmonės nekontroliuoja savo AI sistemų. Be kontrolės net menkiausios klaidos gali sukelti reputacijos ir finansinės žalos, nuo kurios daugelis įmonių gali neatsigauti.
(Vaizdas Foundry Co iš Pixabay)
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra TechEx dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
