E.SUN Bank bendradarbiauja su IBM, kad sukurtų aiškesnes AI valdymo taisykles, kaip dirbtinis intelektas gali būti naudojamas banke. Pastangos atspindi platesnį finansų pokytį. Daugelis įmonių jau naudoja dirbtinį intelektą sukčiavimo patikrinimams ir kredito balams, o kai kurios taip pat naudoja jį klientų aptarnavimo užklausoms tvarkyti. Naujas iššūkis – kaip valdyti šias sistemas laikantis teisinių ir rizikos taisyklių.
Diegdami dirbtinį intelektą bankai susiduria su vis daugiau klausimų. Kaip modelis turėtų būti išbandytas prieš pradedant jį naudoti? Kas atsako, jei skambina neteisingai? Ir kaip įmonės gali įrodyti reguliavimo institucijoms, kad jų sistemos yra sąžiningos ir saugios?
Siekdami išspręsti šias problemas, E.SUN Bank ir IBM Consulting sukūrė bankininkystės AI valdymo sistemą. Į projektą taip pat įtraukta AI valdymo baltoji knyga, kurioje nurodoma, kaip finansų įmonės gali sukurti vidinę AI sistemų kontrolę. Kaip teigiama įmonių pranešime spaudai, šis darbas pritaiko tokius pasaulinius standartus kaip ES AI įstatymas ir ISO/IEC 42001 finansinėms paslaugoms.
Sistema nustato, kaip bankai gali peržiūrėti AI modelius prieš juos diegdami. Taip pat paaiškinama, kaip tie modeliai turėtų būti stebimi pradėjus gaminti. Jame pateikiamos taisyklės, kaip naudojami duomenys ir kaip turėtų būti atliekamos rizikos peržiūros.
E.SUN Bankas teigė, kad ši sistema skirta padėti finansų įstaigoms įdiegti dirbtinio intelekto sistemas išlaikant valdymą ir reguliavimo priežiūrą. Daugelis įmonių jau naudoja ribotus AI įrankius. Kitas žingsnis yra pritaikyti šias sistemas pagrindinėms operacijoms, tokioms kaip skolinimas ir mokėjimai, neperžengiant reguliavimo ribų.
Bankai bando valdyti AI riziką
Finansų įmonės turi rimtų priežasčių aplink dirbtinio intelekto sistemas įrengti apsauginius turėklus. Bankininkystė remiasi pasitikėjimu, o reguliavimo institucijos reikalauja, kad įmonės stebėtų, kaip priimami sprendimai. AI modeliai dažnai veikia kaip „juodosios dėžės“, o tai reiškia, kad gali būti sunku paaiškinti, kaip jie pasiekia rezultatą. Tai gali sukelti problemų tokiose srityse, kaip sprendimai dėl kredito ar patikrinimai dėl sukčiavimo. Daugelio regionų reguliavimo institucijos pradėjo sutelkti dėmesį į šią riziką.
2024 m. priimtas Europos Sąjungos AI įstatymas nustato griežtas taisykles dirbtinio intelekto sistemoms, naudojamoms didelės rizikos sektoriuose, tokiuose kaip finansai. Įstatymas reikalauja, kad įmonės įvertintų riziką ir dokumentuotų mokymo duomenis. Tai taip pat reikalauja, kad jie stebėtų, kaip AI modeliai elgiasi po įdiegimo.
Pasauliniai standartai taip pat formuojasi. ISO/IEC 42001, paskelbtas 2023 m., nustato, kaip organizacijos gali kurti DI valdymo sistemas. Standarte pagrindinis dėmesys skiriamas priežiūrai ir modelio stebėjimui. Jame taip pat aptariama, kaip organizacijos turėtų valdyti AI duomenis. Tikslas yra suteikti įmonėms struktūrinį būdą valdyti AI visoje įmonėje, o ne kiekvieną modelį traktuoti kaip atskirą įrankį.
E.SUN banko projektas su IBM remiasi abiem sistemomis. Ji skirta parodyti, kaip šios taisyklės galėtų veikti atliekant kasdienes banko operacijas.
Nuo AI pilotų iki įmonių sistemų
Bankai daugelį metų naudojo mašininį mokymąsi, daugiausia rizikos analizei ir sukčiavimo aptikimui. Naujesni AI modeliai plečia, kaip bankai naudoja šią technologiją. Daugelis dabar tai taiko klientų aptarnavimo ir dokumentų peržiūroje. Kai kurie tai taip pat naudoja vidinėse žinių sistemose.
Dėl šios plėtros atsiranda naujų valdymo poreikių. Sistema, siūlanti atsakymus į klientų užklausas, gali atrodyti mažai rizikinga. Tačiau modelis, padedantis patvirtinti paskolas arba nustatyti sukčiavimą, gali turėti tiesioginį finansinį poveikį.
E.SUN banko ir IBM sukurta valdymo sistema nustato procesą, kaip sekti šias rizikas. Modeliai peržiūrimi prieš pradedant juos naudoti, o komandos stebi jų rezultatus po įdiegimo. Sistema taip pat priskiria atsakomybę komandoms – nuo kūrėjų iki atitikties darbuotojų. Projekto metu taip pat buvo parengta balta knyga, kurioje išsamiau paaiškinami veiksmai. Jame aprašoma, kaip bankai gali klasifikuoti dirbtinio intelekto sistemas pagal rizikos lygį ir taikyti skirtingus priežiūros lygius.
AI valdymas plečiasi visose finansinėse paslaugose
Darbas E.SUN Banke atspindi pasaulio finansų tendencijas. Daugelis bankų dabar mano, kad valdymas yra pagrindinis žingsnis prieš pradedant taikyti dirbtinį intelektą įvairiose operacijose.
Pramonės tyrimai rodo, kad dirbtinio intelekto naudojimas finansinėse paslaugose jau yra plačiai paplitęs. 2024 m. NVIDIA ataskaitoje nustatyta, kad apie 91% finansinių paslaugų įmonių vertino arba jau naudoja dirbtinį intelektą. Įprastas naudojimas apima sukčiavimo aptikimą ir rizikos modeliavimą. Kai kurie bankai taip pat naudoja dirbtinį intelektą klientų aptarnavimo užduotims automatizuoti.
Deloitte atliktas tyrimas rodo, kad daugiau nei 70 % finansų įstaigų planuoja padidinti investicijas į dirbtinį intelektą. Didžioji šių išlaidų dalis skirta atitikties stebėjimui ir rizikos analizei. Kai kurie bankai taip pat tikisi, kad dirbtinis intelektas pagerins vidines operacijas.
Tuo pačiu metu reguliuotojai atkreipia dėmesį į tai. Kelių regionų valdžios institucijos perspėjo bankus sekti, kaip automatizuotos sistemos veikia tokius sprendimus kaip kredito patvirtinimas ir sukčiavimo aptikimas. Šis spaudimas paskatino bankus daugiau investuoti į vidaus priežiūros sistemas. Užuot sutelkusios dėmesį tik į modelio tikslumą, įmonės dabar taip pat stebi duomenų šaltinius ir sprendimų logiką. Daugelis taip pat stebi, kaip modeliai elgiasi laikui bėgant.
Kodėl valdymas gali formuoti AI priėmimą?
Dirbtinio intelekto valdymas gali turėti įtakos tam, kaip greitai bankai priims naujas priemones. Be aiškių taisyklių daugelis firmų nesiryžta atlikti nedidelių eksperimentų. Struktūrizuota sistema gali padėti jiems išplėsti AI projektus, kartu tenkinant reguliavimo reikalavimus.
Tokia yra E.SUN banko projekto idėja. Sujungus pasaulinius standartus su bankų darbo eigomis, sistema nustato, kaip dirbtinis intelektas gali būti įdiegtas aiškiai prižiūrint. Remiantis įmonių pranešimu, IBM teigė, kad sistema buvo sukurta siekiant padėti finansų įstaigoms valdyti DI riziką, kai jos plečia AI naudojimą bankininkystėje.
Pastangos taip pat atspindi augantį įmonių AI valdymo vaidmenį. Ankstyvieji AI projektai buvo skirti modelių kūrimui ir našumo gerinimui. Šiandien dėmesys sutelkiamas į tai, kaip šios sistemos valdomos laikui bėgant. Kadangi vis daugiau bankų DI įtraukia į pagrindines operacijas, šis klausimas gali tapti toks pat svarbus kaip ir pati technologija.
(Markaus Špiškės nuotr.)
Taip pat žiūrėkite: Manulife perkelia AI agentus į pagrindines finansines darbo eigas
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra „TechEx“ dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
