Norint sumažinti aukšto lygio riziką, galima imtis kelių veiksmų, o tarp jų – tarpininko tapatybė, išsamūs žurnalai, politikos patikrinimai, žmogaus priežiūra, greitas atšaukimas, tiekėjų dokumentų prieinamumas ir įrodymų, kuriuos reikia pateikti reguliavimo institucijoms, formulavimas.
Sprendimus priimantys asmenys gali apsvarstyti keletą variantų, kurie padės sukurti agentinių sistemų veiklos įrašus. Pavyzdžiui, Python SDK (programinės įrangos kūrimo rinkinys), Asqav, gali pasirašyti kiekvieno agento veiksmą kriptografiškai ir susieti visus įrašus su nekintamąja maišos grandine – tokia technika, kuri labiau siejama su blockchain technologija. Jei kas nors ar kažkas pakeičia arba pašalina įrašą, grandinės patvirtinimas nepavyksta.
Valdymo komandoms, naudojant išsami, centralizuota, galbūt užšifruota įrašų sistema visoms agentinėms AI yra priemonė, teikianti duomenis, kurie gerokai viršija atskirų programinės įrangos platformų sukurtus išsklaidytus teksto žurnalus. Nepriklausomai nuo techninių įrašų sudarymo ir saugojimo detalių, IT vadovai turi tiksliai matyti, kur, kada ir kaip agentai veikia visoje įmonėje.
Daugeliui organizacijų nepavyksta atlikti šio pirmojo žingsnio, fiksuojant automatizuotą, dirbtinio intelekto pagrįstą veiklą. Būtina tvarkyti kiekvieno veikiančio agento registrą, kuriame kiekvienas yra unikaliai identifikuotas, taip pat įrašai apie jo galimybes ir suteiktus leidimus. Šis „agentinio turto sąrašas“ puikiai atitinka ES AI įstatymo 9 straipsnio reikalavimus, kuriuose teigiama:
- 9 straipsnis. Didelės rizikos zonose DI rizikos valdymas turi būti nuolatinis, įrodymais pagrįstas procesas integruotas į kiekvieną diegimo etapą (kūrimas, parengimas, gamyba) ir yra nuolat peržiūrimas.
Be to, sprendimus priimantys asmenys turi žinoti įstatymo 13 straipsnį:
- Didelės rizikos AI sistemos turi būti suprojektuotos taip, kad jas diegiantys asmenys suprastų sistemos išvestį. Taigi, trečiosios šalies AI sistema turi būti interpretuojama jos naudotojų (ne nepermatomas kodo dėmelis) ir turėtų būti pateikta pakankamai dokumentų, kad būtų užtikrintas saugus ir teisėtas naudojimas.
Šis reikalavimas reiškia, kad modelio pasirinkimas ir jo diegimo metodai yra techniniai ir reguliavimo svarstymus.
