Įrodymai, cituojami elektroninėje knygoje pavadinimu „AI Quantum Resilience“, kurią paskelbė „Utimaco“ (el. pašto siena), rodo, kad organizacijos saugumo riziką laiko pagrindine kliūtimi veiksmingam dirbtinio intelekto pritaikymui jų turimiems duomenims.
AI vertė priklauso nuo organizacijos sukauptų duomenų. Tačiau modelių kūrimas ir jų mokymas šiais duomenimis kelia pavojų saugumui. Ši rizika yra be geriau paskelbtų grėsmių intelektinei nuosavybei, kurios egzistuoja aplink išvados tašką (pavyzdžiui, greita inžinerija).
El. knygos autoriai teigia, kad organizacijos turi valdyti grėsmes per savo AI kūrimo ir įgyvendinimo procesus. Tuo pačiu metu įmonės gali ir turėtų ruoštis keisti savo saugumo protokolus – pakeitimus, kurie taps privalomi, jei kvantinės kompiuterijos varomi iššifravimo įrankiai taps lengvai prieinami blogiems veikėjams.
„Utimaco“ išvardija tris sritis, kurioms gresia pavojus:
- Blogi veikėjai gali manipuliuoti treniruočių duomenimis, o modelio išvestis žeminančius būdus sunku aptikti,
- Modelius galima išgauti arba kopijuoti, pažeidžiant intelektinės nuosavybės teises,
- Gali būti atskleisti jautrūs duomenys, naudojami treniruočių metu arba daromos išvados.
Dabartinė viešojo rakto kriptografija per ateinančius dešimt metų taps pažeidžiama, patvirtina ataskaitos autoriai; laikotarpis, per kurį gali atsirasti pajėgios kvantinės sistemos. Nepriklausomai nuo laiko skalės, manoma, kad geriau organizuotos grupės šiuo metu renka užšifruotus duomenis ir saugo juos, kad iššifruotų, kai bus prieinami kvantiniai įrenginiai. Todėl, teigia Utimaco, bet koks duomenų rinkinys, turintis ilgalaikį jautrumą, įskaitant modelio mokymo duomenis, finansinius įrašus ar intelektinę nuosavybę, gali reikalauti apsaugos nuo būsimo iššifravimo.
Perėjimas prie kvantiškai atsparios kriptografijos turės įtakos protokolams, raktų valdymui, sistemos sąveikai ir našumui, todėl bet koks perkėlimas greičiausiai užtruks kelerius metus. Ataskaitos autoriai siūlo, ką jie vadina „kriptografiniu judrumu“, kuris apibrėžiamas kaip kriptografinių algoritmų keitimas neperplanuojant pagrindinių sistemų. „Kripto judrumas“ yra pagrįstas hibridinės kriptografijos principu – derinant nustatytus algoritmus su postkvantiniais metodais, tokiais, kaip siūlo NIST.
Elektroninės knygos autoriai sutinka, kad kriptografija pati savaime neapima visų galimų rizikos sričių. Ji pasisako už aparatinės įrangos patikimų įrenginių, galinčių atskirti kriptografinius raktus ir jautrias operacijas nuo įprastos darbo aplinkos, naudojimą.
Jei įmonės kuria savo dirbtinio intelekto įrankius ir procesus, tokia apsauga turėtų būti taikoma per visą AI gyvavimo ciklą – nuo duomenų gavimo iki mokymo, modelio diegimo ir išvadų gamyboje. Duomenims šifruoti ir modeliams pasirašyti naudojami aparatūros raktai gali būti generuojami ir saugomi ribose. Tada prieš diegiant galima patikrinti modelio vientisumą, o slapti duomenys, apdoroti atliekant išvadas, lieka apsaugoti.
Aparatinės įrangos anklavai izoliuoja darbo krūvius, kad net pakankamai teisių turintys sistemos administratoriai negalėtų pasiekti jokių apdorojamų duomenų. Aparatūros moduliai gali patikrinti, ar duomenų anklavas yra patikimos būsenos prieš išleidžiant raktus – išorinio atestavimo procesą, padedantį sukurti „pasitikėjimo grandinę“ nuo aparatinės įrangos iki programos.
Aparatūra pagrįstas raktų valdymas sukuria apsaugotus nuo klastojimo žurnalus, apimančius prieigą ir operacijas, kad būtų palaikomos atitikties sistemos, pvz., ES AI įstatymas.
Daugelis AI sistemoms būdingų pavojų yra gerai žinomi, jei dar nėra išnaudoti. Rizika, kylanti dėl kvantinio skaičiavimo galimybės iššifruoti šiuo metu saugiais laikomus duomenis, nėra tokia tiesioginė, tačiau pasekmės turėtų turėti įtakos šiandien priimamiems duomenų ir infrastruktūros sprendimams, teigia Utimaco. Jis pasisako už:
- Kontrolės stiprinimas per visą AI kūrimo ir diegimo gyvavimo ciklą,
- „kriptografinio judrumo“ įdiegimas, kad būtų galima pereiti prie kvantinio saugumo,
- Sukurti aparatine įranga pagrįstus pasitikėjimo mechanizmus visur, kur yra naudojamas didelės vertės turtas.
(Vaizdo šaltinis: Nacionalinių sveikatos institutų (NIH) „Apoptotinės HeLa ląstelės nuskaitymo elektroninė mikrografija“ licencijuota pagal CC BY-NC 2.0. Jei norite peržiūrėti šios licencijos kopiją, apsilankykite https://creativecommons.org/licenses/by-nc/2.0)
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra TechEx dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
