Autonominės AI sistemos pradeda pereiti už programinės įrangos aplinkos ribų į sandėlius, pristatymo tinklus ir viešąsias erdves. Vystymas atkreipia dėmesį į tai, ar dabartinės AI taisyklės apima sistemas, veikiančias fizinėje aplinkoje.
Daugumoje esamų AI valdymo sistemų pagrindinis dėmesys buvo skiriamas internetinei žalai ir modelių rezultatams, įskaitant šališkumą, dezinformaciją ir žalingą turinį. Įkūnytos AI sistemos kelia pavojų fizinėje aplinkoje, kur gedimai gali turėti įtakos infrastruktūrai, nuosavybei ar žmonių saugumui.
Singapūro „Infocomm Media Development Authority“ gegužės 20 d. paskelbė AI modelio valdymo sistemos, skirtos „Agentic AI“, 1.5 versiją. Sistemoje pateikiamos gairės organizacijoms, diegiančioms AI agentus, kurie gali planuoti, priimti sprendimus ir atlikti veiksmus keliais etapais, kad pasiektų vartotojo apibrėžtus tikslus.
Sistema sako, kad agentai gali sąveikauti su įrankiais, išorinėmis sistemomis ir kitais agentais, įskaitant sistemas, kurios atnaujina duomenų bazes, rašo failus, valdo įrenginius arba atlieka operacijas. Jame išvardijamos prieigos kontrolė, stebėjimas ir žmogaus patvirtinimas tarp diegimo valdymo priemonių.
AI persikelia į fizines sistemas
Praėjusią savaitę Singapūre vykusiame dirbtinio intelekto aukščiausiojo lygio susitikime diskusijose apie robotiką ir įkūnytą dirbtinį intelektą daugiausia dėmesio buvo skiriama eksploatavimo saugos klausimams, dažniau susijusiems su aviacija, pramoninėmis sistemomis ir ypatingos svarbos infrastruktūros priežiūra nei įprastiniu programinės įrangos reguliavimu.
Pranešėjai taip pat aptarė, ar autonominės sistemos gali saugiai ir patikimai veikti nenuspėjamoje realaus pasaulio aplinkoje ilgą laiką.
Dr. Ya-Qin Zhang, Tsinghua universiteto AI pramonės tyrimų instituto įkūrėjas, teigė, kad įkūnytos AI sistemos padidina riziką, jau susijusią su autonomine programine įranga. Jo teigimu, gedimai gali tiesiogiai paveikti transporto sistemas, dronus, logistikos tinklus ir svarbiausią infrastruktūrą.
„Bet kokia rizika skaitmeninėje srityje bus sustiprinta fizinėje srityje, o fizinis domenas turės fizinių pasekmių“, – sakė Zhang. MLex viršūnių susitikimo pašonėje.
Jis pridūrė, kad transporto priemonės, bepiločiai orlaiviai, išmanieji tinklai ir kita infrastruktūra gali būti atviri, nes dirbtinio intelekto sistemos bus labiau įtrauktos į fizines operacijas.
Pranešėjai aptarė patikimumą, veiklos stebėjimą ir patikinimą po įdiegimo kaip valdymo klausimus. Aukščiausiojo lygio susitikimo diskusijose buvo atkreiptas dėmesys į diegimu pagrįstus valdymo modelius, sukurtus remiantis modeliavimu, telemetrija ir kartotiniais testais, o ne vienkartiniu sertifikavimu.
IMDA sistema taip pat rekomenduoja laipsnišką diegimą, nuolatinį stebėjimą ir tolesnį testavimą po įdiegimo. Jame teigiama, kad agentai dinamiškai sąveikauja su savo aplinka ir ne visas rizikas galima numatyti prieš išleidžiant.
Stebėjimas tampa diegimo problema
„Grab“, kuri Singapūro Punggolo rajone bando autonomines transporto priemones ir pristatymo robotus, teigė, kad diegimo valdymas labai priklauso nuo modeliavimo, bandymų ir nuolatinio stebėjimo.
„Atliekame daug modeliavimo, atliekame daug bandymų uždaruose kursuose ir atviruose kursuose, kad įsitikintume, ar mūsų robotai yra patikimi“, – per vieną iš aukščiausiojo lygio susitikimo diskusijų sakė Grabo vyriausiasis technologijų pareigūnas Suthen Thomas Paradatheth.
„Prieš pritaikydami šimtus robotų, įsitikiname, kad pirmiausia jį nulaužėme modeliuodami ir su keliais robotais“, – pridūrė jis.
Grabas taip pat atkreipė dėmesį į stebėjimo sistemas, skirtas stebėti roboto veikimą ir aptikti netikėtus gedimus po įdiegimo.
„Gali iškilti daug problemų“, – sakė Paradathethas.
IMDA sistemoje teigiama, kad organizacijos turėtų įvertinti agentinio AI naudojimo atvejus, remdamosi prieiga prie duomenų, išorinės sistemos prieiga, savarankiškumu ir užduočių sudėtingumu. Tai taip pat nurodo agento veiksmų apimtį ir grįžtamumą, trečiųjų šalių dalyvavimą ir bendrą sistemos sudėtingumą.
Taip pat rekomenduojama apriboti agento prieigą prie įrankių ir sistemų, taikyti mažiausiai privilegijų teises ir apibrėžti standartines agento darbo eigos veikimo procedūras. Organizacijos taip pat turėtų nustatyti mechanizmus, kad agentai būtų neprisijungę, kai jie netinkamai veikia.
Atsakomybė apima daugiau veikėjų
MLex pranešė, kad įkūnytos AI sistemos gali apimti kelias šalis kūrimo, gamybos ir diegimo metu. Tai apima dirbtinio intelekto kūrėjus, robotų gamintojus, puslaidininkių tiekėjus ir infrastruktūros operatorius.
MLex taip pat pažymėjo, kad atsakomybę gali būti sunkiau priskirti, kai sistemos ir toliau prisitaiko po įdiegimo naudojant programinės įrangos atnaujinimus, telemetriją ir veiklos duomenis.
IMDA teigia, kad organizacijos ir žmonės lieka atskaitingi už agentų veiksmus, net kai agentai veikia savarankiškai. Sistema reikalauja aiškios atsakomybės visoje agentinio AI vertės grandinėje – nuo modelių ir platformų teikėjų iki diegėjų, įrankių tiekėjų ir galutinių vartotojų.
„Applied Materials“ teigė, kad didelio masto robotikos diegimas taip pat yra susijęs su puslaidininkių ekonomika ir sistemų integravimu. Om Nalamasu, bendrovės vyriausiasis technologijų pareigūnas, sakė, kad robotų sistemos priklausys nuo geresnių jutiklių, energijos vartojimo efektyvumo, pažangios pakuotės ir skaičiavimo architektūros.
Nalamasu teigė, kad robotikos sistemoms reikės specialiai sukurtų projektų, pritaikytų konkrečioms pramonės ekosistemoms, o ne vieno sprendimo visoms aplinkoms.
Zhao Yuli, Kinijos robotikos startuolio „Galbot“ vyriausiasis strategijos pareigūnas, sakė, kad Pekinas teikia pirmenybę diegimo mastui ir pramoniniam komercializavimui pasitelkdamas vyriausybės remiamas bandymų vietas, pramonės partnerystes ir ilgalaikes finansavimo iniciatyvas.
Galbotas įdiegė humanoidines robotikos sistemas mažmeninės prekybos, sandėliavimo ir farmacijos operacijose Kinijoje. Tai apima autonomines parduotuves, veikiančias visą parą. Zhao teigė, kad pusiau struktūrinė pramoninė aplinka greičiausiai taps ankstyvu komercializavimo keliu, nes siūlo labiau kontroliuojamas veikimo sąlygas.
Japonija daugiau dėmesio skiria standartų nustatymui, robotikos duomenų rinkiniams ir saugos valdymui. Tokijo universiteto Inžinerijos aukštosios mokyklos profesorius Yutaka Matsuo atkreipė dėmesį į „AI asociacijos“ projektą, kurio tikslas – surinkti 100 000 valandų robotikos duomenų, kad būtų galima paremti robotų pamatų modelius.
Matsuo taip pat paminėjo Japonijos AI saugos institutą ir Hirosimos AI procesą kaip dalį platesnio masto pastangų sukurti įkūnytų AI sistemų valdymo standartus su Singapūru ir kitomis Azijos šalimis.
Singapūras nustato agentų kontrolę
Singapūro sistemoje nustatytos keturios agentinio AI valdymo sritys. Tai apima išankstinį rizikos vertinimą, žmonių atskaitomybę, techninę kontrolę ir galutinio vartotojo atsakomybę. Sistema apibūdina juos kaip pasikartojantį procesą, o ne kaip vienkartinį vertinimą.
Sistema sako, kad žmogaus priežiūra turi būti pritaikyta agentinėms sistemoms, nes nuolatinė visų darbo eigų peržiūra tampa nepraktiška. Jame rekomenduojamas žmogaus pritarimas svarbiuose patikrinimo taškuose, įskaitant didelius veiksmus, negrįžtamus veiksmus ir neįprastą elgesį.
IMDA taip pat nustato automatizavimo šališkumą ir įspėjimo nuovargį kaip riziką, kai žmonės prižiūri pajėgius agentus. Rekomenduojame atlikti priežiūros auditą naudojant tokius rodiklius kaip žmogaus nepaisymo dažnis ir reakcijos laikas, ir naudoti automatinį stebėjimą realiuoju laiku, kad būtų galima pažymėti netikėtą elgesį.
Sistema sako, kad naudotojai turėtų būti informuojami, kokių veiksmų agentas gali atlikti, kokius duomenis jis gali pasiekti ir kokia atsakomybė tenka vartotojui. Ji taip pat rekomenduoja darbuotojų mokymus apie žmogaus ir agento sąveiką, priežiūrą ir profesinius įgūdžius, reikalingus agento rezultatams įvertinti.
Įmonės tikrina AI reguliuojamose darbo eigose
JPMorgan diegia dirbtinio intelekto įrankius visame savo pasauliniame investicinės bankininkystės versle, sakė Paul Uren, banko Azijos ir Ramiojo vandenyno regiono investicinės bankininkystės vadovas. Reuters. Bankas teigė, kad įrankiai padeda bankininkams gauti daugiau informacijos ir susintetinti ją su vidinėmis sistemomis. Jie taip pat naudojami rengiant turinį ir palaikant klientų įtraukimą.
JPMorgan generalinis direktorius Jamie Dimon papasakojo Bloomberg naujienos kad bankas samdys daugiau dirbtinio intelekto specialistų ir mažiau tradicinių bankininkų. Reuters pranešė, kad pasauliniai bankai didina investicijas į dirbtinį intelektą, pertvarko darbo jėgą ir keičia darbo vaidmenis.
Bankas taip pat yra tarp atrinktų organizacijų, kurioms „Anthropic“ leidžia naudoti savo „Mythos“ kibernetinio saugumo modelį pagal kontroliuojamą iniciatyvą, vadinamą „Project Glasswing“. Pasak Anthropic, Mythos gali aptikti senus naršyklių, infrastruktūros ir programinės įrangos pažeidžiamumus.
Reuters pranešė, kad „Goldman Sachs“, „Citigroup“, „Bank of America“ ir „Morgan Stanley“ taip pat turi prieigą prie „Mythos“ arba bando „Mythos“, remdamosi šaltiniais ir įmonių vadovais.
IMDA sistema apima Singapūro banko OCBC atvejo analizę apie turto šaltinių analizę. Sistema analizuoja su pajamomis susijusius dokumentus ir parengia turto šaltinio atmintinę. Ji nepriima kredito, įtraukimo ar rizikos sprendimų savarankiškai.
Tokiu atveju darbo eiga apsiriboja užduočių lygio savarankiškumu ir veikia tik tada, kai ją suaktyvina iš anksto nustatytos darbo eigos. Žmogaus peržiūra reikalinga kritiniuose sprendimo taškuose, o galutinį patvirtinimą atlieka paskirti recenzentai.
Robotai pereina į pramoninį naudojimą
Japonijoje trečdalis įmonių jau naudoja arba svarsto galimybę naudoti dirbtinio intelekto robotus. Reuters Nikkei Research atlikta apklausa nuo gegužės 1 d. iki gegužės 15 d. Apklausos metu buvo susisiekta su 492 įmonėmis, iš kurių 220 atsakė su anonimiškumo sąlyga.
Apie 4% respondentų teigė, kad jau naudoja dirbtinio intelekto robotus, 5% planuoja juos įdiegti, o 25% svarsto tai padaryti. Likę 66% teigė neturintys tokių planų.
Transporto įrangos gamintojai buvo aktyviausia tyrimo grupė – 80 % jau naudoja dirbtinio intelekto robotus arba svarsto jų diegimą. Palyginimui, 94% didmeninės prekybos sektoriaus respondentų teigė neplanuojantys diegti dirbtinio intelekto robotų.
71 % įmonių, naudojančių, planuojančių naudoti ar svarstančių dirbtinio intelekto robotus, gamybą pasirinko kaip naudojimo atvejį. Dar 19% pasirinko pavojingas užduotis, o 11% – paslaugas, skirtas klientams.
Japonijos vyriausybė tikisi, kad dirbtinio intelekto robotai padės išspręsti nuolatinį darbo jėgos trūkumą šalyje ir parems jos poziciją pramoninės robotikos srityje. Japonijoje veikia robotikos įmonės, įskaitant „Fanuc“, „Yaskawa Electric“ ir „Kawasaki Heavy Industries“, tačiau ji susiduria su Kinijos ir JAV konkurencija dėl AI palaikančios robotikos.
Mažmeninės prekybos agentai plečiasi už paieškos ribų
„Walmart“ išdėstė planus naudoti agentinį AI apsipirkimo, darbuotojų, tiekėjų ir kūrėjų darbo eigose.
2025 m. liepos mėn. mažmenininkas paskelbė apie keturių dirbtinio intelekto „super agentų“ planus. Jie skirti pirkėjams, parduotuvių darbuotojams, tiekėjams ir pardavėjams bei programinės įrangos kūrėjams. „Walmart“ teigė, kad šie agentai taps pagrindiniu AI sąveikos tašku tose grupėse.
Vienas iš įrankių, „Sparky“, jau yra „Walmart“ programoje kaip generatyvus AI varomas apsipirkimo asistentas. Hari Vasudev, „Walmart“ JAV vyriausiasis technologijų pareigūnas, sakė, kad išplėstoje versijoje bus galima pertvarkyti prekes ir planuoti renginius. Ji taip pat naudotų kompiuterinę viziją, kad pasiūlytų receptus pagal pirkėjo šaldytuvo turinį.
„Walmart“ taip pat kuria „Associate“ super agentą parduotuvių darbuotojams ir įmonių darbuotojams. Pardavėjams, tiekėjams ir reklamuotojams kuriamas atskiras Marty agentas. Mažmenininkas taip pat dirba su Developer super agentu, skirtu būsimiems AI įrankiams išbandyti, kurti ir paleisti.
Bendrovė atsisakė pasakyti, ar agentai pakeis darbo vietas. Įmonių verslo sistemų vyresnysis viceprezidentas Dave’as Glickas teigė, kad įrankiai sukurs naujų darbo vietų, tačiau daugiau informacijos nepateikė.
(Growtika nuotrauka)
Taip pat žiūrėkite: OpenAI atidaro Singapūro AI laboratoriją, nes IMDA atnaujina AI sistemą
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra „TechEx“ dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
