Naujos kartos dirbtinio intelekto asistentai kuriami „Apple“ ekosistemoje ir lustų gamintojų, tokių kaip „Qualcomm“, tačiau ankstyvosiose ataskaitose teigiama, kad jie kuriami laikantis apribojimų.
Tomo vadovas apibūdino ankstyvąsias šių asistentų versijas kaip galinčias naršyti programas, atlikti užsakymus ir valdyti paslaugų užduotis. Pavyzdžiui, privati beta agentų sistema atliko tokias užduotis kaip paslaugų užsakymas arba turinio paskelbimas programose. Vieno bandymo metu jis perėjo per programos darbo eigą ir pasiekė mokėjimo ekraną prieš paprašydamas vartotojo patvirtinti.
AI agentai kuriami su patvirtinimo patikros punktais. Prieš atliekant slaptus veiksmus, ypač susijusius su mokėjimais ar paskyros pakeitimais, reikia patvirtinti naudotoją. „Žmogaus kilpoje“ modelis leidžia sistemai paruošti veiksmą, bet palieka patvirtinimą vartotojui. Tyrimai, susiję su „Apple“ AI darbu, ištyrė būdus, kaip užtikrinti, kad sistemos pristabdytų prieš imantis veiksmų, kurių vartotojai aiškiai neprašė.
Bankininkystės programėlėms jau reikia patvirtinti pervedimus. Ta pati idėja dabar taikoma AI pagrįstiems veiksmams keliose paslaugose.
Ribos ir kontrolė
Valdymo sluoksnis atsiranda ribojant tai, ką AI gali pasiekti. Užuot suteikę sistemai visišką prieigą prie programų ir duomenų, įmonės nustato apribojimus, pvz., su kuriomis programomis dirbtinis intelektas gali sąveikauti ir kada gali būti suaktyvinti veiksmai.
Praktiškai tai reiškia, kad dirbtinis intelektas gali sudaryti pirkimo projektą arba rezervuoti, bet nebaigti jo be patvirtinimo. Tai taip pat reiškia, kad sistema negali laisvai judėti visose paslaugose, nebent jai būtų suteiktas leidimas.
Pagal Tomo vadovasįrenginys skirtas privatumui. Jei duomenų lieka įrenginyje, nereikia siųsti slaptos informacijos į išorinius serverius.
Tikimasi, kad tokiose srityse kaip mokėjimai dirbtinio intelekto sistemos dirbs su partneriais, kurie jau taiko griežtas taisykles. Viename pavyzdyje, apie kurį pranešta, mokėjimo teikėjų paslaugos integruojamos siekiant užtikrinti saugų autentifikavimą prieš užbaigiant operacijas, nors tokios apsaugos priemonės vis dar kuriamos. Esamos sistemos veikia kaip papildomas priežiūros sluoksnis. Jie gali nustatyti operacijų limitus arba reikalauti papildomo patvirtinimo.
Didžioji dalis diskusijų apie AI valdymą buvo sutelkta į įmonės naudojimą. Tai apima tokias sritis kaip kibernetinis saugumas ir didelio masto automatizavimas. Vartotojų pusė pateikia kitokį iššūkį ir įmonės turi sukurti valdiklius, tinkančius kasdieniams vartotojams. Tai reiškia aiškius patvirtinimo veiksmus ir integruotą privatumo apsaugą.
Autonomija su ribomis
Dirbtiniam intelektui įgyjant galimybę atlikti veiksmus, rizika didėja, nes klaidos gali sukelti finansinių nuostolių arba atskleisti duomenis.
Įvesdamos kontrolę keliuose taškuose, įskaitant patvirtinimą ir infrastruktūrą, įmonės bando valdyti šią riziką.
Šis metodas gali nulemti, kaip artimiausiu metu vystysis agentinis AI. Atrodo, kad įmonės, užuot siekusios visiškos nepriklausomybės, orientuojasi į kontroliuojamą aplinką, kurioje galima valdyti riziką.
(Junseong Lee nuotrauka)
Taip pat žiūrėkite: Agentiško AI valdymo iššūkiai pagal ES AI įstatymą 2026 m
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra TechEx dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
