DI kompanionas skamba distopiškai, tačiau jis tapo bendru pokalbio apie generatyvaus AI pavojų tema. Tai iš esmės yra pokalbio agentas, sukurtas palaikyti nuolatinius, asmeninius santykius su vartotoju, turintį atmintį ir pastovią asmenybę, kuri palaiko nuoseklumą nuo vienos sesijos iki kitos.
Emocinis prisirišimas dažnai išplaukia iš tokio dizaino ir vis dažniau tampa pardavimo tašku. Daugeliu atvejų tai yra atsitiktinis vaidmenų žaidimas arba tiesiog norisi kažko, kas tave prisimintų, o kraštuose kategorija paryškinama į paprastus padėjėjus. Tačiau Kinijoje vis daugiau žmonių šiuos robotus traktavo kaip savotišką emocinį palydovą, Pekinas nusprendė, kad praktikai reikia taisyklių.
Kinijos dirbtinio intelekto pagalbinės taisyklės įsigalioja liepos 15 d., o likus kelioms dienoms iki galutinio termino, dvi šalyje dažniausiai naudojamos vartotojų AI programos tyliai išjungė svarbiausias funkcijas. „ByteDance“ „Doubao“ pranešė vartotojams, kad jos agento funkcija atsijungs nuo liepos 15 d., nurodydama „produkto funkcijų koregavimus“, o „Alibaba“ „Qwen“ teigė, kad jos žmogiški ir vartotojo sukurti agentai nustos veikti liepos 10 d., o platesnės agentų paslaugos – po penkių dienų.
Perskaitykite greitai, atrodo, kad Kinija išjungia AI agentus. Tai ne. Taisyklės nubrėžia ribą tarp agento, kuris atlieka jūsų darbą, ir agento, kuris palaiko jums kompaniją, ir tai tik antroji rūšis, prieš kurią Pekinas pasitraukė.
Reglamentas yra Laikinosios dirbtinio intelekto antropomorfinių interaktyvių paslaugų administravimo priemonės, 2026 m. balandžio 10 d. kartu išleistos Kinijos kibernetinės erdvės administracijos ir keturių agentūrų partnerių: Nacionalinės plėtros ir reformų komisijos, Pramonės ir informacinių technologijų ministerijos, Viešojo saugumo ministerijos ir Valstybinės rinkos reguliavimo administracijos.
Ji apima paslaugas, kurios imituoja žmogaus asmenybės bruožus, mąstymo modelius ir bendravimo stilius, kad būtų užtikrinta ilgalaikė emocinė sąveika. Klientų aptarnavimo robotai, žinių klausimai ir atsakymai, padėjėjai darbo vietoje ir švietimo bei tyrimų įrankiai neįtraukiami, jei jie vengia nuolatinio emocinio įsitraukimo. Tai pirmoji tokio pobūdžio nacionalinė sistema, kuri susiformavo po praėjusių metų pabaigoje paskelbto viešo komentaro projekto.
Dizaino problema, o ne draudimas
Doubao ir Qwenas nepažeidė draudimo. Jie pateko į dizaino konfliktą. Priemonės reikalauja, kad pagalbinės paslaugos veiktų kovos su priklausomybėmis sistemas, pateiktų privalomus naudojimo pranešimus ir pasiūlytų momentinio pasitraukimo mechanizmus, taip pat realiu laiku aptiktų nesveiką priklausomybę.
Šie reikalavimai yra nepatogūs, kai agentai yra sukurti taip, kad atsimintų vartotoją, išliktų nuoseklūs per seansus ir išliktų nuolatiniai santykiai, o užuot modifikavęs funkciją, „ByteDance“ nusprendė ją išjungti. Atrodo, kad Alibaba skambino taip pat. „ByteDance“ dabar nukreipia „Doubao“ vartotojus į „Maoxiang“ – atskirą programą, kurioje jie vėl gali kurti agentus; „Alibaba“ nepaskelbė lygiaverčio „Qwen“ migracijos kelio. Tencent Yuanbao ištraukė panašią funkciją dar birželį.
Kaina atiteko vartotojams. Daugelis atvirai apraudojo „Weibo“ uždarymą, viename plakate agentai buvo apibūdinami kaip ilgalaikė emocinė parama ir apgailestavo, kad nėra paprasto būdo eksportuoti pokalbių istorijas. „Doubao“ leidžia žmonėms peržiūrėti savo konfigūracijas ir pokalbius tik skaitymo režimu iki šių metų spalio 15 d., kol duomenys bus apdorojami pagal jos privatumo politiką ir tampa neatkuriami; Qwen naudotojams nebuvo suteiktas panašus atidėjimo laikotarpis, o agento duomenys buvo nustatyti visam laikui.
Kokios yra Kinijos dirbtinio intelekto kompaniono taisyklės
Medžiaga yra labiau apgalvota, nei rodo bukas suspaudimas. Teikėjams draudžiama siūlyti virtualių kompanionų ar virtualių šeimos narių paslaugas nepilnamečiams, ir prieš aptarnaujant naudotojus, jaunesnius nei 14 metų, jie turi gauti globėjo sutikimą. Jie privalo sukurti specialius „nedidelius režimus“ su naudojimo laiko apribojimais, priminimais grįžti prie realaus bendravimo ir patobulintos tėvų kontrolės.
Jie taip pat turi aptikti ūmios nelaimės ištiktus vartotojus ir įsikišti, kai kas nors rodo savęs žalojimo, savižudiško elgesio ar rimtų finansinių nuostolių požymius, kreipiasi į paskirtus globėjus ar skubios pagalbos kontaktus. Inžinerinė emocinė priklausomybė ar priklausomybė ir emocinių manipuliacijų naudojimas siekiant paskatinti nepagrįstus sprendimus yra aiškiai draudžiami.
Atitikties mechanizmas yra sunkus. Paslaugos, kurios paleidžia antropomorfines funkcijas arba peržengia vieno milijono registruotų vartotojų arba 100 000 aktyvių per mėnesį slenksčius, turi atlikti saugumo vertinimus, apimančius aštuonias sritis, nuo mokymo duomenų tvarkymo iki nedidelės apsaugos, ir pateikti ataskaitas provincijos reguliavimo institucijoms. Programėlių parduotuvės turi patvirtinti šią būseną ir pašalinti reikalavimų neatitinkančius produktus.
Popieriuje tai yra išsamesnis naudotojų apsaugos priemonių rinkinys, nei ES, JAV Federalinė prekybos komisija ar Kalifornijos SB 243 dar neįsigaliojo.
Ką taisyklės palieka atvirą
Tai, ko priemonės neišsprendžia, taip pat svarbu. Jie nenustato jokios techninės slenksčio tam, kas laikoma emocine sąveika, ir būtent dėl šios pilkosios zonos platformos ištraukė visas funkcijas, o ne rizikuoja nusileisti neteisingoje jos pusėje. Jie sujungia tikrąsias saugos pareigas su turinio kontrolės ir nacionalinio saugumo nuostatomis, kurios atsako valstybei, o ne vartotojui – paketo, kurio jokia kita reguliavimo institucija neimportuotų didmenine prekyba.
Jie taip pat palieka atvirą, kaip atsakomybė paskirstoma platformos operatoriams ir modelio tiekėjams, kai pažeidimas kyla dėl modelio rezultatų, ir nesuteikia vartotojams teisės vykdyti savo duomenų. Vykdymo fonas paaštrina esmę. Šanchajaus interneto reguliavimo institucija birželio 26 d. pranešė pašalinusi daugiau nei 14 000 reikalavimų neatitinkančių AI agentų, nurodydama apsimetinėjimą oficialiais subjektais, vulgarų vaidmenų žaidimą ir neteisėtą asmens duomenų rinkimą.
Ar tai teisinga kryptis, priklauso nuo to, kurią taisyklių knygos pusę skaitote. Saugos pusė skirta žalai, kuri yra dokumentuota ir iš esmės nereglamentuojama kitur, pradedant paaugliais, kurie sukuria priedus prie pokalbių robotų ir baigiant papildomomis programomis, renkančiomis intymius duomenis. Pačios Kinijos oficialus aiškinimas kreipiasi į užsienį pagalbos, cituodamas Character.AI ieškinius dėl psichologinės žalos paaugliams, FTC tyrimus dėl draugystės paslaugų ir Europos veiksmus prieš Repliką.
Valdymo pultas Pekinui perduoda svirtį, skirtą toms sistemoms, kurias gali pasakyti ta pačia vartotojo apsaugos kalba. Abu yra tikri, o eksperimentą stebinčios vyriausybės turės nuspręsti, kurias dalis jos nori pasiskolinti. Panas Helinas, MIIT ekspertų komiteto narys, oficialią bylą pateikė aiškiai „South China Morning Post“.sakydamas, kad „dabartiniai agentai dar nėra subrendę“ ir nustatydami saugos ir standartizacijos politiką.
Įmonės kol kas pasirinko saugiausią kelią, ty išjungti komponentus ir išsiaiškinti, kaip vėliau atrodys suderinama versija.
Taip pat žiūrėkite: „Meta“ peržiūri dirbtinio intelekto pokalbių roboto politiką, atsižvelgdama į vaikų saugumą
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra „TechEx“ dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais, įskaitant „Cyber Security & Cloud Expo“. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
