Įmonės, vertinančios Kinijos atviro svorio modelius šį mėnesį, susiduria su klausimu, kuris neturi nieko bendra su etalonais: ar jį naudoti bus paprasta po metų. „Moonshot AI“ Kimi K3 buvo pristatytas liepos 16 d. kaip didžiausias iki šiol išleistas atviro svorio modelis, o po kelių dienų Vašingtone jis vėl pradėjo politinį ginčą, kuris jau metus buvo neaktyvus.
Rezultatas turės įtakos sprendimams dėl pirkimų už Jungtinių Valstijų ribų, nes aptariami mechanizmai – federalinės viešųjų pirkimų taisyklės, eksporto juodieji sąrašai, saugumo patarimai – keliauja per tuos pačius debesijos paslaugų teikėjus, kurie aptarnauja didžiąją pasaulio dalį. Neatidėliotina priežastis buvo Deano W. Ballo, OpenAI strateginių ateities sandorių vadovo ir iki šiol vyresniojo dirbtinio intelekto patarėjo Trumpo Baltuosiuose rūmuose, postas.
Jo modelio vertinimas iš esmės buvo teigiamas: labai geras modelis, rašė jis, kurio pasirodymas, jo manymu, negali būti paaiškintas distiliavimu. Jis taip pat pastebėjo, kad jis atrodė „labai ištroškęs“ ir kad jam nebuvo akivaizdu, kad jį iš tikrųjų pigu paleisti, o tai yra naudingas atsargumas, nes K3 paleidimas su maksimaliomis pastangomis yra vienintelis nustatymas, o sąskaitos išeiga siekia 15 USD už milijoną žetonų.
Tada jis prognozavo, kad Trumpo administracija galiausiai nuspręs, kad geriausia strategija yra sukurti reguliavimo riziką, susijusią su Kinijos atvirojo svorio modeliais. Ne draudimas, kurį jis pavadino vienu kvailiausių AI politikos motyvų, o švelnios agentūrų rekomendacijos, leidžiančios manyti, kad tokie modeliai gali turėti užpakalinių durų. „Tai nebūtinai turi būti taip gerai pagrįsta“, – rašė jis. Pakanka netikrumo, o reguliuojamos įmonės traukiasi pačios.
Kodėl Kinijos atviro svorio modeliai pirmiausia yra komercinė problema
Reakcija buvo nuožmi, o ne iš Pekino, o iš amerikiečių. Davidas Sacksas, vienas iš prezidento mokslo ir technologijų patarėjų tarybos pirmininko, teigė negalintis pasakyti, ar Ballas išpažįsta reguliavimo gaudymo strategiją, ar ją numatė, ir kad bet kuriuo atveju reguliavimo neapibrėžtumo kaip konkurencinės priemonės ginklavimas turėtų būti nepriimtinas.
Jis pridūrė, kad pirmaujančios uždaros laboratorijos, kurios jau yra modelių pajamų duopolis, nori, kad vyriausybė pašalintų jų atvirojo kodo konkurenciją. Yann LeCun ir Martin Casado teigė, kad atvira ir nuosavybės teisė gali egzistuoti kartu. Vėliau Ballas paaiškino, kad jis prognozavo, o ne rekomendavo, ir atsisakė teiginio, kad atviri svoriai būtinai sulėtina lauką.
Po asmenybėmis slypi aritmetinis uždavinys. Uždaroms laboratorijoms reikia pajamų už žetoną, kad pateisintų kapitalą, kurį jie kaupia duomenų centrams, o pigesni atviro svorio modeliai sumažina šias pajamas nesumažindami AI naudojimo, nurodė Snorkel AI vienas iš įkūrėjų Bradenas Hancockas. TechCrunch. Maršruto duomenys jau rodo pokytį: atviro svorio modeliai per „Vercel“ gamybos šliuzą birželio mėn. apdorojo 29 % žetonų, palyginti su maždaug devintuoju balandį, o sudarė mažiau nei 4 % išlaidų.
Tas spaudimas ateina iš Amerikos kamino vidaus. Liepos 1 d. „GitHub“ padarė „Moonshot Kimi K2.7 Code“ prieinamą „Copilot“ modelių rinkiklyje, kuris buvo patalpintas „Microsoft Azure“. Informacija praneša, kad „Microsoft“ dabar prideda K3 į „Azure“ ir vertina, ar ji gali paleisti „Copilot“ funkcijas, kurias šiuo metu tvarko „OpenAI“ ir „Anthropic“ modeliai, todėl galima sutaupyti iki 600 mln.
„Microsoft“ nepatvirtino nei skaičiaus, nei funkcijų. Tai įvertinimas, o ne diegimas, bet tai yra didžiausias abiejų Amerikos pasienio laboratorijų klientas, nustatantis alternatyvą.
Saugumo argumentas, vertinamas rimtai
Komerciniai motyvai nepaverčia saugumo koncerno netikru, o stipriausia jo versija nusipelno nurodyti. Atvirų svorių prisiminti negalima. Kai modelis atsisiunčiamas ir veikia tūkstančiuose organizacijų, joks pardavėjas negali jo pataisyti, atšaukti ar pateikti pataisos, o tai iš esmės skiriasi nuo priglobtos API rizikos profilio. Modelio elgseną tikrinti sunkiau nei modelio kodą: tiksli derinimas gali turėti paklaidų arba gedimų režimus, kurių neatskleis joks licencijos patikrinimas.
NIST anksčiau aptiko saugos spragų DeepSeek atviruose modeliuose, o reguliuojamose pramonės šakose klausimai apie mokymo duomenų kilmę ir turinio tvarkymą yra aktualūs, nepaisant to, kur modelis buvo sukurtas.
Kontrargumentas yra dėl proporcingumo, o ne dėl atleidimo. Džordžtauno tyrėjas Samas Bresnickas teigė, kad „Nvidia H200“ pardavimo Kinijai sustabdymas žymiai labiau sulėtintų Pekiną nei uždraudžiant atvirus modelius, kuriuos nori naudoti amerikiečiai, orientuojantis į įvestį, o ne į išvestį. O pats Ballas savo antroje pastaboje pripažino šią versiją, iš dalies priskirdamas Kinijos atvirą strategiją klientų aptarnavimui skirtų vidaus skaičiavimų stoka, o tai pirmiausia paverstų neplanuotą JAV eksporto kontrolės šalutinį produktą.
Kas iš tikrųjų gali nutikti.
Axios liepos 20 d. pranešė, remdamasi administracijai artimais žmonėmis, kad „Commerce“ praėjusiais metais apsvarstė Kinijos AI laboratorijų įtraukimą į subjektų sąrašą, kad NSA ir Nacionalinio kibernetinio direktoriaus biuras svarstė galimybę paskelbti patarimą dėl Kinijos AI laboratorijų grėsmių ir Baltieji rūmai apsvarstė vykdomąjį įsakymą, pagal kurį JAV įmonės bus atsakingos už pažeidimus, jei jos naudojo kiniškus modelius. Pareigūnai, susirūpinę dėl naujovių slopinimo, visa tai nužudė.
Dingus patarėjui Sriramui Krishnanui, o saugumo vanagams pasigirdus, pastangos atgijo, tačiau aprašytas metodas yra viešųjų pirkimų taisyklės, grėsmės subjektų sąrašui ir visuomenės spaudimas, o ne draudimas. „Tai, kas iš tikrųjų vyksta, yra lėtesnė ir patvaresnė“, – sakė vienas šaltinis Axios. Nei Baltieji rūmai, nei komercija neatsakė Axios prašymai komentuoti ir Politico praneša, kad prekyba greitai nepajudės.
Pirkėjams už JAV ribų poveikis yra netiesioginis, bet tikras. Taisyklė, skirta Amerikos reguliuojamoms pramonės šakoms ir federaliniams viešiesiems pirkimams, neįpareigoja Malaizijos bankų ar Indonezijos telekomunikacijų bendrovių. Hiperskaleriai yra perdavimo linija.
Dauguma įmonių šiame regione pasiekia Kimi K3 per Azure, AWS ar Google Cloud, o ne pačios Moonshot API, ir jei Vašingtonas daro Kinijos atviro svorio modelių prieglobą pakankamai nepatogiai tiems tiekėjams, modelis tyliai palieka katalogą Kvala Lumpūre, tuo pat metu palieka jį Virdžinijoje.
Ballas tai numatė savo žinutėje, pažymėdamas, kad reguliavimo institucijos nenorėtų taip stipriai spausti, kad hiperskaleriai visiškai nustotų aptarnauti kiniškus modelius, nes tai tik paskatins startuolius ieškoti mažiau gerbiamų paslaugų teikėjų. Akivaizdu, kad apsidraudimas yra turėti savo kopiją. Moonshot paskelbia K3 svorius liepos 27 d., ir nuo to momento modelis negali būti atšauktas iš bet kurio, kas jį atsisiuntė.
Tačiau, kaip minėta anksčiau, K3 yra sudėtingas modelis, kurį sunku valdyti savarankiškai: „Moonshot“ rekomenduoja jį naudoti per 64 ar daugiau greitintuvų, o vien svoris siekia maždaug 1,4 TB. Daugumai įmonių atsarginis variantas yra teorinis.
Tai palieka siauresnį klausimą, nei rodo antraštės. Ne tai, ar Kinijos atviro svorio modeliai yra saugūs ar leidžiami, bet ar konkretus modelis, kurį kuriate, vis tiek bus jūsų debesų paslaugų teikėjo kataloge po dvylikos mėnesių ir kiek jums kainuotų perkelti, jei ne. Tai yra išsamaus patikrinimo klausimas ir į jį galima atsakyti šiandien.
Žiūrėti daugiau: Kimi K3 atviro svorio modelis: didžiausias Kinijos dirbtinis intelektas yra statymas dėl atminties, o ne skaičiavimo
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra „TechEx“ dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais, įskaitant „Cyber Security & Cloud Expo“. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
