„SenseTime“ pradėjo „Galaxy Project“, bendradarbiaudamas su beveik 20 partnerių, siekdamas išplėsti vietinę AI lustų infrastruktūrą Kinijoje.
Pagrindiniame pranešime „Pažangi transformacija ir simbiozė“ Yang Fan – bendrovės įkūrėjas ir didelių įrenginių verslo grupės prezidentas – išdėstė tai, ką „SenseTime“ apibūdina kaip uždarą kilpą, jungiančią lusto lygio technologijas, ekosistemų partnerystę ir komercinį vietinės gamybos dirbtinio intelekto skaičiavimo galios diegimą.
Kartu su „Galaxy“ projektu „SenseTime“ pasirašė erdvės skaičiavimo sutartį su palydovų gamintoju „Guoxing Aerospace“ ir užmezgė mokslinių tyrimų partnerystę su penkiomis institucijomis, įskaitant Šanchajaus dirbtinio intelekto laboratoriją, skirtą mokslinėms skaičiavimo programoms.
Yangas nustatė, kad laikotarpyje yra trys susiliejančios tendencijos: žetonų paklausa didėja įvairiose įmonėse, pramoninis dirbtinio intelekto pritaikymas vejasi vartotojų naudojamus atvejus ir vidaus lustų komercializacija pasiekia tašką, kai išmanieji skaičiavimo centrai, sukurti iš Kinijos silicio, gali atsistoti sparčiai.
Tačiau, ar šis langas yra toks atviras, kaip teigia „SenseTime“, labai priklauso nuo skaičių, kurių įmonė nepatvirtino nepriklausomai.
Žetonų pralaidumo skaičiai pažymėti didele žvaigždute
„SenseTime“ teigia, kad jos didelės apimties įrenginių platforma dabar apdoroja vidutiniškai 2,42 trilijonus žetonų kasdien, o bendrovė prognozuoja, kad iki 2026 m. ketvirtojo ketvirčio šis skaičius padidės 25 kartus iki 10 trilijonų žetonų per dieną. Tai prognozė, o ne išmatuotas rezultatas, o įmonių pirkėjai, vertinantys „SenseTime“ žemės infrastruktūrą, kol pradės „SenseTime“ žemės infrastruktūrą, turėtų ją vertinti kaip.
Su šiuo augimu susiję teiginiai dėl išlaidų efektyvumo taip pat pateikiami savarankiškai. „SenseTime“ teigia, kad jos nevienalytė hibridinių išvadų technologija užtikrina 85–152 procentų didesnį modelių FLOP naudojimą pagrindiniuose buitiniuose lustuose, o išvadų sąnaudų efektyvumas yra 1,25 karto didesnis nei „Nvidia“ H serijos dalių.
Palyginti su vietinėmis vienarūšių išvadų sąrankomis, „SenseTime“ teigia, kad žetonų išvestis lygiavertėmis sąnaudomis padidėja 2,5 karto, o optimizuotų hibridinių išvadų grupes viršija tai, ką pramonė anksčiau laikė minimalia vidaus skaičiavimo galios pelningumo riba.
Nė vienas iš šių skaičių nėra pateikiamas su trečiųjų šalių lyginamuoju vertinimu, o atotrūkis tarp pardavėjo optimizuoto bandymų grupės ir kliento gamybos aplinkos – su netolygiais duomenų srautais ir uždelstais programinės aparatinės įrangos atnaujinimais – dažniausiai mažėja.
Pritaikymo teiginiai ir kelių lustų problema
Vietiniai AI lustai istoriškai kovojo su fragmentuota programinės įrangos paketu: vienai architektūrai paruoštus modelius dažnai reikia perdaryti, kad jie veiktų kitoje. „SenseTime“ teigia, kad sukūrė visą krūvą pritaikymo sluoksnį, apimantį modelius, sistemas, operatorius, įrankių grandines ir aparatinę įrangą, kad tai išspręstų, siekiant leisti klientams perkelti darbo krūvius tarp vietinių lustų pardavėjų be didelių perrašymų.
Įmonė nurodo du taikomus pavyzdžius. Atliekant AI4S ilgos sekos baltymų numatymo darbo krūvį, SenseTime teigia, kad sujungtas operatoriaus optimizavimas sumažina bendrą prognozavimo laiką tris kartus. Kuriant AIGC vaizdo įrašus, jis reikalauja 93 procentų kelių kortelių lygiagretaus pagreičio koeficiento vietiniams lustams, kuriuose veikia DiT modeliai, kartu su tuo, ką jis apibūdina kaip nulinę perėjimą į pagrindinius AI kūrimo įrankius.
Tai tokie skaičiai, kurie gerai skaitomi atliekant smėlio dėžės testą ir yra daug svarbesni, kai patikrinami nepalankiausiomis sąlygomis, palyginti su realiais klientų vamzdynais, kuriuose veikia mišrios kartos aparatinė įranga.
Energijos metrikai įgauna naują etalono pavadinimą
„SenseTime“ pristatė metriką, vadinamą Žetonais per vatą, skirtą pakeisti AI duomenų centro efektyvumo matavimo kriterijų, kartu su „Computing-Power Collaboration Agent“, kuri tvarko išteklių planavimą, elektros kainos prognozę ir energijos kaupimo optimizavimą, kaip bendrovė apibūdina kaip aštuonių lygių duomenų sistemą su penkiomis sprendimų grandinėmis.
Derindama skaičiavimą, elektros kainodarą ir automatizuotą planavimą, „SenseTime“ teigia, kad elektros energijos sąnaudų vieneto žetonų išeiga padidėja 80 procentų, vidutinės energijos kainos 10 procentų mažesnės už palyginamus regioninius duomenų centrus ir 96 procentų skaičiavimo apkrovos prognozavimo tikslumas.
Tai teiginiai, į kuriuos verta atkreipti dėmesį per ateinančius kelis ketvirčius, o ne priimti nominaliąja verte. Elektros kainos arbitražas ir apkrovos prognozavimo tikslumas paprastai veikia skirtingai, kai sistema veikia per visą sezoninį ciklą, esant tikrai nepastoviai paklausai, o ne sąlygomis, kuriomis pardavėjas paprastai vykdo bandomąją versiją.
Įspūdingas partnerių sąrašas apima lustų gamintojus ir komponentų tiekėjus
Nurodyta „Galaxy Project“ ekosistema apima vietinius lustų pardavėjus „Cambricon“, „Muxi“, „Hygon“, „Huawei Ascend“, „Moore Threads“, „Sunrise“ ir „Biren Technology“, komponentų partnerius „Xizhi Technology“ ir infrastruktūros įmones, įskaitant „Silicon Motion“, „Qujing Technology“, „Zhongke Jiahe“, „Qingcheng Jizhi“, „Jiliuphon Technology“.
„SenseTime“ teigia, kad planas apima vienos „žetonų gamyklos“ statybą, penkias skaičiavimo grupes, vadinamą „10 000 kalorijų“ mastu, bendrą darbą dešimtyje technologijų krypčių ir paramą 200 DI startuolių.
„Vietinė gamyba yra ne tik atskirų lustų pakeitimas, o bendradarbiavimo pastangos visoje Kinijos inovacinių galimybių grandinėje, nuo lustų ir komponentų iki infrastruktūros ir taikomųjų programų scenarijų“, – sakė Yang.
Erdvės, optinio ir kvantinio skaičiavimo statymai atrodo toliau
Be artimiausios infrastruktūros, „SenseTime“ apibūdino optinio skaičiavimo, skirto duomenų centro efektyvumui, darbą, kvantinio skaičiavimo programas optimizuojant dirbtinį intelektą ir kosmoso skaičiavimo partnerystę su „Guoxing Aerospace“, kad sukurtų tai, ką abi bendrovės vadina „SenseTime Space Computing Constellation“.
„SenseTime“ planas reikalauja, kad pirmasis palydovas būtų paleistas 2026 m., o iki 2030 m. bus sukurta tūkstančiai kompiuterinių palydovų ir dešimtys tūkstančių petabaitų.
Yang tvirtino, kad vertė praplečia ankstesnius neapdorotus pajėgumus, kosmose pagrįstas kompiuterijas suformuluodamas kaip būdą išplėsti Kinijos dirbtinio intelekto paslaugų pasiekiamumą į silpnų tinklų aplinkas, pvz., jūrų operacijas ir reagavimą į nelaimes, taip pat remti Kinijos AI eksportą tarptautiniu mastu.
Šis 2030 m. tikslas yra per penkerius metus, o tokio masto palydovinės kompiuterijos diegimas neturi precedento, pagal kurį būtų galima įvertinti laiką.
Fizinė infrastruktūra apima Šanchajų ir Rijadą
„SenseTime“ teigia, kad jos Šanchajaus padalinyje veikia pirmasis šalyje duomenų centras, įvertintas „5A“ intelektualiojo skaičiavimo lygiu, kasdien apdorojančiu daugiau nei 20 trilijonų žetonų daugiau nei 20 pramonės šakų. Pradėtas veikti Jančenge esantis 3000 petaflopų pajėgumas, skirtas energijai, gamybai ir žemo aukščio ekonomikos programoms.
Honkonge „SenseTime“ stato didžiausią vietinį intelektualųjį skaičiavimo centrą šioje teritorijoje ir iki 2030 m. siekia 40 000 petaflopų. Bendrovė taip pat planuoja, kaip ji vadina, pirmąjį Kinijos užjūrio vidaus skaičiavimo klasterį Saudo Arabijoje, kuris bus visapusiška vidaus skaičiavimo bazė Artimuosiuose Rytuose.
Kalbant apie mokslinius tyrimus, „SenseTime“ ryšiai su Šanchajaus AI laboratorija, Pekino Zhongguancun akademija, Šendženo Hetao akademija, Šanchajaus algoritmų inovacijų tyrimų institutu ir Šanchajaus Jiao Tong universiteto AI mokykla siekia sukurti bendrą platformą, apimančią skaičiavimo, įrankių ir modelių galimybes gyvybės mokslų, medžiagų mokslo ir gamybos srityse. Yangas pavadino dirbtinį intelektą mokslui „pagrindiniu svertu paradigmos naujovių srityje fundamentiniuose tyrimuose“, susiedamas iniciatyvą su platesniu Kinijos „Dirbtinio intelekto+“ politikos postūmiu.
„SenseTime“ prognozė, kad 10 trilijonų žetonų per dieną iki 2026 m. ketvirtojo ketvirčio bus skaičiuojama, palyginti su tuo, ką bendrovė praneš, kai šis ketvirtis iš tikrųjų bus uždarytas.
Taip pat žiūrėkite: Kimi K3 atviro svorio modelis: didžiausias Kinijos AI yra statymas dėl atminties, o ne skaičiavimo
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra „TechEx“ dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais, įskaitant „Cyber Security & Cloud Expo“. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
