„Huawei“ išleido savo „CloudMatrix 384 AI“ lustų grupę – naują AI mokymosi sistemą. Jame naudojami Ascend 910C procesorių grupės, sujungtos optinėmis jungtimis. Paskirstyta architektūra reiškia, kad sistema gali pranokti tradicines aparatinės įrangos GPU sąrankas, ypač išteklių naudojimo ir lusto veikimo laiko atžvilgiu, nepaisant to, kad atskiri Ascend lustai yra mažiau galingi nei konkurentų.
Naujoji „Huawei“ sistema iškelia technologijų milžiną kaip „didelį iššūkį Nvidia pirmaujančiai pozicijai rinkoje, nepaisant JAV taikomų sankcijų“, – tvirtina bendrovė.
Norėdami naudoti naują „Huawei“ sistemą dirbtiniam intelektui, duomenų inžinieriai turės pritaikyti savo darbo eigą, naudodami „Huawei Ascend“ procesorius palaikončias sistemas, tokias kaip „MindSpore“, kurias galima įsigyti iš „Huawei“ ir jos partnerių.
Sistemos perėjimas: iš PyTorch / TensorFlow į MindSpore
Skirtingai nuo NVIDIA ekosistemos, kuri daugiausia naudoja sistemas, tokias kaip PyTorch ir TensorFlow (sukurtos taip, kad išnaudotų visas CUDA galimybes), Huawei Ascend procesoriai geriausiai veikia, kai naudojami su MindSpore – įmonės sukurta gilaus mokymosi sistema.
Jei duomenų inžinieriai jau turi „PyTorch“ arba „TensorFlow“ sukurtus modelius, greičiausiai jiems reikės konvertuoti modelius į „MindSpore“ formatą arba perkvalifikuoti juos naudodami „MindSpore“ API.
Verta paminėti, kad „MindSpore“ naudoja skirtingą sintaksę, mokomuosius vamzdynus ir funkcijų iškvietimus iš „PyTorch“ arba „TensorFlow“, todėl norint atkartoti modelių architektūrų ir mokymo konvejerijų rezultatus, reikės atlikti tam tikrą naujo projektavimo laipsnį. Pavyzdžiui, skiriasi individualaus operatoriaus elgesys, pvz., užpildymo režimai konvoliucijos ir telkimo sluoksniuose. Taip pat skiriasi numatytieji svorio inicijavimo metodai.
„MindIR“ naudojimas modelio diegimui
MindSpore naudoja MindIR (MindSpore Intermediate Representation), artimą Nvidia NIM analogą. Remiantis oficialia MindSpore dokumentacija, kai modelis buvo apmokytas MindSpore, jį galima eksportuoti naudojant mindspore.export įrankį, kuris konvertuoja apmokytą tinklą į MindIR formatą.
Išsamiai aprašyta DeepWiki vadove, išvadų modelio diegimas paprastai apima eksportuoto MindIR modelio įkėlimą ir prognozių vykdymą naudojant MindSpore išvadų API Ascend lustams, kurie tvarko modelio išserializavimą, paskirstymą ir vykdymą.
„MindSpore“ treniruočių ir išvadų logiką atskiria aiškiau nei „PyTorch“ ar „TensorFlow“. Todėl visas išankstinis apdorojimas turi atitikti mokymo įvestis, o statinio grafiko vykdymas turi būti optimizuotas. „MindSpore Lite“ arba „Ascend Model Zoo“ rekomenduojami papildomai aparatinės įrangos derinimui.
Prisitaikymas prie CANN (neuroninių tinklų skaičiavimo architektūros)
„Huawei“ CANN turi įrankių ir bibliotekų rinkinį, pritaikytą „Ascend“ programinei įrangai, funkcionalumu lygiagrečiai su NVIDIA CUDA. „Huawei“ rekomenduoja naudoti CANN profiliavimo ir derinimo įrankius, kad būtų galima stebėti ir pagerinti modelio veikimą „Ascend“ aparatinėje įrangoje.
Vykdymo režimai: GRAPH_MODE prieš PYNATIVE_MODE
„MindSpore“ siūlo du vykdymo režimus:
- GRAPH_MODE – Sudaro skaičiavimo grafiką prieš vykdymą. Tai gali lemti greitesnį vykdymą ir geresnį našumo optimizavimą, nes grafiką galima analizuoti kompiliavimo metu.
- PYNATIVE_MODE – Nedelsiant vykdo operacijas, todėl derinimo procesai paprastesni, todėl geriau tinka ankstyviesiems modelio kūrimo etapams dėl detalesnio klaidų sekimo.
Pradiniam kūrimui PYNATIVE_MODE rekomenduojamas paprastesniam kartotiniam testavimui ir derinimui. Kai modeliai bus paruošti diegti, perjungimas į GRAPH_MODE gali padėti pasiekti maksimalų „Ascend“ aparatinės įrangos efektyvumą. Perjungimas tarp režimų leidžia inžinierių komandoms suderinti kūrimo lankstumą ir diegimo našumą.
Kodas turi būti pritaikytas kiekvienam režimui. Pavyzdžiui, esant GRAPH_MODE, geriausia vengti vietinio Python valdymo srauto, kai įmanoma.
Diegimo aplinka: Huawei ModelArts
Kaip ir galima tikėtis, „Huawei“ „ModelArts“, bendrovės debesų pagrindu sukurta dirbtinio intelekto kūrimo ir diegimo platforma, yra glaudžiai integruota su „Huawei“ „Ascend“ aparatine įranga ir „MindSpore“ sistema. Nors jį galima palyginti su tokiomis platformomis kaip AWS SageMaker ir Google Vertex AI, jis yra optimizuotas Huawei AI procesoriams.
„Huawei“ teigia, kad „ModelArts“ palaiko visą dujotiekį nuo duomenų ženklinimo ir išankstinio apdorojimo iki modelio mokymo, diegimo ir stebėjimo. Kiekvienas dujotiekio etapas pasiekiamas per API arba žiniatinklio sąsają.
Apibendrinant
Prisitaikant prie MindSpore ir CANN gali prireikti mokymų ir laiko, ypač komandoms, pripratusioms prie NVIDIA ekosistemos, o duomenų inžinieriams reikia suprasti įvairius naujus procesus. Tai apima tai, kaip CANN tvarko modelių kompiliavimą ir optimizavimą, skirtą Ascend aparatūrai, koreguoja įrankius ir automatizavimo vamzdynus, iš pradžių sukurtus NVIDIA GPU, ir mokosi naujų API ir darbo eigų, būdingų MindSpore.
Nors „Huawei“ įrankiai tobulėja, jiems trūksta brandumo, stabilumo ir platesnio ekosistemų palaikymo, kurį siūlo tokios sistemos kaip PyTorch su CUDA. Tačiau „Huawei“ tikisi, kad perėjimas prie jos procesų ir infrastruktūros atsipirks rezultatų atžvilgiu ir leis organizacijoms sumažinti priklausomybę nuo JAV įsikūrusios „Nvidia“.
„Huawei Ascend“ procesoriai gali būti galingi ir sukurti dirbtinio intelekto apkrovoms, tačiau kai kuriose šalyse jie platinami tik ribotai. Komandoms, nepriklausančioms pagrindinėms „Huawei“ rinkoms, gali būti sunku išbandyti arba įdiegti modelius „Ascend“ aparatinėje įrangoje, nebent jos naudotųsi partnerių platformomis, pvz., „ModelArts“, kurios siūlo nuotolinę prieigą.
Laimei, „Huawei“ teikia išsamius perėjimo vadovus, palaikymą ir išteklius, kad palaikytų bet kokį perėjimą.
(Vaizdo šaltinis: 405 Mi16 „Huawei P9“ yra licencijuotas pagal CC BY-NC-ND 2.0.)
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra TechEx dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
