Skaitmeninių mokėjimų ir finansinių technologijų įmonė „Ant International“ laimėjo „NeurIPS Competition of Fairness in AI Face Detection“ konkursą. Bendrovė teigia, kad yra įsipareigojusi plėtoti saugias ir įtraukias finansines paslaugas, ypač dėl to, kad vis labiau paplito gilios klastotės.
Augantis veido atpažinimo naudojimas daugelyje sektorių išryškino AI algoritminio šališkumo problemą. NIST (Nacionalinis standartų ir technologijų institutas) atliktas tyrimas rodo, kad daugelis plačiai naudojamų veido atpažinimo algoritmų, analizuojant moterų ir spalvotų žmonių veidus, pasižymi žymiai didesniu klaidų lygiu – skirtumai, atsirandantys dėl to, kad trūksta mokymo duomenų ir demografinių tų, kurie kuria ir valdo daugelį pagrindinių DI platformų. Šališkų algoritmų pasekmės gali lemti finansinių paslaugų atsisakymą didelėms gyventojų grupėms, o tai yra laikoma saugumo protokolų pažeidžiamumu.
NeurIPS konkursas vyko kartu su Neurinių informacijos apdorojimo sistemų konferencija, gerai vertinama AI konferencija, ir jos dalyviai buvo kviečiami sukurti dirbtinio intelekto modelius, galinčius užtikrinti aukštą našumą ir sąžiningumą, atsižvelgiant į įvairius demografinius veiksnius: lytį, amžių ir odos atspalvį. „Ant International“ komanda įveikė daugiau nei 2100 paraiškų iš 162 komandų iš viso pasaulio. Pateikta užduotis buvo tiksliai aptikti 1,2 milijono dirbtinio intelekto sukurtų veido vaizdų, kurie buvo parinkti kaip tinkamai reprezentuojantys demografines grupes.
Ant laimėjusio AI modelio metodas sujungia ekspertų mišinio (MoE) architektūrą su šališkumo aptikimo mechanizmu. Sistema treniruoja du konkuruojančius neuroninius tinklus: vienas orientuotas į gilių klastotės atpažinimą, o kitas skirtas užginčyti pirmąjį, priversdamas jį nepaisyti demografinių savybių. Šis dinamiškas procesas padeda užtikrinti, kad sistema išmoktų aptikti tikrus manipuliavimo požymius, o ne netyčia pasikliauti demografiniais modeliais. Modelio mokymas apėmė pasauliniu mastu reprezentatyvų duomenų rinkinį ir realaus pasaulio mokėjimų sukčiavimo scenarijus, kad būtų užtikrintas jo veikimas dideliu mastu.
„Nešališka AI sistema iš esmės yra nesaugi“, – paaiškino dr. Tianyi Zhang, „Ant International“ rizikos valdymo ir kibernetinio saugumo generalinis direktorius. „Mūsų modelio sąžiningumas nėra vien etikos klausimas; jis yra labai svarbus siekiant užkirsti kelią išnaudojimui dėl gilių klastočių ir užtikrinant patikimą kiekvieno vartotojo tapatybės patvirtinimą“.
Laimėjusio kūrinio technologija dabar integruojama į „Ant“ mokėjimo ir finansines paslaugas, kad padėtų kovoti su giliųjų klastočių grėsme, o bendrovės teigia, kad visose demografijose ir 200 rinkų, kuriose veikia „Ant“, jos aptikimo rodiklis viršija 99,8 proc.
„Ant’s“ technologija padeda savo klientams atitikti pasaulinius elektroninio pažinimo savo kliento (eKYC) standartus, ypač kai klientas yra įtrauktas, be algoritminio šališkumo. Manoma, kad tai ypač svarbu besivystančiose rinkose, kur gali būti trukdoma didesnei finansinei įtraukčiai.
Ant International aptarnauja daugiau nei 150 milijonų prekybininkų ir 1,8 milijardo vartotojų paskyrų, žinomų dėl tokių paslaugų kaip Alipay+, Antom, Bettr ir WorldFirst. Bendrovė pareiškė, kad dirbtinio intelekto saugumas yra jos veiklos ramstis. Jo AI SHIELD – rizikos valdymo sistema, sukurta naudojant AI Security Docker, padedanti sumažinti AI paslaugų, pvz., neteisėtos prieigos ir duomenų nutekėjimo, pažeidžiamumą.
AI SHIELD yra rizikos valdymo sprendimų rinkinys, užtikrinantis platesnę finansinių operacijų apsaugą, įskaitant priemones nuo padirbtų atakų ir sukčiavimo. Bendrovė teigia, kad „Alipay+ EasySafePay 360“ sumažino sąskaitos perėmimo atvejų, kai atsiskaitoma skaitmenine pinigine, skaičių 90%.
(Vaizdo šaltinis: „abstraktus gražaus portreto menas, vientisos formos, geometrinės figūros, neotokyo spalvos, prislopintos spalvos, pixar, artstation, greg rutkowski, samdoesart, ge“ – viešasis domenas)
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra TechEx dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
