Ekspertai pabrėžė, kad dirbtinis intelektas gali atlikti svarbų vaidmenį nušviečiant moterų sveikatos problemas, nes tyrimai įspėja apie algoritmų, kuriais grindžiama technologija, šališkumą.
Siekiant išvengti lyčių šališkumo sveikatos priežiūros srityje, duomenys, pateikiami į analitines sistemas, kuriose naudojamas dirbtinis intelektas, tebėra pagrindinis rūpestis, tačiau AI sistemos gali atskleisti pagrindinius duomenis, taip pat gali būti naudingi, sakė lyčių nelygybės sveikatos priežiūros srityje problemą grupės pranešėjai.
Atraskite B2B rinkodarą, kuri veikia
Sujunkite verslo informaciją ir redakcinį meistriškumą, kad pasiektumėte įsitraukusius profesionalus 36 pirmaujančiose žiniasklaidos platformose.
Sužinokite daugiau
Dr. Antonella Santuccione Chadha, Šveicarijos ne pelno organizacijos „Women’s Brain Foundation“ generalinė direktorė, pabrėžė neseniai paskelbtą dokumentą, kuris atskleidžia pagrindinį AI valdomų sistemų šališkumą. Chadha kalbėjo komisijos sesijoje Medica suvažiavime, kuris vyko Diuseldorfe, Vokietijoje, lapkričio 17–20 d.
Straipsnyje buvo parodyta, kad „Apple“ automatizuota kalbos atpažinimo (ASR) sistema „Siri“ parodė lyčių šališkumą ir apribojimus teikiant rekomendacijas dėl moterų sveikatos problemų. Pavyzdžiui, prašydama patarimų, susijusių su menstruaciniu skausmu, Siri, remdamasi duomenimis, įvestais per pagrindinius gilaus mokymosi modelius, tiesiog negalėjo pasiūlyti jokios prasmingos rekomendacijos.
Tačiau tam tikra prasme Chadha mano, kad dabartiniai AI trūkumai yra naudingi. „Dėka dirbtinio intelekto, mes pradedame geriau suvokti šališkumą. Be AI netikiu, kad mes apie tai žinotume taip, kaip šiandien”, – paaiškino ji.
Dirbtinis intelektas yra paplitęs per skaitmeninimą įvairiose pramonės šakose ir toliau tobulėja sveikatos priežiūros srityje. „GlobalData“ analizė prognozuoja, kad AI sveikatos priežiūros srityje iki 2027 m. pasieks 19 mlrd.
Aplinkos dirbtinio intelekto įrankiai, skirti perrašyti pacientų konsultacijas, pvz., „Microsoft“ neseniai išleistos „Dragon Copilot“ ir dirbtinio intelekto nustatymo sistemos, yra skirtos padėti gydytojams ir optimizuoti darbo eigą.
Tačiau tyrimai parodė, kad AI sistemų algoritmų šališkumas gali sustiprinti diskriminacines išvadas, susijusias su moterų sveikata, ir lemti klaidingus priežiūros sprendimus.
Pavyzdžiui, neseniai Londono ekonomikos mokyklos (LSE) Care Policy & Evaluation Center (CPEC) atliktas tyrimas parodė, kad „Google“ sukurtas „Gemma“ AI modelis sumažino moterų fizines ir psichines problemas, palyginti su vyrų problemomis, kai buvo naudojamas rengiant socialinių darbuotojų atvejo pastabų santraukas.
Žinodamas duomenų analizės šališkumą, Chadha pridūrė, kad galima įvertinti, kokios su lytimi susijusios sveikatos priežiūros problemos reikalauja daugiau dėmesio ir jautrumo.
Taip pat komisijoje profesorė Helen Crimlisk, Šefildo sveikatos ir socialinės priežiūros JK nacionalinės sveikatos tarnybos (NHS) fondo fondo asocijuotoji medicinos direktorė inovacijoms, tyrimams ir plėtrai, pabrėžė, kad duomenys, surinkti ir susintetinti naudojant dirbtinio intelekto įrankius, lemia, koks šališkumas, net ir netyčia, gali būti įtrauktas į klinikinę praktiką.
Tačiau Crimlisk pripažino, kad įvairovės duomenų rinkimas, pradedant nuo lyties ir baigiant kitais metrikais, pvz., etnine priklausomybe, gali būti iššūkis, o tai, kokius duomenis įtraukti ir kaip juos klasifikuoti, kad jie būtų naudingi sveikatos priežiūros srityje, yra tolesni dalykai, kuriuos reikia atidžiai apsvarstyti.
Ji sakė: „Žmonės gali jaustis nepatogiai atskleisdami savo įvairovės duomenis.
„Nors šiuo atžvilgiu norime turėti didžiausią duomenų kiekį, turime pripažinti, kad dėl pragmatiškų priežasčių tikriausiai turime apriboti, kiek duomenų renkame sistemingai.
