„Google DeepMind“ ir „Isomorphic Labs“ pristatė biologinio atsparumo programą, skirtą pažaboti piktnaudžiavimą dirbtiniu intelektu biologijoje ir padėti reaguoti į protrūkį.
Abi organizacijos paskelbė atnaujintą informaciją apie bendrą iniciatyvą, kuri prasidėjo tyliai ir per pastaruosius 12 mėnesių sukūrė daugiau nei 15 partnerysčių su vyriausybinėmis institucijomis, biologinio saugumo organizacijomis ir tyrimų grupėmis.
Atskleidimas pateikiamas kartu su konkrečia kadravimo problema. Pasienio modeliai, tokie kaip Gemini, vis labiau supranta biologiją, o „DeepMind“ pripažįsta, kad šių sistemų suporavimas su specializuotais biologijos modeliais, tokiais agentais kaip „Antigravity“ platforma ir trečiųjų šalių duomenų bazės tik dar labiau sustiprins šias galimybes.
Tačiau tos pačios žinios, kurios padeda tyrėjui nustatyti vakcinos tikslą, iš esmės galėtų padėti grėsmės veikėjui užpildyti savo supratimo spragas. „DeepMind“ ir „Isomorphic“ tai apibūdina kaip dvigubą mandatą: įgalinti mokslinę pažangą, kurią leidžia dirbtinis intelektas, ir nepaleisti tų pačių įrankių žmonėms, kurie jomis netinkamai naudojasi.
Pasak įmonių, programa remiasi trimis ramsčiais: užkirsti kelią netinkamam naudojimui, greičiau aptikti protrūkius ir reaguoti, kai prasideda protrūkis ar ataka.
Daugiau nei 15 partnerysčių, sukurtų per pastaruosius metus, paliečia visas tris, nors atnaujinime pateikiama nedaug informacijos apie tai, kurios organizacijos yra įtrauktos, išskyrus keletą įvardytų bendradarbių, įskaitant Lawrence’o Livermore’o nacionalinę laboratoriją, JK AI saugumo institutą, CEPI ir Franciso Cricko institutą.
„DeepMind“ teigia, kad per ateinančius šešis ar dvylika mėnesių ketina plėsti šiuos santykius, atkreipdama dėmesį į grėsmių žvalgybą, AI agentų vertinimo metodus ir įkalinimo sušvelninimą. Ji taip pat derina su Frontier Model Forum tokiais klausimais, kaip tvarkyti rizikingesnes mokymo duomenų kategorijas, pavyzdžiui, virusologijos duomenų rinkiniai.
Užrakinti Dvynius neužblokuojant teisėto mokslo
Prevencinis darbas remiasi grėsmių modeliavimu, skirtu nustatyti, kurie veikėjai greičiausiai bandys piktnaudžiauti ir kokios kliūtys šiuo metu jiems trukdo. „DeepMind“ teigia, kad naudoja ekspertų komandos sudarymo ir atsitiktinių imčių kontroliuojamų tyrimų derinį, kad nuspręstų, ar Dvyniai galėtų padėti kam nors pašalinti šias kliūtis.
Pomokymo metodai yra skirti išmokyti modelį atsisakyti žalingų užklausų, tuo pačiu išvengiant to, ką bendrovė vadina perdėtu atmetimu teisėtais mokslo klausimais – pusiausvyrą, kuri pasirodė sudėtinga visoje pramonėje apskritai, ne tik DeepMind. Klasifikatoriai ir zondai naudojami rizikingai veiklai pažymėti realiu laiku, o bendrovė teigia, kad ji vykdo tikslinę žurnalų analizę, kad nustatytų subtilesnius netinkamo naudojimo būdus, kurių gali nepastebėti automatiniai filtrai.
Nė vienas iš šių švelninimo būdų nėra apibūdinamas kaip išspręstas. „DeepMind“ juos laiko nuolatiniu procesu, o ne baigta sistema, kuri yra svarbi bet kuriai įmonei ar vyriausybinei institucijai, vertinančiai, ar pasikliauti šiuo metu sukonfigūruotomis apsaugos priemonėmis. Klasifikatorius, suderintas pagal žinomus įsilaužimo modelius kontroliuojamo vertinimo metu, negarantuoja lygiaverčio našumo, palyginti su naujais atakos metodais, atsirandančiais naudojant gyvai, ir bendrovė neteigia kitaip.
DNR sintezės atrankos problema
Viena iš konkretesnių tyrinėjamų pavojų yra DNR sintezė. Įmonės, priklausančios Tarptautiniam genų sintezės konsorciumui, šiuo metu tikrina užsakymus pagal žinomų kenksmingų patogenų ir toksinų sąrašus, kartu su atrankos algoritmais. DeepMind aiškiai teigia, kad šis metodas pradeda klaidinti, nes AI dabar gali padėti sukurti DNR sekas, kurių funkcija panaši į pavojingo patogeno funkciją, nesuderindama jos sekos pakankamai tiksliai, kad suaktyvintų esamus ekranus.
Siūlomas pataisymas yra pasiskolintas iš „DeepMind“ esamos vandenženklių sistemos „SynthID“, kuri, bendrovės teigimu, tapo AI sukurtų vaizdų ir teksto žymėjimo pramonės standartu. Jo pritaikymas prie biologinių sekų pateikiamas kaip tiriamasis darbas, o ne siunčiamas produktas.
Ilgalaikis tikslas, apibūdinamas kaip atviras techninis iššūkis, o ne kažkas, ką reikia išspręsti, apima atranką, kuri numato, ar nauja DNR seka gali būti toksiška ar patogeniška, atsižvelgiant į jos funkciją, nepaisant to, ar ji panaši į ką nors iš esamų duomenų bazių.
Pigesnė seka kaip aptikimo sluoksnis
Aptikimas priklauso nuo metagenominės sekos, kuri apibūdina kiekvieną mėginio mikroorganizmą, o ne tikrinant, ar nėra žinomų patogenų sąrašo, kaip tai daro tradicinė diagnostika. Apribojantis veiksnys yra sąnaudos, o norint taikyti regionus, kuriuose greičiausiai kils protrūkis, šios išlaidos turi gerokai sumažėti.
„DeepMind“ atkreipia dėmesį į „Google“ ir „Pacific Biosciences“ bendradarbiavimą, kuris naudojo savo „AlphaEvolve“ kodavimo agentą, kad pagerintų sekos tikslumą, nes tai yra vienas duomenų taškas siekiant šio tikslo. Bendrovė teigia, kad dabar ieško tolimesnių galimybių – nuo algoritmų, apdorojančių sekos duomenis, optimizavimo iki informavimo apie techninės įrangos dizainą, ir atskirai tiria, ar AlphaGenome galėtų padėti apibūdinti patogenus tiesiogiai iš sekos duomenų.
Tai išlieka mokslinių tyrimų bendradarbiavimas, o ne vietoje įdiegtos sistemos, o atstumas tarp sekos tikslumo padidėjimo kontroliuojamame dujotiekyje ir veikiančio išankstinio įspėjimo tinklo tarp nuotekų ir tranzito mazgų mažai išteklių naudojančioje aplinkoje nėra mažas.
AlphaFold publikacijos įrašas ir atsakomųjų priemonių spraga
Atsako ramstis remiasi medicininių atsakomųjų priemonių spraga, dėl kurios daugelis žinomų patogenų lieka be licencijuotos diagnostikos, vakcinos ar gydymo. DeepMind cituoja daugiau nei 10 000 publikacijų apie infekcines ligas, kuriose per penkerius metus buvo minimas AlphaFold, apimantis darbą su tuberkuliozės ir maliarijos plitimu bei grėsmių, įskaitant Mpox ir Nipah, planavimą.
Naujausias šio įrašo papildymas yra partnerystė su Lawrence’o Livermore’o biologinio atsparumo programa, kuri planuoja naudoti AlphaFold 3 plataus spektro antikūnų projektavimo darbams, įskaitant pan-filoviruso antikūnų pastangas. „DeepMind“ teigia, kad šiais metais į AlphaFold baltymų struktūrų duomenų bazę ir toliau įtrauks baltymų struktūras ir kompleksus, pirmenybę teikdama tikslams, susijusiems su atsakomųjų priemonių kūrimu.
Prieiga prie naujesnių agentų sistemų, įskaitant Co-Scientist, suteikiama atrinktiems tyrėjams, tarp kurių yra JAV Energetikos departamento nacionalinių laboratorijų mokslininkai, dirbantys pagal Genesis misiją.
„Isomorphic Labs“ žengė žingsnį toliau – įsteigė specialų padalinį, skirtą greitai įdiegti vaistų projektavimo variklį naujojo protrūkio metu, dirbdamas kartu su vyriausybės ir nacionalinėmis tyrimų institucijomis, tokiomis kaip Lawrence’as Livermore’as, JK AI saugumo institutas, CEPI ir Francis Crick institutas. Bendrovė taip pat pažadėjo 7 milijonus dolerių „Health for Human Potential“, „Filantropijos Azijos aljanso“ programai, skirta infekcinių ligų tyrimams visoje Azijoje.
„DeepMind“ rekomendacijos JAV politikos formuotojams yra tiesiogiai susijusios su trimis jos ramsčiais ir remiasi konkrečiais laukiančiais teisės aktais:
- Įjungta prevencijajis remia federalinę pasienio AI saugos sistemą, AI paruoštų biologinių duomenų standartų įstatymą (HR 7907), privalomą DNR sintezės patikrą pagal Biologinio saugumo modernizavimo ir inovacijų aktą (S. 3741) ir SCALE biologijos įstatymą (HR 8981).
- Įjungta aptikimasji nori, kad metagenominė seka būtų išplėsta tranzito centruose ir tankiuose gyventojų centruose, remiama Amerikos gyvosios bibliotekos įstatymo (S. 4023) ir papildomo DARPA ir HHS finansavimo ankstyvojo įspėjimo tyrimams.
- Įjungta atsakymąreikalaujama Biologinių duomenų žiniatinklio akto (HR 9307 / S. 4770) ir investicijų į gamybos pajėgumus, kad jie būtų „šilti“ ir būtų paruošti greitam aktyvavimui, kartu su iš anksto nustatytais klinikinių tyrimų tinklais ir greitesniais reguliavimo būdais.
Nė vienas iš tų teisės aktų nėra priimtas, o atotrūkis tarp įmonės politikos pageidavimų sąrašo ir veikiančios federalinės biologinio saugumo sistemos yra vieta, kur tikrasis šios programos išbandymas bus atliktas per ateinančius 6–12 mėnesių.
Taip pat žiūrėkite: „Neko Health“ surinko 700 milijonų dolerių, kad padidintų AI kūno nuskaitymą JAV
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra „TechEx“ dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais, įskaitant „Cyber Security & Cloud Expo“. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
