Kai anksčiau šį mėnesį aptarėme projektą „Glasswing“, istorija buvo apie modelį, kuris yra pernelyg pavojingas, kad jį būtų galima paviešinti, ir tai, ką Anthropic nusprendė su juo daryti. Ta istorija persikėlė.
Penktadienį Anthropic generalinis direktorius Dario Amodei įėjo į Vakarų sparną susitikti su Baltųjų rūmų personalo vadove Susie Wiles. Kambaryje taip pat buvo iždo sekretorius Scottas Besentas. Baltieji rūmai pavadino derybas „produktyviomis ir konstruktyviomis“. Antropikas sakė tą patį. Kai žurnalistas paklausė prezidento Trumpo apie vizitą ant kilimo ir tūpimo tako Finikse, jis atsakė: „Kas? ir pasakė, kad „nėra supratimo“, kad Amodei yra ten.
Neskaitant šios detalės, pats susitikimas yra vienas ryškiausių politinių perversmų pastarojoje AI istorijoje. Vos prieš kelias savaites Trumpo administracija paskelbė antropinę tiekimo grandinės riziką – toks pavadinimas paprastai skiriamas užsienio priešininkams, o pats Trumpas sakė, kad administracija „daugiau su jais nedarys verslo“.
Nuo to laiko federalinis teisėjas San Franciske užblokavo šios direktyvos vykdymą ir išlaikė Anthropic teisę dirbti su nekarinėmis agentūromis, kol vyksta bylinėjimasis. Pentagono ginčas tebėra gyvas.
Tai, kas pakeitė skaičiavimą – bent jau Baltųjų rūmų lygmeniu – buvo Anthropic Mythos AI kibernetinio saugumo gebėjimai. Konkrečiai, tai, kad agentūros tariamai stebi, kaip „Mythos“ daro tai, ko jokia kita priemonė negali padaryti, ir nenori to daryti.
Modelis ir politika
Kaip pranešėme, kai Anthropic pristatė projektą Glasswing, Mythos Preview nebuvo specialiai apmokytas saugos darbams. Jo gebėjimas savarankiškai nustatyti ir išnaudoti programinės įrangos spragas atsirado dėl bendrų samprotavimų ir kodo patobulinimų, o tai, ką ji rado nuo įdiegimo, buvo stulbinanti.
Vidinio testavimo metu „Mythos“ kiekvienoje pagrindinėje operacinėje sistemoje ir žiniatinklio naršyklėje aptiko tūkstančius anksčiau nežinomų, didelio sunkumo spragų, įskaitant 27 metų senumo OpenBSD klaidą ir 16 metų senumo FFmpeg trūkumą, kuris buvo atliktas automatiniu testavimu penkis milijonus kartų neaptiktas.
Užuot siųstą viešai, Anthropic išleido tik pasirinktai organizacijų grupei per Project Glasswing – koaliciją, kurią sudaro AWS, Apple, Cisco, Google, Microsoft, Nvidia, CrowdStrike ir JPMorganChase, be kita ko, ir kurią remia iki 100 milijonų JAV dolerių naudojimo kreditais. Modelis naudojamas įžeidžiančiai, kontroliuojama prasme: pažeidžiamumas randamas anksčiau nei kas nors kitas.
JAV vyriausybė stebėjo, kaip koalicija veikia ir nori įsitraukti. Žvalgybos agentūros ir Kibernetinio saugumo ir infrastruktūros saugumo agentūra jau išbando „Mythos“, o Iždo departamentas taip pat išreiškė susidomėjimą. Axios. Iždo ir kitos vyriausybinės agentūros išreiškė susidomėjimą prisijungti prie „Glasswing“ sąrašo, o prieš penktadienio Baltųjų rūmų susitikimą du šaltiniai „Axios“ sakė, kad netrukus gali būti sudarytas toks susitarimas.
Atskirame Axios Ataskaitoje keliamas susirūpinimas, kad „Mythos“ ir kiti pažangiausi AI įrankiai gali leisti įsilaužėliams pažeisti JAV finansų sistemą. Be to, ataskaitoje buvo manoma, kad įmonės ir vyriausybinės agentūros galėtų naudoti „Mythos“, kad sustiprintų savo kibernetinę apsaugą, kol blogi veikėjai nepasieks prieigą.
Ši dvejopo naudojimo įtampa dabar yra politinė problema. Nacionalinis kibernetinis direktorius Seanas Cairncrossas vadovaus federalinių pareigūnų grupei, kuri nustatys ypatingos svarbos infrastruktūros saugumo spragas ir sustiprins vyriausybės sistemas nuo AI išnaudojimo.
Kur stovi atotrūkis
Penktadienio susitikimas buvo skirtas atskirti du pokalbius, kurie buvo įsipainioję. Pradėjusios sesiją, abi pusės siekė atriboti Pentagono kovą nuo to, kaip likusi vyriausybė bendradarbiauja su Anthropic, ir tikimasi, kad kiti departamentai turės prieigą prie „Mythos Preview“, remiantis šaltiniais, susipažinusiais su derybomis.
Vienas Trumpo patarėjas sakė Axios: „Tai didelė problema. Visi skundžiasi. Yra visa šita drama. Taigi Susie tai išgirdo Dario, išsiaiškino, kas yra bulius, ir pradės planuoti kelią į priekį.”
Administracijos pareigūnas apibendrino dabartinę dinamiką glaustai: „Pažanga Baltuosiuose rūmuose. Nėra pažangos su (Karo departamentu). Tas padalijimas byloja. Civilinės agentūros, tokios kaip Energetikos ir Iždo departamentai, yra atsakingos už svarbiausių sektorių, tokių kaip elektros tinklas ir finansų sistema, apsaugą.
Jų susirūpinimas nėra susijęs su autonominiais ginklais ar stebėjimu. Jie nori Mythos siūlomų gebėjimų ir nenori daryti papildomos žalos kovoje tarp Pentagono ir AI įmonės. DOD nekomentavo Mythos, bet toliau naudojo Anthropic’s Claude modelius kare su Iranu. Prie tos išnašos verta sėdėti.
Viešai Anthropic taip pat ėmėsi veiksmų, rodančių, kad supranta, kaip veikia Vašingtonas. Iš viešųjų dokumentų matyti, kad „Anthropic“ neseniai pasamdė lobistinę įmonę „Ballard Partners“, kurioje Wilesas dirbo daugelį metų, specialiai siekdama propaguoti karo departamento viešuosius pirkimus.
Kas bus toliau
Bylinėjimasis nesibaigė. Federalinis apeliacinis teismas atmetė Anthropic prašymą laikinai blokuoti Pentagono įtraukimą į juodąjį sąrašą; San Francisko teisėjas priėmė preliminarų įsakymą atskiroje byloje. Antropiniams asmenims tebedraudžiama sudaryti DoD sutartis, tačiau jie gali toliau bendradarbiauti su likusia vyriausybe, kol abu atvejai vyksta.
Baltieji rūmai pranešė, kad planuoja tęsti dialogą su Anthropic ir kitomis dirbtinio intelekto įmonėmis, o Valdymo ir biudžeto biuras jau ruošiasi suteikti agentūroms prieigą prie „Mythos“, kad galėtų įvertinti savo gynybą. Bloombergas. Tai reikšminga pažanga, net jei Pentagonas ir lieka neišspręstas gabalas.
Vienas deryboms artimas šaltinis tai aiškiai pasakė: „Būtų labai neatsakinga, jei JAV vyriausybė atimtų iš savęs technologinius šuolius, kuriuos suteikia naujasis modelis. Tai būtų dovana Kinijai“.
Šis įrėminimas – mažiau apie Anthropic teisinę padėtį, daugiau apie tai, ko JAV negali sau leisti atsisakyti – atvedė Amodei į Vakarų sparną. Ar Pentagonas kada nors pasiseks, yra kitas klausimas.
Taip pat žiūrėkite: „Anthropic“ atsisakė ginkluoti AI, todėl JK to nori
Norite daugiau sužinoti apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite „AI & Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Šis išsamus renginys yra „TechEx“ dalis ir vyksta kartu su kitais pagrindiniais technologijų renginiais, įskaitant „Cyber Security & Cloud Expo“. Norėdami gauti daugiau informacijos, spustelėkite čia.
AI naujienas teikia TechForge Media. Čia rasite kitus būsimus įmonių technologijų renginius ir internetinius seminarus.
