Trumpa administrācija nav gandarīta par Bidenes laikmeta, privātā sektora vadīto bezpeļņas organizāciju, kas veterinārārsta AI rīkus izmantošanai veselības aprūpes iestādēs.
Nāca Veselības koalīcija AI (chai) kritikas zemē no pagājušās nedēļas Veselības un cilvēku pakalpojumu departamenta augstākajām amatpersonām, Politisks ziņojumi.
Ar laboratorijām Hercoga, Stenfordas un Mayo klīnikā Chai sadarbojas ar privāto tehnoloģiju un veselības aprūpes nozari, lai izstrādātu vadlīnijas un paraugpraksi AI ieviešanai. Līdz dibinātāji No koalīcijas ietilpst tādas slimnīcas kā Mass Common Brigham, tādas veselības aprūpes uzņēmumi kā CVS un UnitedHealth, kā arī Massive Tech Giants Microsoft, Amazon un Google.
“Chai ir šī publiskā un privātā sektora partnerība, kurā jums ir privātā sektora novatori, kas informē valsts sektora amatpersonas, un publiskais sektors spēj izveidot labāku informētu politiku, kas nāk no turienes,” Gizmodo sacīja Chai izpilddirektors Braiens Andersons.
Bezpeļņas organizācijai pašlaik ir aptuveni 15 lietošanas gadījuma darba grupas, kuras katra vada pētnieki no Amazon, Intel, Oracle, Microsoft un daudz ko citu. Koalīcija arī plāno sākt valsts karšu reģistru-līdzīgas kā uztura etiķetes, kas sniedz augsta līmeņa informāciju par AI modeļiem-, lai labāk informētu veselības sistēmas, kuras vēlas iegādāties AI modeļus.
Trumpa administratora amatpersonas tagad apgalvo, ka organizācijas patiesais mērķis ir apslāpēt veselības tehnoloģiju jaunuzņēmumus un AI attīstību.
“Baidena Veselības un cilvēku pakalpojumu departaments deva Chai un tā lielajiem tehnoloģiju atbalstītājiem pilnvaras regulēt un apslāpēt Well being-Tech jaunizveidotos uzņēmumus. Tas pārņēma normatīvo aktu uzņemšanu pilnīgi jaunā līmenī-viens no normatīvajiem ārpakalpojumiem,” HHS sekretāra Džima O’Nīla un FDA komisāra Marty Makary vietnieks sacīja viesu raksts Pagājušajā nedēļā publicējis konservatīvais laikraksts Vašingtonas eksaminētājs.
Chai izpilddirektors Braiens Andersons apgalvo pret šo raksturojumu.
“Čai nav nekā kopīga ar valdības noteikumiem. Valdība izlemj par politiku un noteikumiem, un Chai, mēs tam pielāgosimies,” sacīja Andersons. Vai[But] Publiskā un privātā sektora partnerībā mēs ideālā gadījumā vēlamies informēt savus regulatorus un politikas veidotājus, lai viņi izstrādātu informētus noteikumus. ”
Chai nav faktiskas regulatīvās varas, wager O’Neils pagājušajā nedēļā Politico sacīja, ka viņš ir dzirdējis no nozares amatpersonām, kuras ir paudušas bažas, ka jaunuzņēmumi, kas vēlas strādāt kosmosā, jūtas tā, it kā viņiem būtu jābūt organizācijas loceklim. O’Neils uzskata, ka Čai ir potenciāls kļūt par “karteli”, kas nomāc jauninājumus Well being AI.
“Nevienam īsti nevajadzētu justies spiestam iesniegt savu darbu konkurentu vai cilvēku vai cilvēku, kas ir sapinušies ar konkurentiem, analīzei,” O’Neils pastāstīja Politico.
“Tas ir kā pašizlaidīgs saldējuma konuss, virtuāls un neētisks sindikāts. Mēs saskaramies ar atiestatīšanu. Roberta F. Kenedija jaunākā sekretāra vadībā HHS neļaus Chai-vai nevienu citu bezpeļņas grupu, ideju laboratoriju vai kompāniju-uzņēmumam-darboties kā netiešai valdības atbalstītam regulatoram vai polikātiskajam veidotājam,” O’Neill un Makary rakstīja Wasington. Šī prasība varētu šķist bagāta, ņemot vērā, ka Trumpa administrācija lielākoties ir bijusi sekot līdz Projekts 2025 Playbook, kuru izstrādāja Heritage Basis, konservatīva ideju tvertne.
Arī Čai mērķus nopratināja līdzīgi kā iepriekšējie republikāņu kongresmeņi Senāta uzklausīšanas.
Tiesas sēdē no 2024. gada maija republikāņu republikas pārstāvis Marianette Millers-Meiks sacīja, ka Čai un citas līdzīgas organizācijas, kuras dēvē par pārliecības laboratorijām, “neiziet smakas pārbaudi” un parāda “parādīt”skaidras regulatīvās uztveršanas mēģinājuma pazīmes.
Normatīvā uztveršana notiek, ja regulatīvā aģentūra, kas izveidota, lai attīstītu sabiedrības intereses, kļūst par apvalku īpašām interešu grupām, kas dominē pašā nozarē, kurai ir paredzēts regulēt aģentūrai. Uzklausīšanas laikā Dr. Džefs Šurens, kurš tajā laikā vadīja FDA ierīču un radioloģiskās veselības centru, wager kopš tā laika ir atstājis savu amatu, atbildēja uz pārstāvju bažām, sakot, ka, ja Chai ražo “kaut ko noderīgu nodevumiem, mēs to varam ņemt vērā. Wager viņi nestrādā mūsu labā, mēs nestrādājam viņiem.”
Bailes par chai mēģinājumiem tika izvirzītas arī normatīvā uztveršanā domuveciņš Riska kapitāla uzņēmuma Andreessen Horowitz izpilddirektors.
“Lielām korporācijām ir spēcīgs stimuls sagrābt tirgu drošības aizsegā,” Op-Ed rakstīja Andreessen Horowitz Bio+Well being Workforce Julie Yoo ģenerālpartneris, apgalvojot, ka papildu slāņi par jaunuzņēmumu intelektuālo īpašumu “palēnina reālu inovāciju”.
Andreessen Horowitz dibinātāji apstiprināja Trumpu 2024. gada vēlēšanās un ir atbalstījuši 100 miljonu dolāru centieni ietekmēt AI politiku ar ārēju grupu ar nosaukumu “Vadošā nākotne”.
Chai nav obligāts, taču, neskatoties uz to, ir 3000 organizācijas, kas ir koalīcijas locekļi, tehnoloģiju un veselības aprūpes uzņēmumu un slimnīcu sajaukums. Andersons saka, ka 700 no šiem biedriem ir jaunuzņēmumi, visaktīvākā un visstraujāk augošā ieinteresēto personu kopiena Chai.
Viņš apgalvo, ka jaunuzņēmumi pievienojas Chai nevis no spiediena, wager gan kā veids, kā uzlabot savu biznesu un izprast klientus.
“Iemesls, kāpēc jaunuzņēmumi vēlas būt daļa no tā, ir tāpēc, ka viņi vēlas izveidot produktu, kuru viņi var pārdot tik daudzām veselības sistēmām un dzīvības zinātnes uzņēmumiem,” sacīja Andersons. “Bizness 101, ja jebkuram tehnoloģiju uzņēmumam ir jāzina jūsu klienti, un tas būtībā ir tas, ko mēs veidojam.”
Pēc viņa teiktā, šī loģika attiecas arī uz lieliem tehnoloģiju uzņēmumiem, kas sniedz mākoņa pakalpojumus šiem veselības AI jaunizveidotiem uzņēmumiem. Microsoft Azure, Amazon’s AWS un Google Cloud platforma ir visi aizraušanās AI jaunizveidotiem uzņēmumiem un visi ir dibinātāji.
Viņš uzstāj, ka jaunuzņēmumu intereses netiks sagrautas saskaņā ar lielajiem tehnoloģiju uzņēmumiem, kas ir arī koalīcijas sastāvdaļa, sakot, ka katrs uzņēmums iegūst tikai vienu vietu darba grupās, un jaunuzņēmumi pārsniedz lielo tehnoloģiju uzņēmumus.
Wager dibinātāju partneriem, kas ietver Amazon, Google un Microsoft, ir arī garantēta vieta konsultatīvajā padomē, kas ziņo direktoru padomei, lai veidotu pārvaldības lēmumus.
Viss caurspīdīgumam
O’Neils pastāstīja Politico, ka Trumpa administrācija atbalsta AI caurspīdīguma centienus, lai pircēji varētu pieņemt labāk informētus lēmumus. Tas ir viens punkts, kuru principā viņš un Andersons redz aci pret aci.
Tā kā AI ir diezgan jauns, “ir ļoti svarīgi, lai būtu caurspīdīguma līmenis, kā šie modeļi faktiski darbojas, un spēt tos uzraudzīt, kad tie ir izvietoti,” sacīja Andersons.
“Galvenā atbildīgā puse, kad tiek izmantots modelis, nav pārdevējs, tas ir ārsts, tā ir veselības sistēma. Tātad jums ir pamatoti sakot, ka” labi, ka es izmantoju šo modeli, man jāzina, kādas datu kopas tika izmantotas tās apmācībai, kāda bija apmācības metodika? ” Andersons teica.
Wager Andersons uzskata, ka ir jēga, ka tehnoloģiju uzņēmumi nevēlas atklāt savu intelektuālo īpašumu. Chai mēģina panākt līdzsvaru, izmantojot darba grupas, kas apvieno abu nozaru pētniekus un vadītājus, lai panāktu vienprātību par to, kāds ir minimālais informācijas atklāšanas apjoms, kas var izpildīt šīs pārredzamības prasības.
Tas ietver augsta līmeņa datu kopu aprakstus un metodoloģiju, ko izmanto AI modeļu apmācībai, nevis rindas rindai parādīt precīzas izmantotās datu kopas.
“Modeļa kartei nav nepieciešama starta kopiena vai tehnoloģiju uzņēmumi kopumā, lai atklātu viņu IP,” sacīja Andersons. “Tas bija pārdevēji, kas vēlējās radīt uzticību klientiem, un klienti, kuri vēlas, lai varētu uzticēties šiem rīkiem.”
Assurance Resursu sniedzēji sertificēts CHAI, Beeeperai un Citadel AI ar vairāk ienākošajiem piedāvā arī brīvprātīgu pārbaudi, ka veselības sistēmas var lūgt izstrādātājus iziet pirms galīgā pirkšanas lēmuma pieņemšanas. Tie ir tādi testi, kādi ir kritiķi, wager Chai apgalvo, ka tas ir svarīgi atbildīgai un caurspīdīgai veselības AI izvietošanai un ka tā faktiski paātrina AI ieviešanu veselības aprūpē, racionalizējot pārbaudīšanas un izvietošanas procesu.
Valdības attiecības
Neskatoties uz privātā sektora vadīto, Chai kaut kādā amatā strādā ar valdības amatpersonām.
Divas bijušās Baidenas administrācijas amatpersonas, HHS sekretāra palīga tehnoloģiju politika Mikijs Tripathi un FDA Digitālā veselības centra izcilības centra direktors Trojs Tazbazs, uz ierobežotu laiku bija valdes locekļi, kas nebija balsīgi, vienlaikus strādājot valdības amatos, wager vēlāk atkāpās no amata, atsaucoties uz interešu konfliktiem.
Bidenes administrācijai bija arī vairāki federālie sakari, kas strādāja koalīcijas darba grupās, un koalīcijas attiecības ar valdību turpinās pakļauties Trumpa administrācijai. Vismaz līdz šim.
Andersons sacīja, ka viņiem ir bijušas vairākas tehniskas vadības no HHS aģentūrām, piemēram, Medicare & Medicaid Providers centri, un nesen paziņoja par sadarbību ar Nacionālo standartu un tehnoloģiju institūtu, kurai ir vērsta pilnībā koncentrēties uz AI attīstību zem Trumpa.
Čai ir arī regulāras tikšanās ar republikāņu senatoriem Maiku Krapo, Maiku Roundu, Todu Youngu un Tedu Krūzu, lai runātu par AI veselībā, sacīja Andersons. Politisks ziņots Šis Chai nolēma sena Krapo bijušo veselības aprūpes palīgu Sūzenu Zuku šī gada sākumā lobēšanas amatpersonām.
Viņš uztraucas, ka šī HHS sirds maiņa varētu apdraudēt šos savienojumus. CMS vēl nav atbildējis uz Gizmodo komentāru pieprasījumu par saviem plāniem, kas turpināsies attiecībā uz Chai.
Veselības aprūpe ir viens no AI slavenākajiem un pārbaudītākajiem lietošanas gadījumiem. AI uzņēmumi, piemēram, Openai, veido milzīgas lugas veselības aprūpes nozarē. Tikmēr Healthcare AI starta openevidence (domājams) ir atradusi ceļu uz a ekrāniem ceturtdaļa ārstu visā valstī.
Arī valdība ir bullish. Jūlijā Baltais nams rīkoja pasākumu “Padarīt Well being Tech Once more”, kurā Trump paziņoja par privātā sektora iniciatīvu, kas pacientu aprūpei izmantos sarunvalodas AI palīgus un dalīsies ar privāto medicīnisko dokumentāciju amerikāņiem visās lietotnēs un programmās no 60 uzņēmumiem.
Wager nav skaidra sprieduma par to, cik labi AI veic medicīniskos apstākļos. Izšķirt Stenfordas pētījums No pagājušā gada parādīja, ka Chatgpt ļoti labi darbojās medicīniskajās diagnozēs, pat labāk nekā daži ārsti, taču daži ārsti nav pārliecināti, ka agrīnie testi ir pārliecinoši.
Veselības aprūpe ir cieši pārbaudīta AI lietošanas gadījums, jo pat viena kļūda var būt letāla, un mūsu pašreizējās AI sistēmas ir ļoti tālu no perfektas, ar biežām halucinācijām un ceptu aizspriedumiem.
Tas ir novedis no bažīgajiem ekspertiem aicināt uz lielāku pārredzamību un regulējumu. Amerikas Savienotās Valstis veica savu pirmo galveno normatīvo soli, lai panāktu šo caurspīdīgumu šīs nedēļas sākumā, kad Kalifornijas gubernators Gavins Newsoms likumā parakstīja Robežu mākslīgā intelekta likuma caurspīdīgumu, kas ir pirmais šāda veida likumprojekts, kas varētu būt katalizators vairāk tiesību aktu visā valstī.
Pašlaik ir ierobežota federālā uzraudzība, kad runa ir par Well being AI izvietošanu, lai gan tas izskatās tā, it kā Trumpa administrācija varētu būt gatava pārņemt grožus.
FDA publicēta Informācijas pieprasījums Pagājušajā nedēļā, cenšoties apkopot atsauksmes no medicīnas nozares par veselības AI izvietošanu un novērtēšanu. Joprojām nav jānovērtē, vai šī tiešā atgriezeniskā saite tiks uztverta tikpat nopietni kā dziļi kabatas ārējās interešu grupu vēlmes.
