Trumpa administrācija ļauj ģeneratīvajiem AI tērzēšanas robotiem atbrīvoties.
Federālās aģentūras, piemēram, Vispārējo pakalpojumu pārvalde un Sociālās apdrošināšanas pārvalde ir izvērsuši Chatgpt-esque Tech saviem darbiniekiem. Līdz Veterānu lietu departaments koda rakstīšanai izmanto ģeneratīvo AI.
ASV armija ir izvietojusi Camogpt, Ģeneratīvs AI rīks, lai pārskatītu dokumentus, lai novērstu atsauces uz dažādību, pašu kapitālu un iekļaušanu. Vairāk instrumentu nāk pa līniju. Līdz Izglītības departaments ir ierosinājis izmantot ģeneratīvo AI, lai atbildētu uz studentu un ģimeņu jautājumiem par finansiālu atbalstu un aizdevuma atmaksu.
Ģeneratīvā AI ir paredzēta, lai automatizētu iepriekš veiktos valdības darbiniekus, līdz gada beigām paredzētie 300 000 darba vietu samazinājumi no federālā darbaspēka.
Wager tehnoloģija nav gatava uzņemties lielu daļu šī darba, saka Meg Younger, Information & Society pētnieks, An Neatkarīgs bezpeļņas pētījumu un politikas institūts ŅujorkāApvidū
“Mēs esam neprātīgā hipe ciklā,” viņa saka.
Ko AI dara Amerikas valdības labā?
Pašlaik valdības tērzēšanas roboti lielā mērā ir domāti vispārīgiem uzdevumiem, piemēram, palīdzot federālajiem darbiniekiem rakstīt e-pastus un apkopot dokumentus. Wager jūs varat sagaidīt, ka valdības aģentūras drīz viņiem piešķirs vairāk pienākumu. Un daudzos gadījumos ģeneratīvā AI neatbilst uzdevumam.
Piemēram, GSA vēlas izmantot Ģeneratīvā AI uzdevumiem, kas saistīti ar iepirkumu. Iepirkums ir juridiskais un birokrātiskais course of, kurā valdība iegādājas preces un pakalpojumus no privātiem uzņēmumiem. Piemēram, valdība izietu iepirkumu, lai atrastu darbuzņēmēju, būvējot jaunu biroja ēku.
Iepirkuma course of ietver valdības juristus un uzņēmuma sarunas par līgumu, kas nodrošina, ka uzņēmums ievēro valdības noteikumus, piemēram, pārredzamības prasības vai Amerikas invaliditātes likuma prasības. Līgumā var būt arī tas, kādi remonti uzņēmums ir atbildīgs pēc produkta piegādes.
Nav skaidrs, ka ģeneratīvais AI paātrinās iepirkumu, pēc Younga teiktā. Tas, piemēram, varētu atvieglot valdības darbiniekiem meklēt un apkopot dokumentus, viņa saka. Wager juristiem var šķist, ka ģeneratīva AI ir pārāk pakļauta kļūdām, ko izmantot daudzos iepirkuma procesa posmos, kas ietver sarunas par lielām naudas summām. Ģeneratīvā AI var pat tērēt laiku.
Advokātiem ir rūpīgi jāpārbauda valoda šajos līgumos. Daudzos gadījumos viņi jau ir vienojušies par pieņemto formulējumu.
“Ja jums ir tērzēšanas robots, kas ģenerē jaunus terminus, tas rada daudz darba un sadedzina daudz likumīga laika,” saka Youngs. “Visvairāk laika taupīšanas lieta ir vienkārši kopēt un ielīmēt.”
Valdības darbiniekiem arī jābūt modriem, izmantojot ģeneratīvu AI par juridiskām tēmām, jo viņi nav ticami precīzi piemēroti juridiskai argumentācijai. Izšķirt 2024. gada pētījums atklāja, ka tērzēšanas roboti, kas īpaši izstrādāti juridiskiem pētījumiem, kurus publiskojuši uzņēmumi Lexisnexis un Thomson Reuters, pieļāva faktiskas kļūdas vai halucinācijas no 17% līdz 33% laika.
Kamēr uzņēmumi kopš tā laika ir izlaiduši jaunus likumīgus AI rīkus, jauninājumi cieš no līdzīgām problēmām, saka Surani.
Kādas kļūdas pieļauj AI?
Kļūdu veidi ir plaša. Vissvarīgākais, ka 2023. gadā advokāti klienta, kas iesūdz Suianca Airways, vārdā, tika sankcionēti pēc tam, kad viņi minēja neeksistējošus gadījumus, ko radīja Chatgpt. Citā piemērā tērzēšanas robots, kas apmācīts juridiskai argumentācijai, sacīja, ka Nebraskas Augstākā tiesa atcēla Amerikas Savienoto Valstu Augstāko tiesu, saka Faiz Surani, 2024. gada pētījuma līdzautors.
“Tas man paliek neapskaužams,” viņš saka. “Lielākā daļa vidusskolnieku varētu jums pateikt, ka tieši tā darbojas tiesu sistēma šajā valstī.”
Cita veida kļūdas var būt smalkākas. Pētījumā atklājās, ka tērzēšanas robotiem ir grūti atšķirt tiesas lēmumu un stundu argumentu. Viņi atrada arī piemērus, kur LLM citē apgāztu likumu.
Surani arī atklāja, ka tērzēšanas roboti dažreiz neatzīst neprecizitātes pašā uzvednē. Piemēram, kad tika prasīts jautājums par izdomāta tiesneša lēmumiem, vārdā Luters A. Vilgartens, tērzētava atbildēja ar reālu lietu.
Juridiskā spriešana ir tik sarežģīta ģeneratīvai AI, jo tiesas atceļ lietas un likumdevēji atceļ likumus. Šī sistēma padara to par to, lai paziņojumi par likumu “var būt 100% patiesi noteiktā brīdī un pēc tam nekavējoties pārstāj būt patiesi,” saka Surani.
Viņš to skaidro saistībā ar paaudzi, kas pazīstama kā paaudze, kuru paaudze ir izguvusi, un kuru likumīgie tērzēšanas roboti parasti izmantoja pirms gada. Šajā paņēmienā sistēma vispirms apkopo dažus attiecīgus gadījumus no datu bāzes, reaģējot uz uzvedni, un ģenerē savu izvadi, pamatojoties uz šiem gadījumiem.
Wager šī metode joprojām bieži rada kļūdas, atklāja 2024. gada pētījumā. Jautāts, vai ASV konstitūcija garantē tiesības uz abortu, piemēram, tērzēšanas robots, piemēram, var izvēlēties Roe pret Wade un Deliberate Parenthood pret Casey un pateikt jā. Wager tas būtu nepareizi, jo Roe ir atcēlusi Dobbs pret Džeksones sieviešu veselības organizāciju.
Turklāt pats likums var būt neviennozīmīgs. Piemēram, nodokļu kods ne vienmēr ir skaidrs Tas, ko jūs varat norakstīt kā medicīniskos izdevumus, lai tiesas varētu apsvērt atsevišķus gadījumus.
“Tiesām visu laiku ir domstarpības, un tāpēc atbilde, pat par to, kas šķiet vienkāršs jautājums, var būt diezgan neskaidra,” saka Leigh Osofsky, Ziemeļkarolīnas universitātes tiesību profesors, Chapel Hill.
Vai jūsu nodokļi tiek nodoti tērzēšanas robotam?
Kamēr iekšējo ieņēmumu dienests šobrīd nepiedāvā paaudzes ar AI darbināmu tērzēšanas rādītāju sabiedrībai, a 2024 IRS ziņojums Ieteicams turpināt ieguldījumus AI iespējas šādam tērzēšanas robotam.
Protams, ģeneratīva AI varētu būt noderīga valdībā. Izšķirt izmēģinājuma programma Piemēram, Pensilvānijā sadarbībā ar Openai parādīja, ka ChatGPT izmantošana cilvēkus vidēji 95 minūtes dienā ietaupīja administratīvos uzdevumos, piemēram, e -pasta ziņojumu rakstīšanā un dokumentu apkopošanā.
Jaunieši atzīmē, ka pētnieki, kas administrē programmu, to izdarīja izmērītā veidā, ļaujot 175 darbiniekiem izpētīt, kā Chatgpt varētu iederēties viņu esošajās darbplūsmās.
Wager Trumpa administrācija nav ievērojusi līdzīgu savaldību.
“Šis course of, kuru viņi seko, parāda, ka viņiem ir vienalga, vai AI darbojas tā noteiktā mērķa dēļ,” saka Youngs. “Tas ir pārāk ātrs. Tas netiek veidots par konkrētu cilvēku darbplūsmu. Tas netiek rūpīgi izvietots šauriem mērķiem.”
Administrācija izlaida GSAI paātrinātā laika grafikā 13 000 cilvēku.
2022. gadā Osofskis veica pētījumu automatizētu valdības juridisko norādījumu, ieskaitot tērzēšanas robotus. Pētītie tērzēšanas roboti neizmantoja ģeneratīvo AI. Viņu pētījums sniedz valdībai vairākus ieteikumus par tērzēšanas robotiem, kas domāti publiskai lietošanai, piemēram, tos, kurus ierosinājis Izglītības departaments.
Viņi iesaka tērzēšanas robotiem nākt ar atrunām, kas informē lietotājus, ka viņi nerunā ar cilvēku. Chatbot vajadzētu arī skaidri pateikt, ka tā izvade nav juridiski saistoša.
Pašlaik, ja tērzēšanas robots jums saka, ka jums ir atļauts atskaitīt noteiktus biznesa izdevumus, guess IRS nepiekrīt, jūs nevarat piespiest IRS sekot Chatbot atbildei, un tērzēšanas robotam tas jāsaka tā izvadē.
Valdības aģentūrām ir arī jāpieņem “skaidra pavēles ķēde”, kas parāda, kurš ir atbildīgs par šo tērzēšanas robotu izveidi un uzturēšanu, saka Joshua Clean, Kalifornijas Universitātes Irvine tiesību profesors, kurš pētījumā sadarbojās ar Osofski.
Pētījuma laikā viņi bieži atklāja, ka cilvēki, kas izstrādā tērzēšanas robotus, ir tehnoloģiju eksperti, kuri bija nedaudz norausti no citiem departamenta darbiniekiem. Kad mainījās aģentūras pieeja juridiskajiem norādījumiem, ne vienmēr bija skaidrs, kā izstrādātājiem vajadzētu atjaunināt savus attiecīgos tērzēšanas robotus.
Tā kā valdība palielina ģeneratīvās AI izmantošanu, ir svarīgi atcerēties, ka tehnoloģija joprojām ir sākumstadijā. Jūs varat uzticēties, ka tas nāk klajā ar receptēm un raksta savas līdzjūtības kartes, guess pārvaldība ir pavisam cits zvērs.
Tehnoloģiju uzņēmumi vēl nezina, kuri AI lietošanas gadījumi būs izdevīgi, saka Youngs. Openai, Antropic un Google aktīvi meklē šos lietošanas gadījumus Partnerība ar valdībāmApvidū
“Mēs joprojām esam agri novērtējuši, kas ir AI, un tas nav noderīgs valdībām,” saka Youngs.
