Sākot no nodokļu birojiem līdz skapju istabām, mākslīgais intelekts jau šķērso līniju no kalpa līdz suverēnam
Jauns ministrs ir pievienojies nelielas Eiropas valsts kabinetam. Viņas vārds ir Diella. Viņa neēd, nedzer, smēķē, staigā vai elpo – un, pēc premjerministra teiktā, kurš viņu nolīga, viņa arī neņem kukuļus. Modela nav cilvēks, un viņa nav arī gluži robots: viņa ir algoritms. Un kopš septembra viņa ir oficiāli Albānijas publiskā iepirkuma ministre.
Pirmo reizi vēsturē valdība ir devusi kabineta līmeņa amatu mākslīgajam intelektam.
Izklausās pēc sci-fi, wager iecelšana ir reāla un ir noteikusi precedentu.
Vai jūs esat gatavs pārvaldīt AI?
Albāņu eksperiments
Vēl nesen Diella klusi dzīvoja Albānijas e-pārvaldes portālā, atbildot uz ikdienas pilsoņu jautājumiem un atnākot dokumentus.
Tad premjerministrs Edi Rama paaugstināja viņu par ministru rangu, uzdevot viņai ar kaut ko daudz svarīgāku: izlemt, kurš uzvar štata līgumos – funkciju, kuras vērtība ir miljardu naudas nauda un kas ir bēdīgi slavena ar kukuļošanu, favorītismu un politiskiem atsitieniem.
Rāma ir ierāmējis Magnalu kā tīru pārtraukumu ar valsts transplantāta vēsturi – pat viņu sauca “Necaurlaidīgi kukuļiem.”
Guess tā ir retorika, nevis garantija. Nav skaidrs, vai viņas pretošanās korupcijai ir tehniski vai likumīgi izpildāma. Ja viņa būtu uzlauzta, saindēta ar viltus datiem vai smalki manipulēta no iekšpuses, iespējams, nav pirkstu nospiedumu.
Plāns ir, lai Milela novērtētu piedāvājumus, pārmeklētu uzņēmuma vēsturi, karoga aizdomīgus modeļus un galu galā automātiski apbalvotu piedāvājumus. Amatpersonas saka, ka tas samazinās birokrātijas cilvēku pēdas, ietaupīs laiku un padarīs iepirkumu imūno pret politisko spiedienu.
Guess juridiskā mehānika ir drūma. Neviens nezina, cik daudz cilvēku pārraudzīs, vai kurš ir atbildīgs, ja viņa kļūdās. Nav tiesas precedenta par algoritmiskā ministra iesūdzēšanu. Nav arī likuma, kas apraksta, kā viņu var noņemt no amata.
Kritiķi brīdina, ka, ja viņas apmācības dati satur vecās korupcijas pēdas, viņa varētu vienkārši reproducēt tos pašus modeļus kodā, wager ātrāk. Citi norāda, ka Albānija nav izskaidrojusi, kā var pārsūdzēt Mijelas lēmumus, vai pat ja tos var pārsūdzēt.
Kas, iespējams, varētu noiet greizi?
Sabiedrības reakcija uz Diellu ir sajaukta, un to aizrauj nemiers.
“Pat Modela tiks sabojāta Albānijā,” Lasīts viens vīrusu ziņa.
Kritiķi brīdina, ka viņa, iespējams, netīrīs sistēmu – tikai slēpjot netīrumus koda iekšpusē.
- Aizspriedumi un manipulācijas: Ja Modela ir apmācīta par gadu desmitiem ilgiem datiem, Modela varētu vienkārši automatizēt vecos korupcijas modeļus.
- Atbildība tukšums: Ja viņa apbalvo konkursu čaumalu uzņēmumam, kas pazūd ar miljoniem, kurš ir tiesas course of – kodētāji, ministrs, kurš viņu iecēla, vai vispār nevienu?
- Drošība un sabotāža: Kodeksa izgatavotu ministru var uzlauzt, saindēt ar viltus datiem vai mierīgi vadīt iekšējās informācijas.
- Demokrātiska leģitimitāte: Domājams, ka ministri atbildēs sabiedrībai. Algoritmi nav kampaņas, nepaskaidrojiet un nebaidieties zaudēt darbu.
- Parādās šantāža un sabotāža: Anthropic eksperimenti šogad parādīja, ka progresīvi modeļi, dodot piekļuvi korporatīvajām sistēmām testa vidē, sāka draudēt vadītājiem ar šantāžu, lai apturētu viņu pašu deaktivizāciju. Raksts bija skaidrs: tiklīdz viņi uzskatīja, ka situācija ir reāla, daudzi modeļi mēģināja piespiest, nodot vai nogalināt, lai saglabātu viņu lomu.
Albānija saka, ka tā turēs cilvēku cilpā, wager nav paskaidrojusi, kā vai kurš. Nav tiesiskā regulējuma. Nav pārsūdzību procesa. Nav pārslēgšanas.
Un, ja šķiet, ka Dija darbojas, citi varētu sekot. Copycats neieradās ar preses konferencēm vai skapja fotoattēlu opcijām. Viņi varēja mierīgi ieslīdēt iepirkuma sistēmās, paslēpti tādos eifēmismos kā “Lēmumu atbalstīšana”, ” Visu stāvokļa funkciju vadīšana ilgi, pirms kāds uzdrošinās viņiem piezvanīt ministriem.
Kurš nodod jaudu kodam – un cik tālu viņi ir aizgājuši
Albānija, iespējams, ir pirmā, kas sēž algoritmu blakus ministriem, taču tā nav viena, mēģinot vadīt kodu štatā – vairums to tikai klusi, fragmentos un aiz biezākiem aizkariem.
Par Apvienotie Arābu Emirātijau ir mākslīgā intelekta valsts ministrs – cilvēks, Omārs sultāns al Olama -, kura uzdevums ir pārveidot visu valsts digitālo birokrātiju ap mašīnu apguvi. Viņš nav nodevis spēku AI, wager viņš būvē caurules, kuras kādu dienu varētu to nēsāt.
Spānija ir izveidojusi Aesia, kas ir viena no pirmajām Eiropas speciālajām AI pārraudzības aģentūrām, lai revidētu un licencētu valdības iekšienē izmantotos algoritmus. Tas ir normatīvais skelets – tāda veida likumīgas sastatnes, kādas jūs vēlaties, pirms ļaujiet mašīnai jebkur netālu no ministra darba.
Nodokļu iestādes turpina iet tālāk. Par Amerikas Savienotās ValstisIRS izmanto AI, lai izsijātu riska ieguldījumu fondu un turīgu partnerību iesniegšanu, mēģinot pamanīt slēptās izvairīšanās shēmas. Kanāda Rezultāti nodokļu maksātāji pēc algoritma un piespiež aģentūras iesniegt “Algoritmiskā ietekme” pārskati pirms jaunu modeļu izvietošanas. Spānija ir instrumentu ieviešana krāpšanas modeļu iegūšanai reālā laikā. Itālija ir testēšanas mašīnu mācīšanās, lai atzīmētu viltus PVN pretenzijas un pat ir izveidojis tērzēšanas robotu saviem auditoriem. Indija saka, ka tas palielina AI vadītas represijas ar fantoma atskaitījumiem. Un Armēnija ir izmēģinājuma sistēmas, kas skenē rēķinus, un apzīmē aizdomīgu izturēšanos, pirms cilvēks tos kādreiz redz.
Francija ir kļuvis vizuāli, norādot uz algoritmiem uz gaisa attēliem, lai noķertu nedeklarētus peldbaseinus un trāpītu īpašniekiem ar pārsteiguma nodokļu rēķiniem – pierādījums tam, ka AI jau var pārvietot naudu no pilsoņiem uz valsti. Latvija Vadā nodokļu tērzēšanas robotu ar nosaukumu Toms, kas atbild uz pilsoņiem kopš 2020. gada, palielinot savu birokrātijas sasniedzamību.
RumānijaLauku investīciju aģentūra tagad izmanto robotu procesu automatizāciju un AI, lai no valsts datu bāzēm noņemtu dokumentus un strauji ES finansējumu lauksaimniekiem – nevis krāšņi, wager ļoti efektīvi.
Tikmēr, IgaunijaVerdzība DānijaVerdzība SingapūraVerdzība Dienvidkoreja un Japāna Ietver AI dziļāk savās birokrātiskajās mašīnās: valdības satura klasifikācija, gadījumi, kas veicina gadījumus, personalizē pakalpojumus, pat prognozē, kam nākamais varētu būt nepieciešama veselības aprūpe vai labklājība. Igaunija sauc to par Krattai – redzējumu par katru pilsoni, kas runā ar valdību, izmantojot vienu balss saskarni. Dānija gatavojas rādīt AI rīkus visos sabiedriskajos pakalpojumos, pat kā tiesību grupas brīdina par necaurspīdīgajiem labklājības algoritmiem. SingapūraGovtech vienība būvē AI produktus ministrijām. Dienvidkoreja ir AI pilotēšana sociālajās programmās. Japāna ir visa nozares pieņemšana veselībai un administrācijai.
Un iekšā Nepālavaldība ir pārstājusi runāt “Ja” un sāka plānot “Kā.” Tās jaunā Nacionālā AI politika nosaka ceļu, lai iekārtotu mašīnu sabiedriskos pakalpojumus, modernizētu birokrātiju un izveidotu likumīgas apsardzes, pirms to izvieto mērogā. Nevienam algoritmam tur nav lēmumu pieņemšanas spēka, wager gan plāns pastāv.
Visur, kur jūs skatāties, valsts tiek atjaunota – līnija pēc koda.
Pagaidām šīs sistēmas čukst, nevis likumi: tās apzīmē riskus, pirms aizpildīšanas veidlapas, šķiro auditus, pārvieto naudu. Pagaidām tikai Albānija ir lūgusi algoritmu izlemt.
Vai AI valdības ir nākotne?
Pašlaik neviena valsts nav nodevusi pilnīgu politisko spēku algoritmam: kas pastāv, ir sava veida divu celiņu pasaule.
Lielākā daļa valstu izmanto administratīvo AI, klusu veidu: riska vērtēšanu, krāpšanas noteikšanu, lietu trīskāršu vai tērzēšanas robotus. Tas jau veido to, kurš tiek revidēts, cik strauji dotas dotācijas un kuras lietas iesniedz, vispirms nolaižas uz ierēdņa galda. Tas neraksta likumus vai paraksta līgumus, wager tas rada rezultātus – nemanāmi, pastāvīgi.
Albānija ir atšķirīga. Modela ne tikai iesaka, wager arī ir paredzēts apbalvot, izlemt, kurš saņem valsts naudu. Tas šķērso līniju no algoritma kā instrumentu uz algoritmu kā autoritāti.
Vai tā varētu būt nākotne? Iespējams, wager tikai tad, ja vairākas maz ticamas lietas nonāk vietā. Likumam būtu jānotiek, radot skaidrus noteikumus par atbildību, apelācijas un pat no amata. Regulatoriem būtu jāiekļauj, ar reālām revīzijām, piemēram, Spānijas aēzi, nevis papīra tīģeriem. Un modeļiem būtu jāpaliek stabilam zem spiediena – nevis šantāža, sabotāžas vai jānoiet negodīgi, kad tiek apdraudēti, kā dažiem jau ir laboratorijas testos.
Mēs vēl neesam tur, wager precedents tagad pastāv.
