Sabiedriskā sektora darbinieki ir pauduši “dziļas bažas” pēc tam, kad Koventrijas pilsētas dome parakstīja mākslīgā intelekta līgumu ar 500 000 sterliņu mārciņu gadā ar ASV datu tehnoloģiju uzņēmumu Palantir.
Darījums ir pirmais šāda veida veids starp Lielbritānijas vietējo pašvaldību un Denveras uzņēmumu, kas piegādā tehnoloģiju Izraēlas aizsardzības spēkiem (IDF) un palīdzēt Donalda Trumpa masu deportācijas centieniem.
Līgums seko izmēģinājuma shēmai Padomes Bērnu pakalpojumu departamentā, ieskaitot AI izmantošanu gadījuma piezīmju transkripcijai un sociālo darbinieku ierakstu apkopošanai. Padome plāno paplašināt Palantir sistēmu līdz procesiem, lai sniegtu atbalstu bērniem ar īpašām izglītības vajadzībām.
Padomes izpilddirektore Džūlija Nugente sacīja, ka tās mērķis ir “uzlabot iekšējo datu integrāciju un pakalpojumu sniegšanu” un “izpētīt mākslīgā intelekta pārveidojošās iespējas”.
Palantir jau ir vairāki publiskā sektora līgumi Apvienotajā Karalistē, tostarp nodrošinot AI, lai palīdzētu novērst organizēto noziedzību Lesteršīrā un jaunās NHS federētās datu platformas izveidošanai. Keirs Starmers februārī apceļoja uzņēmuma Vašingtonas biroju kopā ar tā izpilddirektoru un līdzdibinātāju Aleksu Karpu. Palantiru līdzdibināja arī Pēteris Thiels, Paypal miljardieris, kurš palīdzēja finansēt Trumpa 2016. gada vēlēšanu Camapign.
Arodbiedrības, kas pārstāv skolotājus un citus padomes darbiniekus, ir teikuši, ka darījums rada “nopietnus ētiskus jautājumus”, un neatkarīgā padomes loceklis Grace Lewis aicināja padomi nekavējoties atcelt līgumu “un nodrošināt, ka 500 000 sterliņu mārciņu tiek iztērēti tieši šeit mūsu sabiedrībā”.
“Ir nenovēršami, ka padome noslēdza līgumu ar Palantiru, uzņēmumu, kas draņķīgs par savu lomu ieroču un uzraudzības nodrošināšanā IDF un tā lomai NHS privatizācijā, laikā, kad padome ir samazinājusi sabiedrības un brīvprātīgo sektoru,” sacīja Lūiss.
Coventry nesen sāka izmantot Palantir AI, lai pārbaudītu lietojumprogrammas mājsaimniecību atbalsta fondiem. Viena vecākā amatpersona jūnijā sacīja padomes locekļu sanāksmei: “Ir ļoti maz jomu, kurām nebūtu labumu no mākslīgā intelekta.” Sanāksmes padomes loceklis atbildēja: “Man tas izklausās pēc lielā brāļa.”
Vēstulē Nugentam, Nacionālās izglītības savienības Koventrijas filiāles kopīgais sekretārs Nicky Downes, uzsvēra Palantir AI izmantošanu uzraudzības un ieroču sistēmās, kā arī radīja bažas par tā vākšanu un datu glabāšanu pilsoņiem, jo īpaši attiecībā uz paredzamās policijas sistēmu nodrošināšanu.
“Ir daži nopietni ētiski jautājumi par Palantir Foundry biznesa praksi, kas ir Palantir meitasuzņēmums,” sacīja Downes. “Ir arī jautājumi, kas saistīti ar personas datu izmantošanu un iegūšanu. Mēs apšaubītu iepirkuma procesu, jo īpaši attiecībā uz ētiskiem apsvērumiem un pievienoto riska novērtējumu, kas noveda pie lēmuma tērēt 500 000 sterliņu mārciņu no Palantir Foundry AI paketes.”
Pēc biļetenu veicināšanas
Nugents atbildēja: “Mēs 12 mēnešus esam iecēluši Palantiru, lai izpētītu mākslīgā intelekta pārveidojošās iespējas, iesniedzot jēdzienu pierādījumus daudzās galvenajās jomās. Tas veidos mūsu biznesa lietu turpmākai investīcijai turpmākai investīcijai un vispārējai pieejai AI. Mēs saprotam, ka ētiskā ietekme, kas saistīta ar AI iepirkumu, ir ārkārtīgi svarīga. Lūdzu, nodrošiniet, ka Padome ir izturīga un izturīga.
Palantir pārstāvis sacīja: “Mēs ar prieku palīdzam Koventrijas pilsētas domes Harness AI uzlabot sabiedrībai sniegtos pakalpojumus. Šī tehnoloģija piedāvā milzīgu potenciālu, piemēram, dodot iespēju sociālajiem darbiniekiem un īpašām izglītības vajadzībām profesionāļiem pavadīt mazāk laika dokumentiem un vairāk laika, kas tieši atbalsta bērnus, kuri ir neaizsargāti vai kuriem ir īpašas vajadzības. Agrīnās pazīmes ir ārkārtīgi daudzsološi potenciāla samazināšana.
Viņi sacīja, ka Palantirs ir bezpartejisks un ir sadarbojies ar vairākām ASV valdības administrācijām kopš tā darba ar Iekšzemes drošības departamentu 2010. gadā.
Padomes pārstāvis sacīja, ka tā pēta, kā AI varētu palīdzēt uzlabot pakalpojumus un padarīt tos efektīvākus. “Šīs iniciatīvas ietvaros mēs novērtējam virkni AI risinājumu un tehnoloģiju partneru, ieskaitot Palantir, lai atbalstītu mūsu AI mērķus… Tā kā mēs turpinām novērtēt AI vērtību turpmākajiem ieguldījumiem, saglabājot stabilu datu aizsardzību un pārvaldības standartus, joprojām būs mūsu galvenā prioritāte.”
Tā sacīja, ka līgums tika piešķirts atbilstoši standarta iepirkuma procedūrām un izpildīja tās “stingrās drošības un atbilstības prasības”.
Ātrs ceļvedis
Sazinieties ar mums par šo stāstu
Izrādīt
Labākā sabiedrisko interešu žurnālistika ir atkarīga no tiešajiem pārskatiem no cilvēkiem, kuri ir zināmi.
Ja jums ir ko dalīties šajā tēmā, varat konfidenciāli sazināties ar mums, izmantojot šādas metodes.
Droša ziņojumapmaiņa lietotnē Guardian
Lietotnei Guardian ir rīks, lai nosūtītu padomus par stāstiem. Ziņojumi ir beigušies līdz galam šifrēti un slēpti ikdienas darbībā, ko veic katra Guardian mobilā lietotne. Tas novērš novērotāju zināt, ka jūs vispār sazināties ar mums, nemaz nerunājot par to, kas tiek teikts.
Ja jums vēl nav The Guardian lietotnes, lejupielādējiet to (iOS/Android) un dodieties uz izvēlni. Atlasiet “Droša ziņojumapmaiņa”.
Securedrop, tūlītējie vēstneši, e -pasts, telefons un ziņojums
Ja jūs varat droši izmantot TOR tīklu bez ievērošanas vai uzraudzības, varat nosūtīt ziņojumus un dokumentus Guardian, izmantojot mūsu Securedrop platformu.
Visbeidzot, mūsu ceļvedī vietnē theGuardian.com/tips ir uzskaitīti vairāki veidi, kā droši sazināties ar mums un apspriež katra plusus un mīnusus.
