Bruņota policija uzlika roku dzelžos kādam ASV pusaudzim pēc tam, kad mākslīgā intelekta (AI) sistēma kļūdaini paziņoja, ka viņam ir ierocis, lai gan patiesībā viņš turēja rokās čipsu paciņu.
“Atnāca policija, piemēram, astoņas policistu automašīnas, un tad viņi visi iznāca ar ieročiem, kas vērsti uz mani, runājot par nokāpšanu uz zemes,” 16 gadus vecais Baltimoras skolnieks Taki Allens. pastāstīja vietējam izdevumam WMAR-2 News.
Baltimoras apgabala policijas departaments sacīja, ka viņu darbinieki “reaģēja atbilstoši un proporcionāli, pamatojoties uz tajā laikā sniegto informāciju”.
Tajā teikts, ka AI brīdinājums tika nosūtīts pārbaudītājiem, kuri neatrada draudus, taču direktors to palaida garām un sazinājās ar skolas drošības komandu, kas galu galā izsauca policiju.
Taču šis incidents ir mudinājis dažus aicināt pārskatīt skolu procedūras attiecībā uz šādu tehnoloģiju izmantošanu.
Allens pastāstīja vietējām ziņām, ka pēc futbola treniņa pabeidzis Doritos maisu un iebāza tukšo paciņu kabatā.
Viņš teica, ka pēc 20 minūtēm ieradās bruņota policija.
“Viņš man lika mesties ceļos, arestēja un ielika aproces,” viņš teica.
Baltimoras apgabala policijas departaments pavēstīja BBC Information, ka Allens bija saslēgts rokudzelžos, guess nav arestēts.
“Incidents tika droši atrisināts pēc tam, kad tika konstatēts, ka draudu nav,” teikts viņu paziņojumā.
Allens sacīja, ka tagad gaida iekšā pēc futbola treniņiem, jo viņš neuzskata, ka ir “pietiekami droši iet ārā, īpaši apēst čipsu maisu vai kaut ko iedzert”.
Skolas direktore Keita Smita vēstulē vecākiem sacīja, ka skolas drošības komanda “ātri pārskatīja un atcēla sākotnējo brīdinājumu pēc tam, kad bija apstiprinājusi, ka ieroča nav”.
“Es sazinājos ar mūsu skolas resursu speciālistu (SRO) un ziņoju viņam par šo lietu, un viņš sazinājās ar vietējo iecirkni, lai saņemtu papildu atbalstu,” viņa sacīja.
“Policijas darbinieki reaģēja uz skolu, pārmeklēja personu un ātri apstiprināja, ka viņu rīcībā nav ieroču.”
Tomēr vietējie politiķi aicinājuši turpināt notikušā izmeklēšanu.
“Es aicinu Baltimoras apgabala valsts skolas pārskatīt procedūras saistībā ar tās ar mākslīgo intelektu darbināmo ieroču noteikšanas sistēmu,” Baltimoras apgabala vietējās padomes locekle Izija Pakota. rakstīja Facebook.
Omnilerts, mākslīgā intelekta rīka nodrošinātājs, BBC Information sacīja: “Mēs nožēlojam šo incidentu un vēlamies izteikt savas bažas studentam un plašākai sabiedrībai, ko skāruši turpmākie notikumi.”
Tā teica, ka tā sistēma sākotnēji atklāja šaujamieroci, un tā attēlu pēc tam pārbaudīja pārbaudes komanda.
Pēc Omnilerta teiktā, tas tika nodots Baltimoras apgabala valsts skolu (BCPS) drošības komandai kopā ar papildu informāciju “dažu sekunžu laikā”, lai viņi varētu novērtēt.
Apsardzes firma paziņoja, ka tās iesaistīšanās incidentā beidzās, tiklīdz tas tika atzīmēts kā atrisināts tās sistēmā, piebilstot, ka tas kopumā “darbojās, kā paredzēts”.
“Lai gan vēlāk tika noteikts, ka objekts nav šaujamierocis, course of darbojās, kā paredzēts: prioritātes noteikšana drošībai un izpratnei, veicot ātru cilvēka pārbaudi,” teikts tajā.
Omnilerts saka, ka tas ir “vadošais mākslīgā intelekta ieroču atklāšanas nodrošinātājs”, savā gadījumu izpētē minot vairākas ASV skolas. savā tīmekļa vietnē.
“Ieroču noteikšana reālajā pasaulē ir netīra,” teikts tajā.
Taču Allens sacīja: “Es nedomāju, ka nevienu skaidu maisu nevajadzētu sajaukt ar ieroci.”
AI atbilstība ieroču precīzai identificēšanai ir pārbaudīta.
Pagājušajā gadā ASV ieroču skenēšanas uzņēmums Evolv Expertise tika aizliegts izteikt nepamatotus apgalvojumus par saviem produktiem Pēc tam, kad tā AI skeneris, ko izmanto tūkstošiem ASV skolu, slimnīcu un stadionu ieejās, spēj noteikt visus ieročus.
BBC Information izmeklēšana parādīja, ka šie apgalvojumi ir nepatiesi.
