Lidošana ir droša, pateicoties datiem un sadarbībai — ko AI nozare varētu mācīties no aviosabiedrībām par drošību

Šis raksts ir pārpublicēts no Saruna saskaņā ar Inventive Commons licenci. Izlasiet oriģināls raksts.

Apmēram 185 000 cilvēku gāja bojā civilās aviācijas negadījumos kopš dzinēja lidojumu parādīšanās pirms vairāk nekā gadsimta. Tomēr pēdējo piecu gadu laikā starp ASV aviosabiedrībām, nāves risks bija gandrīz nulle. Patiesībā jums ir daudz lielākas izredzes laimēt vairumu loteriju nekā nomirt kā ASV gaisa pārvadātāja pasažierim.

Kā lidošana kļuva tik droša? Un vai mēs varam pielietot grūti iegūtās drošības mācības no aviācijas uz mākslīgo intelektu?

Kad cilvēce ievieš jaunu paradigmas maiņas tehnoloģiju un šī tehnoloģija tiek strauji pieņemta visā pasaulē, nākotnes sekas nav zināmas un bieži vien ir kolektīvas bailes. The dzinēja lidojuma ieviešana 1903. gadā brāļi Raiti nebija izņēmums. Pret šo jauno tehnoloģiju bija daudz iebildumu, tostarp reliģisko, politisko un tehniskais bažas.

Neilgi pēc tam, kad tika ieviests lidojums ar dzinēju, notika pirmā lidmašīnas avārija – un ar neilgu laiku es domāju to pašu dienu. Tas notika tālāk brāļu Raitu ceturtais lidojums. Pirmais cilvēks, kas gājis bojā gaisa kuģa avārijā tika nogalināts piecus gadus vēlāk 1908. gadā. Kopš tā laika visā pasaulē ir notikuši vairāk nekā 89 000 lidmašīnu negadījumu.

Esmu pētnieks, kurš pēta gaisa satiksmes drošībuun es redzu, kā mūsdienu mākslīgā intelekta nozare līdzinās agrīnajiem un noteikti mazāk drošiem aviācijas nozares gadiem.

No negadījumu izpētes līdz to prognozēšanai

Lai gan tas bija traģisks, katrs negadījums un katrs nāves gadījums bija brīdis pārdomām un mācībām. Negadījumu izmeklētāji mēģināja no jauna izveidot katru negadījumu un identificēt negadījuma priekštečus un pamatcēloņus. Kad izmeklētāji noskaidroja, kas izraisīja katru avāriju, gaisa kuģu ražotāji un operatori ieviesa drošības pasākumus, cerot novērst papildu negadījumus.

Piemēram, ja pilots iepriekšējā lidojuma laikmetā aizmirsa nolaist šasiju pirms nosēšanās, iespējamais rezultāts bija nosēšanās negadījums. Tāpēc nozare izdomāja uzstādīt brīdinājuma sistēmas, kas brīdinātu pilotus par šasijas nedrošo stāvokli — šī mācība tika gūta tikai pēc negadījumiem. Šis reaktīvais course of, lai arī nepieciešams, ir liela cena, kas jāmaksā, lai uzzinātu, kā uzlabot drošību.

20. gadsimta gaitā aviācijas pasaule organizēja un standartizēja savas darbības, procedūras un procesus. 1938. gadā prezidents Franklins Rūzvelts parakstīja Civilās aeronautikas likumu, kas gadā izveidoja Civilās aeronautikas pārvaldi. Šis Federālās aviācijas administrācijas priekštecis ietvēra Aviācijas drošības padomi.

Pilnībā reaktīvā drošības paradigma laika gaitā mainījās uz proaktīvu un galu galā prognozējošu. 1997. gadā nozares, darbaspēka un valdības aviācijas organizāciju grupa izveidoja grupu ar nosaukumu The Komerciālās aviācijas drošības komanda. Viņi sāka aplūkot datus un mēģināja atrast tendences un analizēt lietotāju ziņojumus, lai identificētu riskus un apdraudējumus, pirms tie kļuva par pilnīgiem negadījumiem.

Grupa, kurā ietilpst FAA un NASA, jau agri nolēma, ka drošības jomā starp aviosabiedrībām nebūs konkurences. Nozare atklāti dalītos ar drošības datiem. Kad jūs pēdējo reizi redzējāt aviokompānijas reklāmas kampaņu, kurā tika apgalvots, ka “mūsu aviosabiedrība ir drošāka par viņu”?

Tas ir atkarīgs no datiem

Komerciālās aviācijas drošības komanda palīdzēja nozarei pāriet no reaģējošas uz prognozējošu, pieņemot uz datiem balstītu, sistēmisku pieeju drošības problēmu risināšanai. Tā ģenerēja šos datus, izmantojot ziņojumus no cilvēkiem un datus no gaisa kuģiem.

Katru dienu visā pasaulē notiek miljoniem lidojumu, un katrā no šiem lidojumiem tiek reģistrēti tūkstošiem datu punktu. Aviācijas drošības speciālisti tagad izmanto Lidojuma datu ierakstītāji – ilgi izmantoja, lai izmeklētu nelaimes gadījumus pēc fakta – lai analizētu datus no katra lidojuma. Rūpīgi izpētot visus šos datus, drošības analītiķi var pamanīt jaunus un traucējošus notikumus un tendences. Piemēram, analizējot datus, apmācīts drošības zinātnieks var pamanīt, vai noteiktas gaisa kuģu pieejas skrejceļiem kļūst riskantākas tādu faktoru dēļ kā pārmērīgs gaisa ātrums un slikta virzība, pirms notiek nosēšanās negadījums.

Lai vēl vairāk palielinātu proaktīvās un prognozēšanas spējas, ikviens, kas darbojas aviācijas sistēmā, var iesniegt pieteikumu anonīmus un nesodošus drošības ziņojumus. Ja netiek garantēta anonimitāte, cilvēki varētu vilcināties ziņot par problēmām, un aviācijas nozare palaistu garām svarīgu informāciju, kas saistīta ar drošību.

Visi šie dati ir glabā, apkopo un analizē drošības zinātnieki, kuri aplūko kopējo sistēmu un mēģina atrast negadījumu priekštečus, pirms tie izraisa negadījumus. Šobrīd pastāv dangers nomirt kā pasažierim ASV aviokompānijā mazāk nekā 1 no 98 miljoniem. Jums ir lielāka iespēja nomirt braucot uz lidostu nekā gaisa kuģa avārijā. Tagad, vairāk nekā 100 gadus kopš dzinēju lidojumu parādīšanās, aviācijas nozare pēc smagas mācības ir kļuvusi ārkārtīgi droša.

AI modelis

AI strauji iekļūst daudzās dzīves jomās, sākot no pašbraucošām automašīnām līdz krimināltiesību darbībām un lēmumiem par pieņemšanu darbā un aizdevumiem. Tomēr tehnoloģija nebūt nav droša, un kļūdas, kas attiecināmas uz AI, ir mainījušas dzīvi un dažos gadījumos pat. dzīvība un nāve – sekas.

Gandrīz visi AI uzņēmumi cenšas dažus ieviest drošības pasākumi. Taču šķiet, ka viņi šos centienus pieliek individuāli, tāpat kā to darīja pirmie spēlētāji aviācijas jomā. Un šie centieni lielākoties ir reaktīvi, gaidot, kad AI pieļaus kļūdu, un tad rīkojas.

Kā būtu, ja būtu tāda grupa kā Komerciālās aviācijas drošības komanda, kurā visi AI uzņēmumi, regulatori, akadēmiskās aprindas un citas ieinteresētās puses sasauktos, lai sāktu proaktīvus un paredzamus procesus, lai nodrošinātu, ka AI nenoved pie katastrofām?

No ziņošanas viedokļa iedomājieties, ja katrā AI saskarnē būtu ziņošanas poga, uz kuras lietotājs varētu noklikšķināt, lai ne tikai ziņotu par potenciāli halucinētiem un nedrošiem rezultātiem katram uzņēmumam, guess arī ziņotu par tiem AI organizācijai, kas izveidota pēc Komerciālās aviācijas drošības komandas parauga. Turklāt AI sistēmu ģenerētos datus, līdzīgi kā mēs redzam aviācijā, varētu arī savākt, apkopot un analizēt, lai noteiktu drošības apdraudējumus.

Lai gan šī pieeja var nebūt galīgais risinājums AI radītā kaitējuma novēršanai, ja Massive Tech izmantos citu pieredzi. lielas sekas tāpat kā aviācija, tā vienkārši var iemācīties regulēt, kontrolēt un, jā, padarīt AI drošāku lietošanai visiem.

Džeimss Higinssaviācijas profesors, Ziemeļdakotas Universitāte