Vai vēlaties gudrāku ieskatu iesūtnē? Reģistrējieties mūsu iknedēļas biļeteniem, lai iegūtu tikai to, kas ir svarīgi uzņēmuma AI, datu un drošības vadītājiem. Abonēt tūlīt
Jauns startup, ko dibinājis a bijušais antropiskais izpilddirektors ir piesaistījis 15 miljonus dolāru, lai atrisinātu vienu no aktuālākajiem izaicinājumiem, ar kuriem šodien saskaras uzņēmumi: kā izvietot mākslīgā intelekta sistēmas, neriskējot no katastrofālām neveiksmēm, kas varētu sabojāt viņu biznesu.
Līdz Mākslīgā intelekta parakstīšanas uzņēmums (AIUC)kas šodien tiek atklāta publiski, apvieno apdrošināšanas segumu ar stingriem drošības standartiem un neatkarīgiem auditiem, lai uzņēmumiem sniegtu pārliecību par AI aģentu izvietošanu – autonomām programmatūras sistēmām, kas var veikt sarežģītus uzdevumus, piemēram, klientu apkalpošanu, kodēšanu un datu analīzi.
Sēklu finansēšanas kārtu vadīja Nat Frīdmensbijušais Github izpilddirektors, izmantojot savu firmu NFDGar dalību no Parādīšanās kapitālsVerdzība Reljefsun vairāki ievērojami eņģeļu investori, ieskaitot Bens MannsAntropic līdzdibinātājs un bijušie galvenie informācijas drošības darbinieki Google Cloud un MongoDB.
“Uzņēmumi staigā pa virvi,” sacīja Rūna kvistsAIUC līdzdibinātājs un izpilddirektors intervijā. “No vienas puses, jūs varat palikt malā un skatīties, kā jūsu konkurenti padara jūs nebūtisku, vai arī jūs varat paļauties un riskēt veidot virsrakstus par to, ka jūsu tērzēšanas robots izspiež nacistu propagandu vai halucinējot atmaksas politiku, vai diskriminējot cilvēkus, kurus mēģināt pieņemt darbā.”
AI trieciena sērija atgriežas Sanfrancisko – 5. augusts
Nākamais AI posms ir šeit – vai esat gatavs? Pievienojieties līderiem no Block, GSK un SAP, lai apskatītu, kā autonomi aģenti pārveido uzņēmumu darbplūsmas-no reālā laika lēmumu pieņemšanas līdz automatizācijai galīgai līdz galam.
Nostipriniet savu vietu tūlīt – telpa ir ierobežota:
Uzņēmuma pieeja novērš fundamentālu uzticības trūkumu, kas ir parādījusies kā AI iespējas, kas strauji attīstās. Kaut arī AI sistēmas tagad var veikt uzdevumus, kas konkurē ar cilvēku bakalaura līmeņa spriešanu, daudzi uzņēmumi turpina vilcināties tos izvietot, jo bažas par neparedzamām neveiksmēm, atbildības jautājumiem un reputācijas riskiem.
Drošības standartu radīšana, kas pārvietojas ar AI ātrumu
AIUC risinājums koncentrējas uz to, ko KVIST dēvē par “Soc 2 AI aģentiem” – visaptverošu drošības un riska sistēmu, kas īpaši paredzēta mākslīgā intelekta sistēmām. SOC 2 ir plaši izplatīts kiberdrošības standarts, kas uzņēmumiem parasti prasa no pārdevējiem pirms sensitīvu datu apmaiņas.
“SOC 2 ir kiberdrošības standarts, kas norāda visu labāko praksi, kas jums jāpieņem pietiekami detalizēti, lai trešā puse varētu nākt un pārbaudīt, vai uzņēmums atbilst šīm prasībām,” skaidroja Kvist. “Bet tas neko nesaka par AI. Ir daudz jaunu jautājumu, piemēram: kā jūs rīkojaties ar maniem apmācības datiem? Kā ir ar halucinācijām? Kā ir ar šiem rīka zvaniem?”
Līdz AIUC-1 standarts Risina sešas galvenās kategorijas: drošība, drošība, uzticamība, atbildība, datu privātums un sabiedrības riski. Sistēma prasa, lai AI uzņēmumi ieviestu īpašus aizsardzības pasākumus, sākot no uzraudzības sistēmām un beidzot ar negadījumu reakcijas plāniem, kurus var patstāvīgi pārbaudīt, stingri pārbaudot.
“Mēs ņemam šos aģentus un plaši pārbaudām tos, izmantojot klientu atbalstu kā piemēru, jo ar to ir viegli saistīties. Mēs cenšamies panākt, lai sistēma pateiktu kaut ko rasistisku, lai dotu man atmaksu, kuru es neesmu pelnījis, lai dotu man lielāku atmaksu, nekā es esmu pelnījis, lai pateiktu kaut ko sašutušu, vai noplūdināt cita klienta datus. Mēs darām šo tūkstošiem reizes, lai iegūtu reālu priekšstatu par Asi aģentu faktiski.
No Bendžamina Franklina ugunsdzēsības apdrošināšanas līdz AI riska pārvaldībai
Uz apdrošināšanu vērsta pieeja balstās uz gadsimtiem ilgu precedentu, kad privātie tirgi pārvietojās ātrāk nekā regulēšana, lai varētu droši izmantot pārveidojošas tehnoloģijas. KVIST bieži atsaucas uz Benjamina Franklina izveidošanu Amerikas pirmajā ugunsdzēsības apdrošināšanas sabiedrībā 1752. gadā, kā rezultātā būvkodi un ugunsdzēsības inspekcijas, kas pieradināja Blazes postošo Filadelfijas straujo izaugsmi.
“Visā vēsturē apdrošināšana tam ir bijusi pareizais modelis, un iemesls ir tas, ka apdrošinātājiem ir stimuls pateikt patiesību,” skaidroja Kvists. “Ja viņi saka, ka riski ir lielāki nekā tie, kāds pārdos lētāku apdrošināšanu. Ja viņi saka, ka riski ir mazāki nekā viņi ir, viņiem būs jāmaksā rēķins un jāiet no biznesa.”
Tas pats modelis parādījās ar automašīnām 20. gadsimtā, kad apdrošinātāji izveidoja Autoceļu drošības apdrošināšanas institūts un izstrādāja avārijas pārbaudes standartus, kas stimulēja tādas drošības funkcijas kā gaisa spilveni un drošības jostas – gadus pirms valdības noteikumiem tos pilnvaroja.
Galvenie AI uzņēmumi jau izmanto jauno apdrošināšanas modeli
AIUC jau ir sācis strādāt ar vairākiem augsta līmeņa AI uzņēmumiem, lai apstiprinātu tās pieeju. Uzņēmums ir sertificējis AI aģentus vienradžu jaunizveidotiem uzņēmumiem Ada (klientu atbalsts) un Izziņa (kodēšana) un palīdzēja atbloķēt uzņēmuma darījumus, kas bija apstājušies uzticības bažu dēļ.
“ADA, mēs viņiem palīdzam atbloķēt vienošanos ar piecu labāko sociālo mediju uzņēmumu, kurā mēs ienācām un veica neatkarīgus testus par riskiem, par kuriem šis uzņēmums rūpējās, un tas palīdzēja atbloķēt šo darījumu, būtībā dodot viņiem pārliecību, ka to faktiski varētu parādīt viņu klientiem,” sacīja Kvist.
Startup arī attīsta partnerattiecības ar noteiktiem apdrošināšanas pakalpojumu sniedzējiem, ieskaitot Londonas Lloyd’spasaules vecākais apdrošināšanas tirgus, lai nodrošinātu finansiālu atbalstu polisēm. Tas attiecas uz galvenajām bažām par starta uzticību ar lielu atbildību.
“Apdrošināšanas polises tiks atbalstītas lielo apdrošinātāju bilances,” skaidroja Kvists. “Piemēram, kad mēs strādājam ar Londonas Londonas, pasaules vecāko apdrošinātāju, viņi nekad nav samaksājuši prasību, un galu galā apdrošināšanas polise nāk no viņiem.”
Ceturkšņa atjauninājumi salīdzinājumā ar gadiem ilgajiem normatīvajiem cikliem
Viens no AIUC galvenajiem jauninājumiem ir standartu izstrāde, kas var iet kopsolī ar AI pārtraukuma attīstības ātrumu. Kaut arī tradicionālie normatīvie ietvari, piemēram, ES AI akts nepieciešami gadi, lai izstrādātu un ieviestu, AIUC plāno atjaunināt savus standartus ceturksnī.
“ES AI akts tika sākts jau 2021. gadā, viņi tagad gatavojas to atbrīvot, bet viņi to atkal aptur, jo četrus gadus vēlāk tas ir pārāk apgrūtinoši,” atzīmēja Kvists. “Šis cikls ļoti apgrūtina mantojuma normatīvo procesu, lai neatpaliktu no šīs tehnoloģijas.”
Šī veiklība ir kļuvusi arvien nozīmīgāka, jo sašaurinās konkurences plaisa starp mums un ķīniešu AI iespējām. “Pirms pusotra gada visi teiktu, ka, piemēram, tagad mēs esam divus gadus uz priekšu, tas izklausās pēc astoņiem mēnešiem, kaut kas līdzīgs,” novēroja Kvists.
Kā faktiski darbojas AI apdrošināšana: testēšanas sistēmas uz lūzuma punktu
AIUC apdrošināšanas polises aptver dažāda veida AI kļūmes, sākot no datu pārkāpumiem un diskriminējošas nomas prakses līdz intelektuālā īpašuma pārkāpumiem un nepareiziem automatizētiem lēmumiem. Uzņēmuma cenas pārklājums, pamatojoties uz plašu pārbaudi, kas mēģina izjaukt AI sistēmas tūkstošiem reižu dažādos neveiksmju režīmos.
“Dažām citām lietām mēs domājam, ka tas jums ir interesants. Vai arī negaidiet tiesas procesu. Tātad, piemēram, ja jūs izsniedzat nepareizu atmaksu, lieliski, labi, ka tā ir acīmredzama, ir naudas summa, kuru jūs nepareizi atmaksājāt,” skaidroja Kvist.
Startup darbojas ar partneru konsorciju, ieskaitot Pwc (Viena no “lielajiem četriem” grāmatvedības firmām), Orriks (vadošais AI advokātu birojs) un akadēmiķi no Stenforda un MIT attīstīt un apstiprināt savus standartus.
Bijušais antropiskais izpilddirektors aiziet atrisināt AI uzticības problēmu
Dibinātāju komanda sniedz dziļu pieredzi gan no AI attīstības, gan institucionālā riska pārvaldības. Kvist bija pirmais produkts un tirgus nomas maksa Anthropic 2022. gada sākumā pirms Chatgpt palaišanas un sēž uz tāfeles AI drošības centrsApvidū Līdzdibinātājs Brendons Vangs ir thiel kolēģis, kurš iepriekš uzcēla patērētāju parakstīšanas uzņēmumus, bet Rajiv Dattani ir bijušais Makkinsija partneris, kurš vadīja globālo apdrošināšanas darbu un kalpoja par bezpeļņas organizācijas Metrofit COO, kas novērtē vadošos AI modeļus.
“Jautājums, kas mani patiešām interesēja, ir: kā mēs kā sabiedrība nodarbosimies ar šo tehnoloģiju, kas mums mazgājas?” Kvists sacīja par savu lēmumu pamest Antropiku. “Es domāju, ka AI veidošana, ko dara Anthropic, ir ļoti aizraujoša un darīs daudz labu pasaulei. Bet vissvarīgākais jautājums, kas mani no rīta izvirza: kā kā sabiedrība mēs ar to rīkosimies?”
Sacensības, lai padarītu AI drošu, pirms regulēšana tiek panākta
AIUC palaišana norāda uz plašāku pārmaiņu, kā AI nozare tuvojas riska pārvaldībai, jo tehnoloģija pāriet no eksperimentālas izvietošanas līdz misijai kritiskai biznesa lietojumprogrammai. Apdrošināšanas modelis uzņēmumiem piedāvā ceļu starp neapdomīgas AI adopcijas galējībām un paralizētu bezdarbību, gaidot visaptverošu valdības uzraudzību.
Startup pieeja varētu izrādīties būtiska, jo AI aģenti kļūst spējīgāki un plaši izplatīti visās nozarēs. Izveidojot finansiālus stimulus atbildīgai attīstībai, vienlaikus nodrošinot ātrāku izvietošanu, tādi uzņēmumi kā AIUC veido infrastruktūru, kas varētu noteikt, vai mākslīgais intelekts droši vai haotiski pārveido ekonomiku.
“Mēs ceram, ka šis apdrošināšanas modelis, šis uz tirgu balstītais modelis, abi stimulē ātru adopciju un ieguldījumus drošībā,” sacīja Kvist. “Mēs to esam redzējuši visā vēsturē – ka tirgus var virzīties ātrāk nekā likumdošana par šiem jautājumiem.”
Likmes nevarēja būt augstākas. Tā kā AI sistēmas ir tuvāk cilvēka līmeņa argumentācijai vairākās jomās, logs, lai izveidotu stabilu drošības infrastruktūru, var ātri slēgt. AIUC likme ir tāda, ka līdz brīdim, kad regulatori pieķeras AI pārtraukuma tempam, tirgus jau būs izveidojis apsarges.
Galu galā Filadelfijas ugunsgrēki negaidīja valdības būvnormatīvus – un arī šodienas AI Arms sacīkstes negaidīs Vašingtonu.
