Lūk, kas palēnina jūsu AI stratēģiju – un kā to labot

Jūsu labākā datu zinātnes komanda tikai sešus mēnešus pavadīja, veidojot modeli, kas prognozē klientu čaušanu ar 90% precizitāti. Tas sēž uz servera, neizmantots. Kāpēc? Tā kā tas ir bijis iestrēdzis riska pārskatīšanas rindā ļoti ilgu laiku, gaidot komiteju, kas nesaprot stohastiskos modeļus, lai parakstītos. Tas nav hipotētisks – tā ir ikdienas realitāte lielākajā daļā lielo uzņēmumu. AI modeļi pārvietojas ar interneta ātrumu. Uzņēmumi to nedara. Ik pēc dažām nedēļām jauna modeļa ģimene, atvērtā koda rīku ķēdes mutācijas un visa MLOPS prakse tiek pārrakstīta. Wager lielākajā daļā uzņēmumu visam, kas aizkustina ražošanu AI, ir jāiziet riska pārskati, revīzijas takas, pārmaiņu pārvaldības dēļi un modeļa riska parakstīšana. Rezultāts ir palielināta ātruma plaisa: pētniecības kopiena paātrinās; uzņēmuma stendi. Šī plaisa nav virsraksta problēma, piemēram, “AI ņems jūsu darbu”. Tas ir klusāks un dārgāks: nokavēta produktivitāte, Shadow AI izplešanās, dublētie tēriņi un atbilstības vilkšana, kas daudzsološus pilotus pārvērš par pastāvīgiem koncepcijas pierādījumiem.

Skaitļi saka, ka klusā daļa skaļi iziet

Divas tendences saduras. Pirmkārt, inovācijas temps: rūpniecība tagad ir dominējošais spēks, kas rada lielāko daļu ievērojamo AI modeļu Stenfordas 2024. gada AI indeksa ziņojumsApvidū Galvenie ieguldījumi šādai inovācijai papildina vēsturisku ātrumu, un apmācības aprēķināšanai ir nepieciešams strauji dubultot ik pēc dažiem gadiem. Tas viss garantē ātru modeļa un instrumentu sadrumstalotību. Otrkārt, uzņēmuma pieņemšana paātrinās. Pēc IBM teiktā, 42% no uzņēmuma uzņēmumiem Aktīvi izvietojuši AI, daudz ko aktīvi to izpētot. Tomēr šīs pašas aptaujas liecina, ka pārvaldības lomas tikai tagad tiek formalizētas, daudziem uzņēmumiem pēc izvietošanas atstājot daudziem uzņēmumiem kontrolēt kontroli. Slānis par jaunu regulējumu. ES AI likuma iestudētās saistības ir ieslodzītas-nepieņemami riska aizliegumi jau ir aktīvi un vispārējas nozīmes AI (GPAI) caurspīdīguma pienākumi, kas tiek sasniegti 2025. gada vidū, sekojot augsta riska noteikumiem. Brisele ir skaidri norādījusi, ka nav pauzes. Ja jūsu pārvaldība nav gatava, jūsu ceļvedis būs.

Īstais bloķētājs nav modelē, tas ir audits

Lielākajā daļā uzņēmumu lēnākais solis nav modeļa precizēšana; Tas pierāda, ka jūsu modelis ievēro noteiktas vadlīnijas. Dominē trīs berzes:

1. Revīzijas parāds: tika uzrakstīta politika statiskai programmatūrai, nevis stohastiskiem modeļiem. Jūs varat nosūtīt mikropakalpojumu ar vienības testiem; Jūs nevarat “vienības testa” taisnīguma novirzīšanos bez datu piekļuves, cilts un pastāvīgas uzraudzības. Kad vadības ierīces nav kartētas, atsauksmes par balonu.

2. Apvidū MRM pārslodze: Riska pārvaldības modeļa pārvaldība (MRM), kas ir pilnveidota bankā, izplatās ārpus finansēm – bieži tulkota burtiski, nevis funkcionāli. Izskaidrojamības un datu pārvaldības pārbaudēm ir jēga; Piespiežot katru izguvi, kas veidota, izmantojot kredītriska stila dokumentāciju, to nedara.

3. Ēnu AI izplešanās: komandas pieņem vertikālu AI SaaS rīku iekšpusē bez centrālās uzraudzības. Tas jūtas ātri – līdz trešajai revīzijai jautā, kam pieder uzvednes, kur dzīvo iegulšana un kā atsaukt datus. Izplešana ir ātruma ilūzija; Integrācija un pārvaldība ir ilgtermiņa ātrums.

Pastāv ietvari, guess tie pēc noklusējuma nedarbojas

NIST AI riska pārvaldības sistēma ir stabila ziemeļu zvaigzne: pārvaldīt, kartēt, mērīt, pārvaldīt. Tas ir brīvprātīgs, pielāgojams un saskaņots ar starptautiskajiem standartiem. Wager tas ir plāns, nevis ēka. Uzņēmumiem joprojām ir nepieciešami konkrēti kontroles katalogi, pierādījumu veidnes un instrumenti, kas principus pārvērš atkārtojamos pārskatos. Tāpat ES AI likums nosaka termiņus un pienākumus. Tas neinstalē jūsu modeļa reģistru, vadiet datu kopas līniju vai atrisina veco jautājumu par to, kurš parakstās, kad precizitāte un aizspriedumi tiek tirgoti. Tas drīz ir uz jums.

Ko uzvarošie uzņēmumi dara savādāk

Līderi, kurus es redzu ātruma plaisas aizvēršanai, nav dzenas pakaļ katram modelim; Viņi veic ceļu uz ražošanas rutīnu. Piecas kustības parādās atkal un atkal:

1. Nosūtiet vadības plakni, nevis piezīmi: Kodificēt pārvaldību kā kodu. Izveidojiet nelielu bibliotēku vai pakalpojumu, kas īsteno nereģistrantus: Nepieciešama datu kopas līnija, pievienots vērtēšanas komplekts, izvēlēts riska līmenis, PII skenēšana, kas ir pagājusi, definēts cilpas cilts (ja nepieciešams). Ja projekts nevar apmierināt čekus, tas nevar izvietot.

2. Iepriekšējie paraugi: apstiprināt atsauces arhitektūru-“GPAI ar izguves papildināto paaudzi (RAG) apstiprinātā vektora veikalā”, “Augsta riska tabulas modelis ar Function Retailer X un Bias audit Y”, “pārdevējs LLM, izmantojot API, bez datu saglabāšanas”. Iepriekšēja apstiprināšana maina pārskatu no individuālām debatēm uz modeļa atbilstību. (Jūsu auditori jums pateiks.)

3. Iekļaujiet savu pārvaldību pēc riska, nevis ar komandu: TIEKA PĀRSKATĪŠANAS DAĻA LIETOŠANAS KASE DIBLITĀCIJA (Drošība, finanses, regulēti rezultāti). Mārketinga kopijas palīgam nevajadzētu izturēt to pašu gauntlet kā aizdevuma tiesnesis. Riska proporcionāla pārskatīšana ir gan aizsargājama, gan ātra.

4. Izveidojiet “pierādījumus vienreiz, atkārtoti izmantotu visur” mugurkauls: centralizēt modeļa kartes, novērtēt rezultātus, datu lapas, ātras veidnes un pārdevēju apliecinājumu. Katrai nākamajai revīzijai jāsāk ar 60%, kas veikti, jo jūs jau esat pierādījis parastos gabalus.

5. Padariet auditu par produktu: piešķiriet likumīgu, risku un atbilstību reālu ceļvedi. Instrumentu informācijas paneļi, kas parāda: modeļi ražošanā pēc riska līmeņa, gaidāmajiem atkārtotajiem līdzekļiem, incidentiem un datu atņemšanas apliecinājumiem. Ja revīzija var sevi apkalpot, inženierzinātnes var nosūtīt.

Pragmatiska kadence nākamajiem 12 mēnešiem

Ja jūs nopietni domājat panākt, izvēlieties 12 mēnešu pārvaldības sprintu:

• 1. ceturksnis: piecelties minimālu AI reģistru (modeļi, datu kopas, uzvednes, novērtējumi). Riska līmeņa un kontroles kartēšana, kas saskaņota ar NIST AI RMF funkcijām; Publicējiet divus iepriekš apstiprinātus modeļus.

• 2. ceturksnis: Pārvērtiet vadības ierīces cauruļvados (CI pārbaude, lai skatītu evals, datu skenēšanu, modeļa kartes). Pārvērtiet divas ātri mainīgas komandas no Shadow AI uz platformu AI, padarot bruģēto ceļu vieglāku nekā Aspect Highway.

• 3. ceturksnis: Pilots GXP stila pārskats (stingrs dokumentācijas standarts no dzīvības zinātnēm) vienam augsta riska lietošanas gadījumam; automatizēt pierādījumu uztveršanu. Sāciet savu ES AI ACT spraugas analīzi, ja pieskaraties Eiropai; Piešķiriet īpašniekus un termiņus.

• 4. ceturksnis: paplašiniet savu modeļa katalogu (lupatu, partijas secinājumi, straumēšanas prognozēšana). Izpildiet informācijas paneļus riska/atbilstības dēļ. Cepiet pārvaldību SLA jūsu OKRS. Līdz šim brīdim jūs neesat palēninājis jauninājumus – jūs to standartizējāt. Pētniecības kopiena var turpināt kustēties ar vieglu ātrumu; Jūs varat turpināt piegādāt uzņēmuma ātrumu – bez revīzijas rindas nekļūstot par jūsu kritisko ceļu.

Konkurences mala nav nākamais modelis – tā ir nākamā jūdze

Ir vilinoši dzīties pakaļ katras nedēļas līderu sarakstā. Wager ilgstoša priekšrocība ir jūdze starp papīru un ražošanu: platformu, modeļiem, pierādījumiem. Tas ir tas, ko jūsu konkurenti nevar nokopēt no Github, un tas ir vienīgais veids, kā saglabāt ātrumu, netirgojot haosa atbilstību. Citiem vārdiem sakot: padariet pārvaldību par smērvielu, nevis smiltīm.

Jayachander Reddy Kandakatla ir Ford Motor Credit score Firm vecākā mašīnu mācību operāciju (MLOPS) inženieris.

avots