Kāpēc Kalifornijas SB 53 varētu sniegt jēgpilnu lielo AI uzņēmumu pārbaudi

Kalifornijas štata Senāts nesen sniedza galīgo apstiprinājumu jaunam AI drošības likumprojektam SB 53, nosūtot to gubernatoram Gavin Newsom parakstīt vai veto.

Ja tas viss izklausās pazīstams, tas ir tāpēc, ka Newsom veto tika uzlikts vēl vienu AI drošības likumprojektu, ko pagājušajā gadā ir uzrakstījis arī valsts senators Skots Vīners. Bet SB 53 ir šaurāks nekā Wiener iepriekšējais SB 1047, koncentrējoties uz lielajiem AI uzņēmumiem, kas gūst vairāk nekā 500 miljonus USD gada ieņēmumus.

Man bija iespēja apspriest SB 53 ar saviem kolēģiem Maksu Zeff un Kirsten Korosec jaunākajā TechCrunch flagmana Podcast Equity epizodē. Makss uzskata, ka Wiener jaunajam likumprojektam ir labāks šāviens, lai kļūtu par likumu, daļēji tāpēc, ka šī lielā kompānija ir fokusēta, kā arī tāpēc, ka to ir atbalstījusi AI Company Anthropic.

Izlasiet mūsu sarunas priekšskatījumu par AI drošību un valsts līmeņa tiesību aktiem zemāk. (Esmu rediģējis stenogrammu pēc garuma, skaidrības un lai mēs izklausītos nedaudz gudrāki.)

Makss: Kāpēc jums vajadzētu rūpēties par AI drošības tiesību aktiem, kas iet garām kamerai Kalifornijā? Mēs ieejam šajā laikmetā, kur AI uzņēmumi kļūst par visspēcīgākajiem uzņēmumiem pasaulē, un tas potenciāli būs viens no nedaudzajiem viņu spēka pārbaudēm.

Tas ir daudz šaurāks nekā SB 1047, kas pagājušajā gadā ieguva daudz. Bet es domāju, ka SB 53 joprojām piešķir dažus nozīmīgus noteikumus AI laboratorijām. Tas liek viņiem publicēt drošības pārskatus saviem modeļiem. Ja viņiem ir incidents, tas principā liek viņiem ziņot par to valdībai. Un arī šajās laboratorijās darbiniekiem, ja viņiem ir bažas, viņi dod viņiem kanālu, lai ziņotu par to valdībai un nesaskaras ar uzņēmumu spiedienu, kaut arī daudzi no viņiem ir parakstījuši NDA.

Manuprāt, tas jūtas kā potenciāli jēgpilna tehnoloģiju uzņēmumu spēka pārbaude – kaut kas, kas mums īsti nav bijis pēdējās pāris desmitgadēs.

Kirstens: Uz jūsu viedokli par to, kāpēc tas ir svarīgi valsts līmenī, ir svarīgi domāt par faktu, ka tā ir Kalifornija. Ikviens lielākais AI uzņēmums ir diezgan daudz, ja tas nav šeit, tam ir būtisks pēdas nospiedums šajā stāvoklī. Neatkarīgi no tā, ka citām valstīm nav nozīmes – es nevēlos saņemt e -pastus no Kolorādo ļaudīm vai ko citu, bet ir svarīgi, ka tā ir īpaši Kalifornija, jo tas tiešām ir AI aktivitātes centrs.

Tomēr mans jautājums jums, maksimums, vai šķiet, ka ir daudz izņēmumu un izejvielu. Tas ir šaurāks, bet vai tas ir sarežģītāks nekā iepriekšējais [bill]?

Makss: Dažos veidos, jā. Es teiktu, ka galvenā šī likumprojekta izdalīšana ir tā, ka tas patiešām cenšas neattiecas uz maziem jaunizveidotiem uzņēmumiem. Un būtībā viens no galvenajiem strīdiem par pēdējiem likumdošanas centieniem no senatora Skota Veinera, kurš pārstāv Sanfrancisko, kurš ir šī likumprojekta autors, daudzi cilvēki sacīja, ka tas varētu kaitēt starta ekosistēmai, kuru daudzi cilvēki risina, jo tā šobrīd ir tik plaukstoša Kalifornijas ekonomikas sastāvdaļa.

Šis likumprojekts īpaši attiecas uz AI izstrādātājiem, kas ir [generating] vairāk nekā 500 miljoni USD [from] viņu AI modeļi. Tas patiešām mēģina mērķēt uz Openai, Google Deepmind, šiem lielajiem uzņēmumiem, nevis jūsu starta startēšanu.

Entonijs: Kā es to saprotu, ja jūs esat mazāks startup, jums ir jādalās ar zināmu drošību, bet ne tuvu tik daudz.

Tas ir [also] Ir vērts runāt par plašāku ainavu ap AI regulējumu un faktu, ka viena no lielajām izmaiņām starp pagājušo gadu un šogad ir tagad, mums ir jauns prezidents. Federālā administrācija ir daudz vairāk nostājusies uz nevienu regulu, un uzņēmumiem vajadzētu būt iespējai darīt to, ko viņi vēlas, ciktāl viņi faktiski ir iekļauti [language] Finansēšanas rēķinos teikts, ka valstīm nevar būt savs AI regulējums.

Es nedomāju, ka kāds no tā ir pagājis līdz šim, bet, iespējams, viņi varētu mēģināt to izjust nākotnē. Tātad šī varētu būt vēl viena fronte, kurā cīnās Trumpa administrācija un zilie štati.

Equity ir TechCrunch flagmanis Podcast, ko ražo Terēza Loconsolo un ziņas katru trešdienu un piektdienu.

Abonējiet mūs Apple Podcast apraidiVerdzība ApmāciesVerdzība Spotify un visas lietas. Jūs varat arī sekot kapitālam Netraucēts un Pavedieni@EquityPod.