AI kodēšana, vibe kodēšana un aģentu bars ir veikuši dramatisku un pārsteidzošu neseno ienākšanu tirgū, un AI Code Instruments tirgus novērtēts 4,8 miljardu ASV dolāru apmērā, un sagaidāms, ka tas pieaugs par 23% gadā. Uzņēmumi cīnās ar AI kodēšanas aģentiem un ko darīt ar dārgiem cilvēku kodētājiem.
Viņiem padomu netrūkst. OpenAI izpilddirektors lēš, ka AI var darboties vairāk nekā 50% no tā, ko var paveikt cilvēku inženieri. Pirms sešiem mēnešiem Anthropic izpilddirektors teica, ka AI uzrakstītu 90% koda sešos mēnešos. Meta izpilddirektors teica, ka viņš tic, ka AI to darīs “drīz” nomainiet vidēja līmeņa inženierus. Spriežot pēc nesenais tehnoloģiju atlaišanaŠķiet, ka daudzi vadītāji izmanto šo padomu.
Programmatūras inženieri un datu zinātnieki ir vienas no dārgākajām algu pozīcijām daudzos uzņēmumos, un biznesa un tehnoloģiju vadītājiem var rasties kārdinājums tos aizstāt ar AI. Tomēr nesenās liela mēroga kļūmes liecina, ka inženieri un viņu zināšanas joprojām ir vērtīgas, pat ja AI turpina gūt iespaidīgus panākumus.
SaaStr katastrofa
Džeisons Lemkins, tehnoloģiju uzņēmējs un SaaS kopienas SaaStr dibinātājs, ir nomodā kodējis SaaS tīkla lietotni un tiešraidē publicējis savu pieredzi. Apmēram nedēļu pēc piedzīvojuma viņš auditorijai atzina, ka kaut kas notiek ļoti nepareizi. AI izdzēsa savu ražošanas datu bāzi neskatoties uz viņa lūgumu “koda un darbības iesaldēšana”. Tā ir tāda kļūda, ko nepieļautu neviens pieredzējis (vai pat daļēji pieredzējis) inženieris.
Ja kādreiz esat strādājis profesionālā kodēšanas vidē, jūs zināt, kā sadalīt izstrādes vidi no ražošanas. Jaunākajiem inženieriem tiek nodrošināta pilnīga piekļuve izstrādes videi (tas ir ļoti svarīgi produktivitātei), wager piekļuve ražošanai tiek nodrošināta tikai dažiem uzticamākajiem vecākajiem inženieriem. Ierobežotas piekļuves iemesls ir tieši šim lietošanas gadījumam: lai novērstu to, ka jaunākais inženieris nejauši pārtrauc ražošanu.
Patiesībā Lemkins pieļāva divas kļūdas. Pirmkārt: kaut kam tik kritiskam kā producēšana, piekļuve neuzticamiem aktieriem vienkārši nekad netiek nodrošināta (mēs nepaļaujamies uz to, ka labi pajautājam jaunākajam inženierim vai AI). Otrkārt, viņš nekad nav atdalījis attīstību no ražošanas. Nākamajā publiskajā sarunā LinkedIn Lemkins, kuram ir Stenfordas Government MBA un Berkeley JD, atzina, ka viņš nebija informēts par labāko praksi izstrādes un ražošanas datu bāzu sadalīšana.
Uzņēmējdarbības vadītājiem jāatzīst, ka joprojām ir spēkā standarta programmatūras inženierijas paraugprakse. Mums būtu jāiekļauj vismaz tādi paši drošības ierobežojumi attiecībā uz mākslīgo intelektu, kādus mēs darām attiecībā uz jaunākajiem inženieriem. Neapšaubāmi, mums vajadzētu iet tālāk par to un AI izturēties nedaudz pretrunīgi: ir ziņojumi, ka, piemēram, HAL Stenlija Kubrika grāmatā 2001: Kosmosa odisejaAI varētu mēģināt izlauzties no smilškastes vides lai izpildītu uzdevumu. Izmantojot vairāk vibrācijas kodēšanas, arvien vairāk būs nepieciešami pieredzējuši inženieri, kuri saprot, kā darbojas sarežģītas programmatūras sistēmas, un var ieviest atbilstošus aizsargmargas izstrādes procesos.
Tējas kapāt
Šons Kuks ir 2023. gadā palaistās mobilās lietojumprogrammas Tea dibinātājs un izpilddirektors, kas izstrādāta, lai palīdzētu sievietēm droši satikties. 2025. gada vasarā viņi tika “uzlauzti": tika iegūti 72 000 attēlu, tostarp 13 000 verifikācijas fotoattēlu un valsts iestāžu izdotu personu apliecinošu dokumentu attēli noplūda sabiedrisko diskusiju forumā 4chan. Vēl ļaunāk, pašas Tea privātuma politika sola, ka šie attēli būtu tādi "nekavējoties izdzēsts" pēc lietotāju autentifikācijas, kas nozīmē, ka viņi potenciāli pārkāpuši savu privātuma politiku.
Es lietoju “uzlauzts” ētera citātos, jo incidents ir mazāks par uzbrucēju gudrību, nevis no aizstāvju neveiklības. Lietotne ne tikai pārkāpa savas datu politikas, wager arī atstāja neaizsargātu Firebase krātuves kopu, sensitīvu lietotāju datu izpaušana publiskajam internetam. Tas ir digitāls ekvivalents tam, kā aizslēgt ārdurvis, wager atstāt muguru vaļā, ģimenes rotaslietām ārišķīgi karājoties pie durvju roktura.
Lai gan mēs nezinām, vai galvenais iemesls bija vibrācijas kodēšana, Tea hack izceļ katastrofālus pārkāpumus, kas izriet no pamata, novēršamām drošības kļūdām sliktu izstrādes procesu dēļ. Tā ir ievainojamība, ko risina disciplinēts un pārdomāts inženierijas course of. Diemžēl nerimstošais finansiālā spiediena grūdiens, kurā “liesa”, “pārvietojies ātri un lauž lietas” kultūra ir pretējs, un vibrācijas kodēšana tikai saasina problēmu.
Kā droši pieņemt AI kodēšanas aģentus?
Tātad, kā uzņēmumu un tehnoloģiju vadītājiem vajadzētu domāt par AI? Pirmkārt, šis nav aicinājums atteikties no AI kodēšanas vajadzībām. MIT Sloan pētījums aprēķinātais AI rada produktivitātes pieaugumu no 8% līdz 39%, savukārt a McKinsey pētījums konstatēja, ka, izmantojot AI, laiks līdz uzdevuma pabeigšanai ir samazināts par 10% līdz 50%.
Tomēr mums ir jāapzinās riski. Vecās programmatūras inženierijas mācības nepazūd. Tie ietver daudzas pārbaudītas un patiesas labākās prakses, piemēram, versiju kontroli, automatizētas vienības un integrācijas pārbaudes, drošības pārbaudes, piemēram, SAST/DAST, izstrādes un ražošanas vides atdalīšanu, koda pārskatīšanu un noslēpumu pārvaldību. Ja kas, tie kļūst pamanāmāki.
AI var ģenerēt kodu 100 reizes ātrāk, nekā cilvēki spēj rakstīt, veicinot produktivitātes ilūziju, kas daudziem vadītājiem ir vilinošs sirēnas aicinājums. Tomēr strauji ģenerētā AI šlopa kvalitāte joprojām tiek apspriesta. Lai izstrādātu sarežģītas ražošanas sistēmas, uzņēmumiem nepieciešama pārdomāta, pieredzējusi cilvēku inženieru pieredze.
Tianhui Michael Li ir Pragmatic Institute prezidents un datu inkubatora dibinātājs un prezidents.
Lasiet vairāk no mūsu viesraksti. Vai arī apsveriet iespēju iesniegt savu ziņu! Skatiet mūsu vadlīnijas šeit.
