Home Tehnoloģija Kāpēc jūsu uzņēmuma AI stratēģijai nepieciešami gan atvērti, gan slēgti modeļi: TCO...

Kāpēc jūsu uzņēmuma AI stratēģijai nepieciešami gan atvērti, gan slēgti modeļi: TCO realitātes pārbaude

1
0

 

Šis raksts ir daļa no VentureBeat īpašā numura “AI reālās izmaksas: veiktspēja, efektivitāte un ROI mērogā”. Lasiet vairāk no šī īpašā numura.

Pēdējās divās desmitgadēs uzņēmumiem ir bijusi izvēle starp atvērtā koda un slēgtām patentētām tehnoloģijām.

Sākotnējā uzņēmumu izvēle galvenokārt bija vērsta uz operētājsistēmām, un Linux piedāvāja atvērtā koda alternatīvu Microsoft Windows. Izstrādātāja valstībā dominē tādas atvērtā koda valodas kā Python un JavaScript, jo mākoņa standarti ir atvērtā koda tehnoloģijas, ieskaitot Kubernetes.

Tāda paša veida izvēle starp atvērto un slēgto tagad saskaras ar uzņēmumiem AI, ar vairākām iespējām abiem modeļiem. Uz patentētās slēgtā modeļa frontes ir vieni no lielākajiem, visplašāk izmantotajiem modeļiem uz planētas, ieskaitot tos no Openai un Antropic. Atvērtā pirmkoda pusē ir tādi modeļi kā Meta’s Llama, IBM granīts, Alibaba Qwen un DeepSeek.

Izpratne, kad jāizmanto atvērts vai slēgts modelis, ir kritiska izvēle uzņēmuma AI lēmumu pieņēmējiem 2025. gadā un pēc tam. Izvēlei ir gan finanšu, gan pielāgošanas ietekme uz abām iespējām, kas uzņēmumiem ir jāsaprot un jāapsver.

Izpratne par atšķirību starp atklātām un slēgtām licencēm

Apmēram gadu desmitiem veco sāncensību starp atklātām un slēgtām licencēm netrūkst hiperpoles. Bet ko tas viss patiesībā nozīmē uzņēmuma lietotājiem?

Piemēram, slēgta avota patentētai tehnoloģijai, piemēram, Openai GPT 4O, nav modeļa koda, apmācības datu vai modeļa svara, kas ir atvērts vai pieejams ikvienam. Modelis nav viegli pieejams, lai to precīzi pielāgotu un vispārīgi runātu, tas ir pieejams tikai reālai uzņēmuma izmantošanai ar izmaksām (protams, Chatgpt ir bezmaksas līmenis, Bet tas to nesamazinās reālai uzņēmuma darba slodzei).

Atvērtai tehnoloģijai, piemēram, meta lamai, IBM granītam vai DeepSeek, ir atklāti pieejama kods. Uzņēmumi var izmantot modeļus brīvi, parasti bez ierobežojumiem, ieskaitot precizēšanu un pielāgošanu.

Rohans Gupta, direktors ar Deloittepastāstīja VentureBeat, ka atvērtās vai slēgtā avota debates nav unikālas vai dzimtas AI, kā arī, iespējams, drīzumā tiks atrisināta.

Gupta paskaidroja, ka slēgto avotu pakalpojumu sniedzēji parasti piedāvā vairākus iesaiņojumus ap to modeli, kas ļauj ērti izmantot, vienkāršotu mērogošanu, nemanāmāku uzlabojumu un pazemināšanu un vienmērīgu uzlabojumu plūsmu. Tie arī sniedz ievērojamu izstrādātāju atbalstu. Tas ietver dokumentāciju, kā arī praktiskus padomus un bieži nodrošina stingrāku integrāciju gan infrastruktūrā, gan lietojumprogrammās. Apmaiņā uzņēmums maksā prēmiju par šiem pakalpojumiem.

“No otras puses, atvērtā pirmkoda modeļi var nodrošināt lielāku kontroli, elastību un pielāgošanas iespējas, un tos atbalsta dinamiska, aizrautīga izstrādātāja ekosistēma,” sacīja Gupta. “Šie modeļi arvien vairāk ir pieejami, izmantojot pilnībā pārvaldītas API visā mākoņu pārdevēju, paplašinot to izplatīšanu.”

Izvēle starp atvērtu un slēgtu modeli uzņēmumam AI

Jautājums, ko daudzi uzņēmumu lietotāji varētu uzdot, ir tas, kas ir labāks: atvērts vai slēgts modelis? Tomēr atbilde ne vienmēr ir viena vai otra.

“Mēs to neuzskatām par bināru izvēli,” Deivids Guarrera, ģeneratīvais AI vadītājs EY Americaspastāstīja VentureBeat. “Open VS slēgtais ir arvien vairāk mainīga dizaina telpa, kur modeļi tiek izvēlēti vai pat automātiski orķestrēti, pamatojoties uz kompromisiem starp precizitāti, latentumu, izmaksām, interpretāciju un drošību dažādos darbplūsmas punktos.”

Guarrera atzīmēja, ka slēgti modeļi ierobežo to, cik dziļi organizācijas var optimizēt vai pielāgot uzvedību. Patentētie modeļa pārdevēji bieži ierobežo precizēšanu, iekasē prēmijas likmes vai paslēpj procesu melnajās kastēs. Kamēr API balstīti rīki vienkāršo integrāciju, tie abstrakti daudz kontrolē, padarot grūtāk izveidot ļoti specifiskas vai interpretējamas sistēmas.

Turpretī atvērtā koda modeļi ļauj veikt mērķtiecīgu precizēšanu, aizsargmargu dizainu un optimizāciju īpašiem lietošanas gadījumiem. Tas vairāk ir svarīgi aģentiskajā nākotnē, kur modeļi vairs nav monolīti vispārējas nozīmes rīki, bet gan maināmi komponenti dinamiskās darbplūsmās. Iespēja smalki veidot modeļa uzvedību par zemām izmaksām un ar pilnīgu caurspīdīgumu, kļūst par galvenajām konkurences priekšrocībām, izvietojot uzdevumus specifiskus līdzekļus vai stingri regulētus risinājumus.

“Praksē mēs paredzam aģentu nākotni, kurā modeļa atlase ir abstrahēta,” sacīja Guarrera.

Piemēram, lietotājs var sastādīt e-pastu ar vienu AI rīku, apkopot juridiskos dokumentus ar citu, meklēšanas uzņēmumu dokumentus ar precīzi noregulēto atvērtā koda modeli un mijiedarboties ar AI lokāli, izmantojot d-d-device LLM, visi nekad nezinot, kurš modelis dara ko.

“Patiesais jautājums kļūst: kāds modeļu sajaukums vislabāk atbilst jūsu darbplūsmas īpašajām prasībām?” Guarrera teica.

Ņemot vērā kopējās īpašumtiesību izmaksas

Izmantojot atvērtus modeļus, pamatideja ir tāda, ka modelis ir brīvi pieejams lietošanai. Lai gan turpretī uzņēmumi vienmēr maksā par slēgtiem modeļiem.

Realitāte, kad runa ir par kopējām īpašumtiesību izmaksām (TCO), ir niansētāka.

Praveen Akkiraju, rīkotājdirektors Insight Partners VentureBeat paskaidroja, ka TCO ir daudz dažādu slāņu. Daži galvenie apsvērumi ir infrastruktūras mitināšanas izmaksas un inženierzinātnes: vai atvērtā koda modeļi ir uzņēmuma vai mākoņu pakalpojumu sniedzēja pašpārbaudes? Cik daudz inženierzinātņu, ieskaitot precizēšanu, apsardzes margu un drošības pārbaudi, ir nepieciešams, lai droši darbinātu modeli?

Akkiraju to atzīmēja Atvērtā svara modeļa precizēšana dažreiz var būt arī ļoti sarežģīts uzdevums. Slēgtās robežas modeļa uzņēmumi tērē milzīgas inženierijas pūles, lai nodrošinātu sniegumu vairākos uzdevumos. Pēc viņa domām, ja vien uzņēmumi neizmanto līdzīgu inženierzinātņu zināšanu, viņi, precīzi pielāgojot atvērtā pirmkoda modeļus. Tas rada izmaksas, ja organizācijas izvēlas savu modeļa izvietošanas stratēģiju. Piemēram, uzņēmumi var precīzi noregulēt vairākas modeļa versijas dažādiem uzdevumiem vai izmantot vienu API vairākiem uzdevumiem.

Raiens Gross, Mākoņu vietējo pakalpojumu sniedzēja datu un lietojumprogrammu vadītājs Kilents pastāstīja VentureBeat, ka no viņa viedokļa licencēšanas noteikumiem nav nozīmes, izņemot malu scenārijus. Lielākie ierobežojumi bieži attiecas uz modeļa pieejamību, kad ir ieviestas datu uzturēšanās prasības. Šajā gadījumā, piemēram, Amazon Sagemaker, atvērta modeļa izvietošana, piemēram, Amazon Sagemaker, var būt vienīgais veids, kā iegūt mūsdienīgu modeli, kas joprojām atbilst. Runājot par TCO, Gross atzīmēja, ka kompromiss ir starp izmaksām un uzturēšanas un uzturēšanas izmaksām.

“Ir skaidrs, ka ekonomika pārslēdzas no slēgtiem modeļiem, kas ir lētāki,” sacīja Gross.

Pēc viņa domām, lielākajai daļai organizāciju slēgtiem modeļiem ar mitināšanu un mērogošanu, kas atrisināti organizācijas vārdā, būs zemāks TCO. Tomēr lieliem uzņēmumiem SaaS uzņēmumi ar ļoti lielu pieprasījumu pēc viņu LLM, bet vienkāršāki lietošanas gadījumi, kuriem nepieciešama robeža, vai uz AI orientētiem produktu uzņēmumiem, destilētu atvērto modeļu mitināšana var būt rentablāka.

Kā viens uzņēmuma programmatūras izstrādātājs novērtēja atvērtos vai slēgtos modeļus

Džošs Bosquez, CTO plkst Otrās priekšējās sistēmas ir viens no daudzajiem uzņēmumiem, kuriem nācies apsvērt un novērtēt atvērtos vai slēgtos modeļus.

“Mēs izmantojam gan atvērtus, gan slēgtus AI modeļus atkarībā no īpašās lietošanas gadījuma, drošības prasībām un stratēģiskajiem mērķiem,” Bosquez stāstīja VentureBeat.

Bosquez paskaidroja, ka atvērtie modeļi ļauj viņa firmai integrēt vismodernākās iespējas bez apmācības modeļu laika vai izmaksu no nulles. Lai veiktu iekšēju eksperimentu vai ātru prototipu veidošanu, atvērtie modeļi palīdz viņa firmai ātri atkārtoties un gūt labumu no sabiedrības virzītiem sasniegumiem.

“No otras puses, slēgti modeļi ir mūsu izvēle, kad datu suverenitāte, uzņēmuma līmeņa atbalsts un drošības garantijas ir būtiskas, jo īpaši attiecībā uz klientu lietojumprogrammām vai izvietošanai, kas saistīta ar jutīgu vai regulētu vidi,” viņš teica. “Šie modeļi bieži nāk no uzticamiem pārdevējiem, kuri piedāvā spēcīgu sniegumu, atbilstības atbalstu un pašnovadīšanas iespējas.”

Bosquez sacīja, ka modeļa atlases process ir daudzfunkcionāls un balstīts uz risku, novērtējot ne tikai tehnisko piemērotību, bet arī datu apstrādes politiku, integrācijas prasības un ilgtermiņa mērogojamību.

Aplūkojot TCO, viņš sacīja, ka tas ievērojami atšķiras starp atvērtiem un slēgtiem modeļiem, un neviena pieeja nav vispārēji lētāka.

“Tas ir atkarīgs no izvietošanas jomas un organizācijas brieduma,” sacīja Bosquez. “Galu galā mēs novērtējam TCO ne tikai par iztērētajiem dolāriem, bet arī pēc piegādes ātruma, atbilstības risku un spēju droši mērogot.”

Ko tas nozīmē uzņēmuma AI stratēģijai

Smart Tech lēmumu pieņēmējiem, kas novērtē AI investīcijas 2025. gadā, atklātās un slēgtās debates nav par puses izvēli. Tas ir par stratēģiskas portfeļa pieejas veidošanu, kas optimizē dažādus lietošanas gadījumus jūsu organizācijā.

Tiešie darbību priekšmeti ir vienkārši. Pirmkārt, revidējiet pašreizējo AI darba slodzi un kartējiet tos pret ekspertu izklāstīto lēmumu ietvaru, ņemot vērā precizitātes prasības, latentuma vajadzības, izmaksu ierobežojumus, drošības prasības un atbilstības saistības katrā lietošanas gadījumā. Otrkārt, godīgi novērtējiet savas organizācijas inženiertehniskās iespējas modeļa precizēšanai, mitināšanai un uzturēšanai, jo tas tieši ietekmē jūsu patiesās kopējās īpašumtiesību izmaksas.

Treškārt, sāciet eksperimentēt ar modeļa orķestrēšanas platformām, kas var automātiski novirzīt uzdevumus uz vispiemērotāko modeli – atvērtu vai slēgtu. Tas pozicionē jūsu organizāciju aģentiskajai nākotnei, ka nozares vadītāji, piemēram, EY Guarrera, prognozē, kur modeļa izvēle kļūst neredzama tiešajiem lietotājiem.

avots

LEAVE A REPLY

Please enter your comment!
Please enter your name here