Nesenās pretrunas ap GoogleGemma modelis vēlreiz ir uzsvēris izstrādātāju testa modeļu izmantošanas briesmas un modeļu pieejamības īslaicīgo raksturu.
Google to izvilka Gemma 3 modelis no AI Studio pēc senatores Maršas Blekbērnas (R-Tenn.) paziņojuma, ka Gemma modelis apzināti halucinētas viltus par viņu. Blekbērna sacīja, ka modele par viņu safabricējusi ziņu stāstus, kas pārsniedz “nekaitīgas halucinācijas” un darbojas kā apmelojoša darbība.
Atbildot uz to, Google publicēts X 31. oktobrī, ka tā noņems Gemma no AI Studio, norādot, ka tas ir “lai novērstu neskaidrības”. Gemma joprojām ir pieejama, izmantojot API.
Tas ir pieejams arī, izmantojot AI Studio, kas, kā aprakstīts uzņēmums, ir "izstrādātāja rīks (patiesībā, lai to izmantotu, jums jāapliecina, ka esat izstrādātājs). Tagad mēs esam redzējuši ziņojumus par izstrādātājiem, kuri mēģina izmantot Gemma programmā AI Studio un uzdot tai faktus. Mēs nekad to nedomājām kā patērētāju rīku vai modeli vai izmantot šādā veidā. Lai novērstu šo neskaidrību, AI Studio vairs nav pieejama piekļuve Gemma."
Lai būtu skaidrs, Google ir tiesības noņemt savu modeli no savas platformas, it īpaši, ja cilvēki ir atklājuši halucinācijas un viltus, kas varētu izplatīties. Tas arī uzsver draudus, kas saistīti ar galvenokārt eksperimentāliem modeļiem un to, kāpēc uzņēmumu izstrādātājiem ir jāsaglabā projekti, pirms AI modeļi tiek pārtraukti vai noņemti. Tehnoloģiju uzņēmumi, piemēram, Google, turpina saskarties ar politiskiem strīdiem, kas bieži ietekmē to izvietošanu.
VentureBeat sazinājās ar Google, lai iegūtu papildu informāciju, un tika norādīts uz viņu 31. oktobra ziņām. Mēs arī sazinājāmies ar senatores Blekbērnas biroju, kura atkārtoja savu nostāju, kas izklāstīta paziņojumā, ka mākslīgā intelekta uzņēmumiem vajadzētu “slēgties”. [models] uz leju, līdz varat to kontrolēt."
Izstrādātāju eksperimenti
Gemma modeļu saime, kurā ietilpst a 270M parametru versijair vislabāk piemērota mazām, ātrām lietotnēm un uzdevumiem, kas var darboties tādās ierīcēs kā viedtālruņi un klēpjdatori. Google paziņoja, ka Gemma modeļi ir “izveidoti īpaši izstrādātāju un pētnieku kopienai. Tie nav paredzēti faktiskai palīdzībai vai patērētāju lietošanai”.
Tomēr tie, kas nav izstrādātāji, joprojām var piekļūt Gemma, jo tas ir pieejams AI Studio platformaiesācējiem draudzīgāka vieta izstrādātājiem, kur spēlēt ar Google AI modeļiem salīdzinājumā ar Vertex AI. Tātad, pat ja Google nekad nav paredzējis, ka Gemma un AI Studio būtu pieejami, piemēram, Kongresa darbiniekiem, šādas situācijas joprojām var rasties.
Tas arī parāda, ka, modeļiem turpinot uzlaboties, šie modeļi joprojām rada neprecīzu un potenciāli kaitīgu informāciju. Uzņēmumiem pastāvīgi jāizvērtē priekšrocības, ko sniedz tādu modeļu kā Gemma izmantošana, salīdzinot ar to iespējamām neprecizitātēm.
Projekta nepārtrauktība
Vēl viena problēma ir AI uzņēmumu kontrole pār saviem modeļiem. Paruna “jums nekas internetā nepieder” paliek patiess. Ja jums nepieder fiziska vai vietēja programmatūras kopija, varat viegli zaudēt piekļuvi tai, ja uzņēmums, kuram tā pieder, nolemj to atņemt. Google ar VentureBeat nenoskaidroja, vai tiek saglabāti pašreizējie projekti AI Studio, ko nodrošina Gemma.
Līdzīgi, OpenAI lietotāji bija vīlušies, kad uzņēmums paziņoja, ka to darīs noņemt populārus vecākus modeļus pakalpojumā ChatGPT. Pat ejot atpaka savu paziņojumu un atjaunojot GPT-4o Atgriežoties pie ChatGPT, OpenAI izpilddirektors Sems Altmens turpina uzdot jautājumus par modeļa saglabāšanu un atbalstīšanu.
AI uzņēmumi var un tiem vajadzētu noņemt savus modeļus, ja tie rada kaitīgus rezultātus. AI modeļi neatkarīgi no tā, cik tie ir nobrieduši, joprojām tiek izstrādāti un pastāvīgi attīstās un uzlabojas. Taču, tā kā modeļi ir eksperimentāli, tie var viegli kļūt par instrumentiem, ko tehnoloģiju uzņēmumi un likumdevēji var izmantot kā sviras efektu. Uzņēmumu izstrādātājiem ir jānodrošina, ka viņu darbu var saglabāt, pirms modeļi tiek noņemti no platformām.
