Pievienojieties mūsu ikdienas un nedēļas biļeteniem, lai iegūtu jaunākos atjauninājumus un ekskluzīvu saturu par nozares vadošo AI pārklājumu. Uzziniet vairāk
Google ir klusi izlaidusi Eksperimentālā Android lietojumprogramma Tas lietotājiem ļauj vadīt sarežģītus mākslīgā intelekta modeļus tieši uz saviem viedtālruņiem, nepieprasot interneta savienojumu, iezīmējot ievērojamu soli uzņēmuma virzienā uz malu skaitļošanu un uz privātumu orientētu AI izvietošanu.
Lietotne, ko sauc AI malas galerijaļauj lietotājiem pilnībā lejupielādēt un izpildīt AI modeļus no populārās apskāvošās sejas platformas, izmantojot to ierīces, iespējot tādus uzdevumus kā attēlu analīze, teksta ģenerēšana, palīdzība kodē un vairāku pagrieziena sarunas, vienlaikus saglabājot visu datu apstrādi lokālu.
Pieteikums, kas izlaists ar atvērtā koda Apache 2.0 licence Un, kas ir pieejams ar github, nevis oficiālajiem lietotņu veikaliem, atspoguļo Google jaunākos centienus demokratizēt piekļuvi uzlabotajām AI iespējām, vienlaikus risinot pieaugošās privātuma bažas par mākoņa mākslīgo intelekta pakalpojumiem.
“Google AI Edge galerija ir eksperimentāla lietotne, kas liek vismodernākajiem ģeneratīvajiem AI modeļiem tieši jūsu rokās, pilnībā darbojoties jūsu Android ierīcēs,” Google skaidro lietotnē lietotāju ceļvedisApvidū “Ieejiet radošu un praktisku AI lietošanas gadījumu pasaulē, kas darbojas lokāli, bez interneta savienojuma, kad modelis ir ielādēts.”
Kā Google vieglie AI modeļi nodrošina mākoņa līmeņa veiktspēju mobilajās ierīcēs
Lietojumprogramma balstās uz Google literta platformaagrāk pazīstams kā TensorFlow Liteun MediaPipe ietvarikas ir īpaši optimizēti AI modeļu palaišanai uz resursiem ierobežotās mobilajās ierīcēs. Sistēma atbalsta modeļus no vairākiem mašīnmācīšanās ietvariem, ieskaitot SīpolsVerdzība KerasVerdzība Pytorchun TensorplovaApvidū
Piedāvājuma centrā ir Google Gemma 3 modelisKompaktais 529 megabaitu valodas modelis, kas var apstrādāt līdz 2 585 žetoniem sekundē, secinot uz mobilo GPU. Šī veiktspēja ļauj sauktas par sekundes reakcijas laiku tādiem uzdevumiem kā teksta ģenerēšana un attēlu analīze, padarot pieredzi salīdzināmu ar mākoņa balstītām alternatīvām.
Lietotnē ir iekļautas trīs galvenās iespējas: AI tērzēšana vairāku apgriezienu sarunām, uzdot attēlu vizuālai jautājuma atbildei un uzvedni laboratorija vienas pagrieziena uzdevumiem, piemēram, teksta apkopošana, kodu ģenerēšana un satura pārrakstīšana. Lietotāji var pārslēgties starp dažādiem modeļiem, lai salīdzinātu veiktspēju un iespējas, reāllaika etaloniem, kas parāda metriku, piemēram, no laika līdz pirmajam, un atšifrē ātrumu.
“Int4 kvantēšana samazina modeļa lielumu līdz 4x virs BF16, samazinot atmiņas izmantošanu un latentumu,” atzīmēja Google tehniskā dokumentācijaatsaucoties uz optimizācijas paņēmieniem, kas lielākus modeļus padara iespējamu mobilajā aparatūrā.
Kāpēc AI apstrāde uz ierīces varētu mainīt datu privātumu un uzņēmuma drošību
Vietējā apstrādes pieeja risina pieaugošās bažas par datu privātumu AI lietojumprogrammās, jo īpaši nozarēs, kas apstrādā sensitīvu informāciju. Saglabājot datus uz ierīci, organizācijas var saglabāt atbilstību privātuma noteikumiem, vienlaikus izmantojot AI iespējas.
Šī maiņa atspoguļo AI privātuma vienādojuma pamata pārdomāšanu. Tā vietā, lai privātumu uzskatītu par ierobežojumu, kas ierobežo AI iespējas, apstrāde ar ierīci pārveido privātumu par konkurences priekšrocībām. Organizācijām vairs nav jāizvēlas starp jaudīgu AI un datu aizsardzību – tām var būt abas. Tīkla atkarību novēršana nozīmē arī to, ka periodiskai savienojamībai, kas tradicionāli ir galvenais AI lietojumprogrammu ierobežojums, pamatfunkcijai nav nozīmes.
Šī pieeja ir īpaši vērtīga tādām nozarēm kā veselības aprūpe un finanses, kur datu jutīguma prasības bieži ierobežo mākoņu AI ieviešanu. Lauka lietojumprogrammas, piemēram, aprīkojuma diagnostika un attālie darba scenāriji, gūst labumu arī no bezsaistes iespējām.
Tomēr pāreja uz ierīces apstrādi ievieš jaunus drošības apsvērumus, kas organizācijām jārisina. Kaut arī pati dati kļūst drošāki, nekad neatstājot ierīci, fokuss mainās uz pašu ierīču un AI modeļu aizsardzību. Tas rada jaunus uzbrukuma vektorus un prasa dažādas drošības stratēģijas nekā tradicionālās mākoņa balstītas AI izvietošanas. Tagad organizācijām jāapsver ierīču autoparka pārvaldība, modeļa integritātes pārbaude un aizsardzība pret pretrunīgiem uzbrukumiem, kas varētu apdraudēt vietējās AI sistēmas.
Google platformas stratēģija mērķē uz Apple un Qualcomm mobilo AI dominanci
Google kustība notiek, pateicoties intensīvai konkurencei mobilajā AI telpā. Apple Neironu dzinējsIegremdēti iPhone, iPad un Mac, jau var darboties reāllaika valodu apstrādē un skaitļošanas fotogrāfijā uz ierīces. Qualcomm’s AI dzinējsiebūvēts Snapdragon mikroshēmās, virza balss atpazīšanu un viedos palīgus Android viedtālruņos, savukārt Samsung izmanto iegultus neironu apstrādes vienības Galaktikas ierīcēs.
Tomēr Google pieeja ievērojami atšķiras no konkurentiem, koncentrējoties uz platformas infrastruktūru, nevis patentētām funkcijām. Tā vietā, lai tieši konkurētu ar īpašām AI iespējām, Google sevi pozicionē kā pamata slāni, kas nodrošina visas mobilās AI lietojumprogrammas. Šī stratēģija atkārto veiksmīgu platformu, kas spēlē no tehnoloģiju vēstures, kur infrastruktūras kontrole izrādās vērtīgāka nekā individuālo lietojumprogrammu kontrole.
Šīs platformas stratēģijas laiks ir īpaši izveicīgs. Tā kā mobilās AI iespējas kļūst komerciālas, reālā vērtība mainās uz to, kurš var nodrošināt rīkus, ietvarus un izplatīšanas mehānismus, kas nepieciešami izstrādātājiem. Atklāti redzot tehnoloģiju un padarot to plaši pieejamu, Google nodrošina plašu pieņemšanu, saglabājot kontroli pār pamatā esošo infrastruktūru, kas darbina visu ekosistēmu.
Ko agrīnā pārbaude atklāj Cellular AI pašreizējos izaicinājumus un ierobežojumus
Pašlaik pieteikums saskaras ar vairākiem ierobežojumiem, kas uzsver tā eksperimentālo raksturu. Veiktspēja ievērojami mainās, pamatojoties uz ierīces aparatūru, ar augstas klases ierīcēm, piemēram, 8. pikseļa pro Rīkojoties ar lielākiem modeļiem, kamēr vidēja līmeņa ierīces var piedzīvot lielāku latentumu.
Pārbaude atklāja precizitātes problēmas ar dažiem uzdevumiem. Lietotne laiku pa laikam sniedza nepareizas atbildes uz konkrētiem jautājumiem, piemēram, nepareizi identificējot apkalpes skaitu uz izdomātu kosmosa kuģi vai nepareizi identificējot komiksu vākus. Google atzīst šos ierobežojumus, jo pati AI testēšanas laikā paziņoja, ka tas joprojām ir “joprojām attīstīts un joprojām mācās”.
Instalēšana joprojām ir apgrūtinoša, pieprasot lietotājiem iespējot izstrādātāja režīmu Android ierīcēs un manuāli instalēt lietojumprogrammu, izmantojot APK failiApvidū Lietotājiem ir arī jāizveido apskaušanas sejas konti Lejupielādēt modeļusberzes pievienošana iekāpšanas procesam.
Aparatūras ierobežojumi izceļ pamata izaicinājumu, ar kuru saskaras mobilais AI: spriedze starp modeļa izsmalcinātību un ierīces ierobežojumiem. Atšķirībā no mākoņu vides, kur skaitļošanas resursus var samazināt gandrīz bezgalīgi, mobilajām ierīcēm ir jāsabalansē AI veiktspēja ar akumulatora darbības laiku, termisko pārvaldību un atmiņas ierobežojumiem. Tas liek izstrādātājiem kļūt par efektivitātes optimizācijas ekspertiem, nevis vienkārši piesaistīt neapstrādātu skaitļošanas jaudu.
Klusā revolūcija, kas varētu pārveidot AI nākotni, atrodas jūsu kabatā
Google Edge AI galerija atzīmē vairāk nekā tikai vēl vienu eksperimentālu lietotnes izlaidumu. Uzņēmums ir izšāvis atklāšanas kadru tajā, kas varētu kļūt par lielāko mākslīgā intelekta maiņu, jo mākoņdatošana parādījās pirms divām desmitgadēm. Kamēr tehnoloģiju giganti vairākus gadus pavadīja, veidojot apjomīgus datu centrus, lai darbinātu AI pakalpojumus, Google tagad der, ka nākotne pieder miljardiem viedtālruņu, ko cilvēki jau pārvadā.
Pārcelšanās pārsniedz tehniskās inovācijas. Google vēlas būtiski mainīt to, kā lietotāji attiecas uz viņu personas datiem. Nedēļas virsrakstos dominē privātuma pārkāpumi, un regulatori visā pasaulē apkaro datu vākšanas praksi. Google pāreja uz vietējo apstrādi piedāvā uzņēmumiem un patērētājiem skaidru alternatīvu uz uzraudzību balstītam biznesa modelim, kas gadiem ilgi ir darbojies internetā.
Google uzmanīgi iezīmēja šo stratēģiju. Uzņēmumi cīnās ar AI pārvaldības noteikumiem, kamēr patērētāji arvien vairāk atturas pret datu privātumu. Google sevi pozicionē kā pamatu izplatītākai AI sistēmai, nevis konkurē ar galvu ar Apple cieši integrēto aparatūru vai Qualcomm specializētajām mikroshēmām. Uzņēmums būvē infrastruktūras slāni, kas varētu palaist nākamo AI lietojumprogrammu vilni visās ierīcēs.
Pašreizējās lietotnes problēmas – sarežģīta instalācija, gadījuma rakstura nepareizas atbildes un atšķirīga veiktspēja dažādās ierīcēs -, iespējams, pazudīs, jo Google uzlabos tehnoloģiju. Lielāks jautājums ir, vai Google var pārvaldīt šo pāreju, vienlaikus saglabājot dominējošo stāvokli AI tirgū.
Līdz Edge AI galerija Atklāj Google atzīšanu, ka centralizētais AI modelis, kuru tas palīdzēja izveidot, var nebūt. Google atvērtā koda rīki un ir plaši pieejami uz ierīces AI, jo tā uzskata, ka rītdienas AI infrastruktūras kontrole ir vairāk svarīga nekā šodienas datu centru piederēšana. Ja stratēģija darbojas, katrs viedtālrunis kļūst par daļu no Google izplatītā AI tīkla. Šī iespēja padara šo kluso lietotnes palaišanu daudz svarīgāku, nekā liecina tās eksperimentālā etiķete.
avots
