ZDNET galvenie pārņemšana
- Ollama AI Devs ir izlaiduši vietējo GUI MacOS un Home windows.
- Jaunā GUI ievērojami vienkāršo, izmantojot AI lokāli.
- Lietotni ir viegli instalēt, un tas ļauj izvilkt dažādus LLM.
Ja jūs izmantojat AI, ir vairāki iemesli, kāpēc jūs vēlaties ar to strādāt uz vietas, nevis no mākoņa.
Pirmkārt, tas piedāvā daudz lielāku privātumu. Izmantojot lielu valodas modeli (LLM) mākonī, jūs nekad nezināt, vai trešā puse izseko vai pat izglābj jūsu jautājumus vai rezultātus. Arī LLM izmantošana lokāli ietaupa enerģiju. Ar mākoņu bāzes LLM izmantošanas enerģijas daudzums pieaug, un nākotnē tā varētu būt problēma.
Ergo, vietēji mitināts LLMS.
Arī: kā palaist DeepSeek AI vietējā mērogā, lai aizsargātu savu privātumu – 2 vienkārši veidi
Ollama ir rīks, kas ļauj palaist dažādas LLM. Es to izmantoju kādu laiku un esmu atradis, lai vienkāršotu dažādu modeļu lejupielādes un izmantošanas procesu. Lai gan tas prasa nopietnus sistēmas resursus (jūs nevēlaties to izmantot novecošanās mašīnā), tas darbojas ātri un ļauj izmantot dažādus modeļus.
Wager Ollama pati par sevi ir bijusi tikai komandrindas lieta. Ir dažas trešās puses guis (piemēram, MSTY, kas ir bijusi mana iet). Līdz šim Ollama izstrādātāji nebija izveidojuši savu GUI.
Tas viss nesen mainījās, un tagad ir tieša, lietotājam draudzīga GUI, kuru trāpīgi sauc par Ollama.
Darbojas ar parasto LLM – wager jūs varat vilkt citus
GUI ir diezgan pamata, taču tā ir izstrādāta tā, lai ikviens varētu uzreiz ielēkt un sākt to lietot. Ir arī īss LLM saraksts, ko var viegli izvilkt no nolaižamās LLM saraksta. Šie modeļi ir diezgan izplatīti (piemēram, Gemma, DeepSeek un Qwen modeļi). Izvēlieties vienu no šiem modeļiem, un Ollama GUI to vilks jums.
Ja vēlaties izmantot modeli, kas nav uzskaitīts, jums tas būtu jāizvelk no komandrindas, piemēram,:
Ollama vilkšanas modelis
Kur modelis ir vēlamā modeļa nosaukums.
Arī: kā es pabaroju savus failus vietējā AI, lai iegūtu labākas, atbilstošākas atbildes
Jūs varat atrast pilnu pieejamo modeļu sarakstu Ollama bibliotēkaApvidū
Pēc modeļa izvilkšanas tas parādās nolaižamajā joslā pa labi.
Ollama lietotne ir tikpat ērti izmantojama kā jebkura mākoņa AI interfeiss tirgū, un to var brīvi izmantot macOS un Home windows (diemžēl GUI nav Linux versijas).
Esmu spārdījis Ollama lietotnes riepas un atklājis, ka, kaut arī tai nav gluži MSTY funkciju komplekta, to ir vieglāk izmantot un labāk iekļaujas MacOS estētikā. Arī Ollama lietotne, šķiet, ir nedaudz ātrāka nekā MSTY (gan atklājot, gan reaģējot uz jautājumiem), kas ir laba lieta, jo vietējā AI bieži var būt nedaudz lēna (sistēmas resursu trūkuma dēļ).
Kā instalēt Ollama lietotni Mac vai Home windows
Jums veicas, jo Ollama lietotnes instalēšana ir tikpat vienkārša kā jebkuras lietotnes instalēšana macOS vai Home windows. Jūs vienkārši norādāt savu pārlūkprogrammu uz Ollama lejupielādes lapalejupielādējiet lietotni savai OS, veiciet dubultklikšķi uz lejupielādētā faila un izpildiet norādījumus. Piemēram, MacOS jūs velciet Ollama lietotnes ikonu lietojumprogrammu mapē, un esat pabeidzis.
Ollama lietošana ir vienlīdz vienkārša: atlasiet vēlamo modeli, ļaujiet tam lejupielādēt, pēc tam vaicājiet promenade.
LLM izvilkšana ir tikpat vienkārša kā to atlasīt no saraksta un ļaut lietotnei darīt savu lietu.
Džeks Valens/Zdnet
Vai jums vajadzētu izmēģināt Ollama lietotni?
Ja esat meklējis iemeslu izmēģināt vietējo AI, tagad ir ideāls laiks.
Arī: es izmēģināju Sanctum vietējo AI lietotni, un tas ir tieši tas, kas man bija nepieciešams, lai saglabātu savus datus privātus
Ollama lietotne padara migrāciju no mākoņa bāzes AI tik vienkārša, cik tā var iegūt. Lietotni var brīvi instalēt un izmantot, tāpat kā LLMS Ollama bibliotēkā. Dodiet tam iespēju un pārbaudiet, vai tas nekļūst par jūsu rīku AI.
Vai vēlaties vairāk stāstu par AI? Izrakstīties AI līderu sarakstsmūsu iknedēļas biļetens.
