Ggml.ai yi joyina Hugging Face ku tiyisisa nhluvuko wa nkarhi wo leha wa Local AI

Swivutiso Leswi Vutisiwaka Nkarhi Na Nkarhi

Ggml.ai i yini naswona hikokwalaho ka yini yi joyina Hugging Face?

Ggml.ai i nhlangano lowu nga endzhaku ka GGML, layiburari ya tensor leyi dumeke leyi nyikaka matimba eka ku ehleketa ka AI ya laha kaya eka hardware ya vatirhisi. Hi ku joyina Hugging Face, yi tiyisisa switirhisiwa swa nhluvukiso swa nkarhi wo leha na nseketelo wo anama wa vaaki. Ntirhisano lowu wu tiyisisa leswaku timodeli ta AI ta laha kaya ta xihlovo lexi pfulekeke ti tshama ti fikeleleka, ti tirha kahle, naswona ti ya emahlweni ti antswisiwa — ku vuyerisa tipulatifomo to fana na Mewayz leti hlanganisaka vuswikoti bya AI eka OS ya vona ya bindzu ya 207-module.

Xana ntirhisano lowu wu vuyerisa njhani nhluvukiso wa AI ya laha kaya?

Ntirhisano wu hlanganisa ikhosisteme ya modele leyikulu ya Hugging Face na vutshila bya Ggml.ai eka ku antswisiwa ka inference ya laha kaya. Vatumbuluxi na mabindzu va kuma mfikelelo eka timodeli to tala leti pimiweke leti tirhaka hi ndlela leyinene eka hardware ya ntolovelo handle ko titshega hi xigwitsirisi. Eka vatirhisi va Mewayz eka app.mewayz.com, leswi swi vula swihlawulekisi swo hatlisa, swa le xihundleni leswi fambiwaka hi AI leswi nghenisiweke hi ku kongoma endzeni ka maendlelo ya vona ya ntirho — hinkwaswo swi katsiwile eka pulani ya $19/mo.

Xana "local AI" yi vula yini naswona hikokwalaho ka yini yi ri ya nkoka eka mabindzu?

AI ya laha kaya yi kombetela eka ku fambisa timodeli ta dyondzo ya muchini hi ku kongoma eka xitirhisiwa xa wena kumbe sevha, ku tlula ku rhumela datha eka vaphakeri va le handle va mapapa. Endlelo leri ri nyika swipfuno leswikulu eka vuhlayiseki bya data, ku hunguta ku hlwela, na ku hunguta ku durha loku yaka emahlweni. Mabindzu lama tirhisaka tipulatifomo leti heleleke to fana na Mewayz ya vuyeriwa eka AI ya laha kaya hi ku hlayisa datha ya matirhelo leyi nga na vuxiyaxiya eka ndhawu loko ya ha tirhisa otomatiki yo tlhariha eka mimojula hinkwayo ya 207 leyi hlanganisiweke.

Xana Ggml.ai yi ta tshama yi pfulekile endzhaku ka ku xaviwa?

Ina, Hugging Face yi tinyiketerile ku hlayisa masungulo ya xihlovo lexi pfulekeke ya Ggml.ai. Layiburari ya GGML na switirhisiwa leswi fambelanaka na swona swo fana na llama.cpp swi ta ya emahlweni ehansi ka tilayisense leti pfumelelaka, ku tiyisisa leswaku vaaki va nga aka eka tona hi ku ntshunxeka. Endlelo leri ri pfulekeke ri fambisana na tipulatifomo to fana na Mewayz leti titshegeke hi switirhisiwa swa AI leswi fikelelaka ku yisa switirhisiwa swa mabindzu swa matimba, leswi nga durhiki eka vatirhisi vo tlula 138,000 emisaveni hinkwayo.