Nvidia PersonaPlex 7B ho Apple Silicon: Puo-ho-Puo e felletseng ea Duplex ka Swift

Ho Tsebisa Moeli o Mocha oa Voice AI

Sebaka sa bohlale ba maiketsetso se ntse se fetoha ho tloha marung ho ya pheletsong, mme Apple Silicon ke yona e etellang pele. Bakeng sa batho ba ntlafatsang, bokhoni ba ho tsamaisa mefuta e matla sebakeng sa heno bo bula lefatše le lecha la menyetla ea ho arabela, ea lekunutu, le lits'ebetso tse sa sebetseng inthaneteng. Kenya Nvidia's PersonaPlex 7B, mofuta oa morao-rao o etselitsoeng AI ea tlhaho, e hlakileng ea puisano. Ha moetso ona o matla o tsamaisana le bokhoni ba enjine ea methapo ea M-series Mac le ts'ebetsong e nolofalitsoeng ea Swift, sephetho ke katleho ea nako ea sebele, puisano ea puo-ho-puo e felletseng.

Puo-ho-Puo e Tletseng-Duplex ke Eng?

Pele u kena ka har'a boloi ba tekheniki, ho bohlokoa ho utloisisa karolo ea "full-duplex". Ho fapana le bathusi ba lentsoe ba bonolo ba hlokang hore u tobetse konopo ebe u emela karabo, tšebelisano e felletseng ea duplex e etsisa moqoqo oa tlhaho oa motho. E lumella ho bua le ho mamela ka nako e le 'ngoe, ho etsa hore ho be le litšitiso, ho khefutsa, le lipuisano tsa 'nete tsa morao-rao. Sena se bolela hore AI e khona ho sebetsana le seo u se buang ha u ntse u bua le ho etsa karabo e qalang hang ha u qeta - kapa ho kenella ka bonolo ha u khefutsa. Ho fihlella sena ka sesebelisoa sa lehae, ntle le ho romella molumo ho seva se hole, ke mokhoa o halalelang oa ho theha boiphihlelo bo bonolo le bo hlakileng ba basebelisi.

Ho sebelisa Apple Silicon's Unified Architecture

Senotlolo sa ho etsa hore sena se etsahale ka laptop kapa komporong ke sebopeho se ikhethileng sa Apple Silicon. Li-chips tsa M-Series li kopanya CPU, GPU, le Neural Engine e matla (NE) karolong e le 'ngoe ea silicon. Moralo ona o kopaneng oa memori o loketse mosebetsi o mongata oa ho ithuta oa mochini. Mefuta e meholo e kang PersonaPlex 7B e ka kenngoa ka ho toba mohopolong o arolelanoang, e lumella CPU ho sebetsana le logic ea kopo ho Swift, GPU ho potlakisa lipalo tse itseng, le Neural Engine ho senya ts'ebetso ea mantlha ea mohlala ka katleho e feteletseng. Tšebelisano ena e felisa litšitiso tsa ho tsamaisa data lipakeng tsa likarolo tse arohaneng, e leng se etsang hore tšitiso ea nako ea nnete e se khonehe feela, empa e boreleli ebile e boloka matla.

• Lekunutu le Lebelo: Ts'ebetso eohle e etsahala sebakeng sa hau sesebelisoa. Lipuisano tsa hau tsa bohlokoa ha li romeloe ho cloud, ho netefatsa khupamarama ea data ka botlalo ha u ntse u rua molemo ka ho lieha ho fihla ho hang.
• Tsebetso ea Offline: Lisebelisoa tse entsoeng ka stack ena li sebetsa kae kapa kae, ntle le khokahanyo ea Marang-rang, e leng se etsang hore li tšepahale haholo.
• Ts'ebetso ea Native: Ho sebelisa Swift le meralo ea tlhaho joalo ka Core ML e lumella ho hokahana ho tebileng le macOS, ho fella ka boiphihlelo bo boreleli bo utloang e le karolo ea sistimi ea ts'ebetso ka boeona.

Ho aha Pipeline ka Swift

Ho theha pipeline ena e tletseng duplex ho Swift ho kenyelletsa ho hlophisa likarolo tse 'maloa. Taba ea pele, moralo oa AVFoundation o hapa tlhahiso ea molumo ho tsoa ho maekrofono. Molaetsa ona oa molumo o fetoleloa ho sengoloa ho sebelisoa mofuta oa temoho ea puo ea lehae, joalo ka moralo oa Puo ea Apple o sebelisa sesebelisoa. Sengoloa se hlahisoang se fepeloa mofuteng oa Nvidia PersonaPlex 7B, o ntlafalitsoeng hore o sebetse ka Core ML kapa enjene e 'ngoe e lumellanang le Swift e kang MLX. Moetso ona o hlahisa karabelo ea mongolo e nahanang, e nang le temoho. Qetellong, mongolo ona o khutlisetsoa puong e ts'oanang le bophelo ho sebelisoa enjine ea sebaka sa "text-to-speech" (TTS). Phephetso ea 'nete e holim'a ho laola likarolo tsena ka nako e le ngoe ho fihlela phello e felletseng ea duplex - mosebetsi oo mofuta oa sejoale-joale oa khokahano oa Swift o nang le async/await o ipabolang.

"Bokhoni ba ho tsamaisa mohlala oa mofuta ona sebakeng sa heno ho Apple Silicon bo fetola haholo tsela eo re nahanang ka eona ka ho kopanya AI mosebetsing oa rona oa letsatsi le letsatsi. E tlosa AI ho tloha tšebeletsong e hokahaneng ho ea ho sesebelisoa sa matsoalloa, se lulang se le teng." - Moetsi e Moholo oa Mewayz

Litlamorao bakeng sa Platform joalo ka Mewayz

Bakeng sa sistimi ea ts'ebetso ea khoebo e tšoanang le Mewayz, phallo ena ea tekhenoloji e ea fetoha. Nahana ka baemeli ba bohlale ba lentsoe ka har'a komporo ea hau ea khoebo ba ka u thusang ho ngola mangolo-tsoibila, ho laola linako tse thata tsa morero, kapa ho sekaseka datha - ka meqoqo ea tlhaho, ntle le ho senya data ea bohlokoa ea khoebo. Mojule oa Mewayz o tsamaisoang ke Local PersonaPlex 7B o ka fana ka:

Lekunutu le neng le e-s'o ka le e-ba teng bakeng sa ho sebetsana le tlhahisoleseding ea lekunutu ea khoebo, lithuso tsa tšebelisano-'moho tsa nako ea sebele tse ikutloang eka ho na le mosebetsi-'moho le setsebi ka kamoreng, le li-bots tse arabelang haholo tsa tšehetso ea bareki tse kopantsoeng ka ho toba sebakeng sa mosebetsi sa Mewayz sa k'hamphani. Theknoloji ena e lumella Mewayz ho sutumelletsa meeli ea seo OS ea khoebo e ka se etsang, ho fetela ka nģ'ane ho likhokahano tse bonolo tse thehiloeng ho litaelo ho ea ho litsamaiso tsa 'nete tsa moqoqo le tse bohlale tse eketsang bokhoni ba batho ka mokhoa o sireletsehileng le ka katleho.

Motsoako oa Nvidia's PersonaPlex 7B, matla a tala a Apple Silicon, le bokhabane ba Swift hase feela demo ea tekheniki; ke moralo oa bokamoso ba tšebelisano ea batho le khomphutha. E tšepisa lefatše leo lisebelisoa tsa rona li re utloisisang e seng balaoli ba fanang ka litaelo, empa re le balekane puisanong.

Lipotso Tse Botsoang Hangata

Re Tsebisa Moeli o Mocha oa Voice AI

Sebaka sa bohlale ba maiketsetso se ntse se fetoha ho tloha marung ho ya pheletsong, mme Apple Silicon ke yona e etellang pele. Bakeng sa batho ba ntlafatsang, bokhoni ba ho tsamaisa mefuta e matla sebakeng sa heno bo bula lefatše le lecha la menyetla ea ho arabela, ea lekunutu, le lits'ebetso tse sa sebetseng inthaneteng. Kenya Nvidia's PersonaPlex 7B, mofuta oa morao-rao o etselitsoeng AI ea tlhaho, e hlakileng ea puisano. Ha moetso ona o matla o tsamaisana le bokhoni ba enjine ea methapo ea M-series Mac le ts'ebetsong e nolofalitsoeng ea Swift, sephetho ke katleho ea nako ea sebele, puisano ea puo-ho-puo e felletseng.

Puo-ho-Puo e Tletseng-Duplex ke Eng?

Pele u kena ka har'a boloi ba tekheniki, ho bohlokoa ho utloisisa karolo ea "full-duplex". Ho fapana le bathusi ba lentsoe ba bonolo ba hlokang hore u tobetse konopo ebe u emela karabo, tšebelisano e felletseng ea duplex e etsisa moqoqo oa tlhaho oa motho. E lumella ho bua le ho mamela ka nako e le 'ngoe, ho etsa hore ho be le litšitiso, ho khefutsa, le lipuisano tsa 'nete tsa morao-rao. Sena se bolela hore AI e khona ho sebetsana le seo u se buang ha u ntse u bua le ho etsa karabo e qalang hang ha u qeta - kapa ho kenella ka bonolo ha u khefutsa. Ho fihlella sena ka sesebelisoa sa lehae, ntle le ho romella molumo ho seva se hole, ke mokhoa o halalelang oa ho theha boiphihlelo bo bonolo le bo hlakileng ba basebelisi.

Ho sebelisa Apple Silicon's Unified Architecture

Senotlolo sa ho etsa hore sena se etsahale ka laptop kapa komporong ke sebopeho se ikhethileng sa Apple Silicon. Li-chips tsa M-Series li kopanya CPU, GPU, le Neural Engine e matla (NE) karolong e le 'ngoe ea silicon. Moralo ona o kopaneng oa memori o loketse mosebetsi o mongata oa ho ithuta oa mochini. Mefuta e meholo e kang PersonaPlex 7B e ka kenngoa ka ho toba mohopolong o arolelanoang, e lumella CPU ho sebetsana le logic ea kopo ho Swift, GPU ho potlakisa lipalo tse itseng, le Neural Engine ho senya ts'ebetso ea mantlha ea mohlala ka katleho e feteletseng. Tšebelisano ena e felisa litšitiso tsa ho tsamaisa data lipakeng tsa likarolo tse arohaneng, e leng se etsang hore tšitiso ea nako ea nnete e se khonehe feela, empa e boreleli ebile e boloka matla.

Ho Haha Pipeline ka Swift

Ho theha pipeline ena e tletseng duplex ho Swift ho kenyelletsa ho hlophisa likarolo tse 'maloa. Taba ea pele, moralo oa AVFoundation o hapa tlhahiso ea molumo ho tsoa ho maekrofono. Molaetsa ona oa molumo o fetoleloa ho sengoloa ho sebelisoa mofuta oa temoho ea puo ea lehae, joalo ka moralo oa Puo ea Apple o sebelisa sesebelisoa. Sengoloa se hlahisoang se fepeloa mofuteng oa Nvidia PersonaPlex 7B, o ntlafalitsoeng hore o sebetse ka Core ML kapa enjene e 'ngoe e lumellanang le Swift e kang MLX. Moetso ona o hlahisa karabelo ea mongolo e nahanang, e nang le temoho. Qetellong, mongolo ona o khutlisetsoa puong e ts'oanang le bophelo ho sebelisoa enjine ea sebaka sa "text-to-speech" (TTS). Phephetso ea 'nete e holim'a ho laola likarolo tsena ka nako e le' ngoe ho fihlela phello e felletseng-e leng mosebetsi oo mokhoa oa sejoale-joale oa Swift oa concurrency o nang le async/wait o ipabolang.

Litlamorao bakeng sa Platform joalo ka Mewayz

Bakeng sa sistimi ea ts'ebetso ea khoebo e tšoanang le Mewayz, phallo ena ea tekhenoloji e ea fetoha. Nahana ka baemeli ba bohlale ba lentsoe ka har'a komporo ea hau ea khoebo ba ka u thusang ho ngola mangolo-tsoibila, ho laola linako tse thata tsa morero, kapa ho sekaseka datha - ka meqoqo ea tlhaho, ntle le ho senya data ea bohlokoa ea khoebo. Mojule oa Mewayz o tsamaisoang ke Local PersonaPlex 7B o ka fana ka: