Nvidia PersonaPlex 7B 'i he 'Apele Silikoni: Kakato-Duplex Lea-ki he-Lea 'i he vave .

"Ko e malava ke fakalele ha sipinga 'o e caliber ko 'eni fakalotofonua 'i he Apple Silicon 'oku ne liliu fakalukufua 'a e founga 'oku tau fakakaukau ai ki hono fakataha'i 'o e AI ki he'etau ngaahi ngaue faka'aho. 'Oku ne hiki 'a e AI mei ha sevesi fehokotaki ki ha me'angaue fakafonua, 'oku ma'u ma'u pe." – Fakalakalaka Ma'olunga 'i he Mewayz

Ngaahi Uesia ki he Ngaahi Tu'unga Hange ko e Mewayz

Ki ha sisitemi ngaue pisinisi modular hange ko e Mewayz, 'oku liliu 'a e puna fakatekinolosia ko 'eni. Fakakaukauloto atu ki ha kau fakafofonga leʻo ʻatamaiʻia ʻi loto ʻi hoʻo polokalama fakapisinisí ʻe lava ke nau tokoniʻi koe ke ke faʻu ha ngaahi ʻīmeili, puleʻi ha ngaahi taimi faingataʻa ʻo e poloseki, pe ʻanalaiso ʻa e ngaahi fakamatalá —ʻo fakafou kotoa ʻi he fetalanoaʻaki fakanatulá, ʻo ʻikai ke ke teitei fakangaloku ʻa e ngaahi fakamatala mahuʻinga ʻo e kautaha. 'E lava ke 'oatu 'e ha module Mewayz 'oku fakalele 'e he PersonaPlex fakalotofonua 7B:

Ko e fakapulipuli ta'ehanotatau ki hono tokanga'i 'o e fakamatala fakapisinisi fakapulipuli, ngaahi tokoni 'o e fengaue'aki taimi mo'oni 'oku ongo'i 'oku 'i ai ha kaunga ngaue mataotao 'i he loki, mo e tali ma'olunga 'a e kasitomaa bots 'oku fakataha'i fakahangatonu ki he feitu'u ngaue 'o ha kautaha Mewayz. 'Oku faka'ata 'e he tekinolosia ko 'eni 'a e Mewayz ke teke 'a e ngaahi ngata'anga 'o e me'a 'e lava ke fai 'e ha OS pisinisi, 'o fakalaka atu 'i he ngaahi interfaces faingofua 'oku makatu'unga 'i he fekau ki he ngaahi sisitemi talanoa mo'oni mo e 'atamai 'oku augment 'a e malava 'o e tangata malu mo lelei.

Ko e fakataha'i 'o e PersonaPlex 7B 'a e Nvidia, 'a e malohi 'o e raw 'o e Apple Silicon, mo e faka'ofo'ofa 'o e Swift 'oku mahulu hake ia 'i ha faka'ali'ali fakatekinikale pe; ko e palani ia ki he kaha'u 'o e fetu'utaki 'a e tangata mo e komipiuta. 'Oku ne tala'ofa mai ha mamani 'oku mahino ai ki he'etau ngaahi device 'o 'ikai ko ha kau 'eikitau 'oku nau 'oatu 'a e ngaahi tu'utu'uni, ka ko ha ngaahi hoa ngaue 'i ha talanoa.

Ngaahi Fehuʻi ʻoku Faʻa ʻEke

Fakafe'iloaki 'a e Frontier Fo'ou 'o e Le'o AI

Ko e fonua 'o e 'atamai fakatupu 'oku hiki mei he 'ao ki he tafa'aki, pea 'oku takimu'a 'a e Apple Silicon 'i he totongi. Ki he kau developers, 'Oku fakaava 'e he malava ke fakalele 'a e ngaahi sipinga malohi fakalotofonua ha mamani fo'ou 'o e ngaahi me'a 'e lava ke hoko ki he ngaahi polokalama tali, fakafo'ituitui, mo e offline-malava. Fakahu 'a e Nvidia 'a e PersonaPlex 7B, ko ha sipinga 'o e tu'unga-'o e-'aati kuo fakataumu'a ki he fakanatula, fakahaa'i 'o e talanoa AI. 'I he taimi 'oku fakahoa ai 'a e sipinga malohi ko 'eni mo e neural misini prowess 'o ha M-series Mac mo ha fakahoko 'o e Swift streamlined, ko e ola ko ha 'ohofi 'i he taimi mo'oni, kakato-duplex lea-ki he-lea 'a e fetu'utaki.

Ko e hā ʻa e Lea-ki-Lea Kakato-Duplex?

Kimu'a pea ke lue ki he me'a fakaofo fakatekinikale, 'Oku mahu'inga ke mahino 'a e konga "full-duplex". ‘I he ‘ikai hangē ko e ngaahi tokoni le‘o faingofua ‘oku fiema‘u ai ke ke lomi‘i ha fo‘i pātene pea tatali ki ha tali, ‘oku fa‘ifa‘itaki ‘a e fetu‘utaki kakato-duplex ki ha fetalanoa‘aki fakanatula ‘a e tangatá. ‘Okú ne faka‘atā ai ‘a e lea mo e fanongo taimi tatau, ‘o malava ai ke fai ha ngaahi fakalavea, ki‘i tu‘u, mo ha fetalanoa‘aki mo‘oni ‘i mui-ki-mu‘a. Ko hono ‘uhingá ‘e lava ke fakahoko ‘e he AI ​​‘a e me‘a ‘okú ke lea‘akí lolotonga ho‘o kei leá pea fa‘u ha tali ‘oku kamata ‘i he momeniti pē ‘okú ke ‘osi aí—pe na‘a mo e fakafepaki‘i māmālie kapau te ke ki‘i tu‘u. Ko hono a'usia 'eni 'i ha me'angaue fakalotofonua, 'o 'ikai ke 'ave 'a e le'o ki ha server mama'o, ko e kalasi tapu ia ki hono fa'u 'o e ngaahi a'usia 'o e tokotaha ngaue 'oku 'ikai ha palopalema mo 'ilo'i.

Ko hono faka'aonga'i 'o e 'Akiteki Fakatahataha 'a e Apple Silicon

Ko e kī ki hono ngaohi 'eni ke malava 'i ha komipiuta to'oto'o pe desktop ko e 'atakai makehe 'o e Apple Silicon. 'Oku fakataha'i 'e he ngaahi fo'i 'akau 'o e M-series 'a e CPU, GPU, mo ha misini Neural malohi (NE) 'i ha konga 'e taha 'o e silikoni. 'Oku lelei 'aupito 'a e 'atakai 'o e manatu fakatahataha'i ko 'eni ki he ngaahi kavenga ngaue 'o e ako 'a e misini. 'E lava ke uta hangatonu 'a e ngaahi sipinga lalahi hange ko e PersonaPlex 7B ki he manatu vahevahe, 'o faka'ata 'a e CPU ke ne tokanga'i 'a e logic 'o e tohi kole 'i he Swift, 'a e GPU ke fakavave'i 'a e ngaahi fakafuofua pau, pea mo e Neural Engine ke haea 'a e ngaahi ngaue 'o e tensor tefito 'o e sipinga 'aki 'a e fu'u ola lelei. 'Oku fakangata 'e he synergy ko 'eni 'a e ngaahi bottlenecks 'o e hiki 'o e fakamatala 'i he vaha'a 'o e ngaahi konga kehekehe, 'o 'ikai ngata pe 'i he taimi mo'oni 'o e inference 'oku malava, ka 'oku malimali mo e ivi-lelei.

Ko hono langa 'o e Paipa 'aki 'a e Swift

Ko hono fa'u 'o e paipa kakato-duplex ko 'eni 'i he Swift 'oku kau ai 'a e orchestrating 'o e ngaahi konga lahi. 'Uluakí, 'oku puke 'e he fa'unga 'o e AVFoundation 'a e input 'o e le'o mei he maikolofoni. 'Oku liliu leva 'a e vaitafe 'o e le'o ko 'eni ki he tohi 'o faka'aonga'i ha sipinga 'o e 'ilo'i 'o e lea fakalotofonua, hange ko e Apple 'i he device Speech framework. 'Oku fafanga'i 'a e tohi 'oku ma'u mei ai ki he sipinga 'o e Nvidia PersonaPlex 7B, 'a ia kuo fakalelei'i ke lele 'o fakafou 'i he Core ML pe ko ha toe misini inference 'oku fe'unga mo e Swift hange ko e MLX. 'Oku fakatupu 'e he sipinga ha tali fakakaukau, context-'ilo'i 'o e tohi. Faka‘osí, ‘oku liliu ‘a e konga tohi ko ení ‘o toe hoko ko e lea mo‘ui ‘o ngāue‘aki ha mīsini tohi-ki-he-lea (TTS) fakalotofonua. Ko e pole mo'oni 'oku 'i hono pule'i 'o e ngaahi konga ko 'eni 'i he taimi tatau ke a'usia 'a e ola kakato-duplex-ko ha ngaue 'oku mahulu hake ai 'a e sipinga 'o e concurrency fakaonopooni 'a e Swift mo e async/tatali.

Ngaahi Uesia ki he Ngaahi Tu'unga Hange ko e Mewayz

Ki ha sisitemi ngaue pisinisi modular hange ko e Mewayz, 'oku liliu 'a e puna fakatekinolosia ko 'eni. Fakakaukauloto atu ki ha kau fakafofonga leʻo ʻatamaiʻia ʻi loto ʻi hoʻo polokalama fakapisinisí ʻe lava ke nau tokoniʻi koe ke ke faʻu ha ngaahi ʻīmeili, puleʻi ha ngaahi taimi faingataʻa ʻo e poloseki, pe ʻanalaiso ʻa e ngaahi fakamatalá —ʻo fakafou kotoa ʻi he fetalanoaʻaki fakanatulá, ʻo ʻikai ke ke teitei fakangaloku ʻa e ngaahi fakamatala mahuʻinga ʻo e kautaha. 'E lava ke 'oatu 'e ha module Mewayz 'oku fakalele 'e he PersonaPlex fakalotofonua 7B: