Nvidia PersonaPlex 7B amin'ny Apple Silicon: Full-Duplex Speech-to-Speech in Swift

Fampidirana ny New Frontier of Voice AI

Mivadika avy amin'ny rahona mankany amin'ny sisiny ny tontolon'ny faharanitan-tsaina artifisialy, ary Apple Silicon no mitarika ny fiampangana. Ho an'ny mpamorona, ny fahafahana mampandeha maodely matanjaka eo an-toerana dia manokatra tontolo vaovao azo atao ho an'ny fampiharana mandray andraikitra, manokana ary afaka ivelan'ny aterineto. Ampidiro ny Nvidia's PersonaPlex 7B, maodely manara-penitra natao ho an'ny AI mifampiresaka voajanahary sy maneho hevitra. Rehefa ampiarahina amin'ny fahaizan'ny maotera neural an'ny Mac-series M sy ny fampiharana Swift novolavolaina io maodely mahery io, dia fandrosoana amin'ny fifaneraserana amin'ny kabary amin'ny kabary amin'ny fotoana tena izy ny vokatra.

Inona no atao hoe Full-Duplex Speech-to-Speech?

Alohan'ny hidirana amin'ny ody ara-teknika dia tena ilaina ny mahatakatra ny singa "full-duplex". Tsy toy ny mpanampy feo tsotra izay mitaky anao hanindry bokotra iray ary miandry valiny, ny fifaneraserana feno duplex dia maka tahaka ny resaka voajanahary. Izy io dia mamela ny fitenenana sy fihainoana miaraka, mamela ny fahatapahana, fiatoana, ary tena fifanakalozan-kevitra miverina sy miverina. Midika izany fa ny AI dia afaka mandrindra izay lazainao raha mbola miteny ianao ary mamolavola valiny izay manomboka amin'ny fotoana hahavitanao - na miditra moramora mihitsy aza raha miato ianao. Ny fanatrarana izany amin'ny fitaovana eo an-toerana, tsy mandefa feo any amin'ny mpizara lavitra, no tena zava-dehibe amin'ny famoronana traikefan'ny mpampiasa mirindra sy intuitive.

Mampiasa ny Architecture Mitambatra Apple Silicon

Ny fanalahidin'ny fanatanterahana izany amin'ny solosaina finday na birao dia ny maritrano tokana an'ny Apple Silicon. Ny chips M-series dia manambatra ny CPU, GPU, ary ny Neural Engine (NE) mahery amin'ny silisiôma tokana. Ity maritrano fitadidiana mitambatra ity dia mety tsara amin'ny enta-mavesatra amin'ny fianarana milina. Ny maodely lehibe toa ny PersonaPlex 7B dia azo ampidirina mivantana ao amin'ny fitadidiana iombonana, ahafahan'ny CPU mitantana ny lojika fampiharana ao amin'ny Swift, ny GPU hanafaingana ny kajy sasany, ary ny Neural Engine handrovitra ny fiasan'ny tensor fototra amin'ny modely amin'ny fahombiazana faran'izay haingana. Ity fiaraha-mientana ity dia manafoana ny tsy fahampian'ny angon-drakitra mihetsika eo amin'ny singa samihafa, ka mahatonga ny fanatsoahan-kevitra amin'ny fotoana tena izy tsy azo atao fotsiny, fa milamina sy mitsitsy angovo.

• Ny tsiambaratelo sy ny hafainganam-pandeha: Ny fanodinana rehetra dia mitranga eo an-toerana amin'ny fitaovana. Tsy alefa any amin'ny rahona na oviana na oviana ny resaka saro-pady ataonao, miantoka ny tsiambaratelon'ny angon-drakitra feno sady mahazo tombony amin'ny fahelan'ny aotra.
• Fampiasa an-tserasera: Ny fampiharana namboarina miaraka amin'ity stack ity dia miasa na aiza na aiza, tsy misy fifandraisana Internet, ka mahatonga azy ireo ho azo antoka.
• Fampisehoana Native: Ny fampiasana ny Swift sy ny rafitra natokana ho an'ny Core ML dia ahafahana mampiditra lalina amin'ny macOS, ka miteraka traikefa malefaka be menaka izay mahatsapa ho anisan'ny rafitra fiasana mihitsy.

Fananganana fantsona amin'ny Swift

Ny famoronana ity fantsona feno duplex ity ao amin'ny Swift dia misy fandrafetana singa maromaro. Voalohany, ny rafitra AVFoundation dia maka ny fampidirana feo avy amin'ny mikrô. Avy eo dia avadika ho lahatsoratra ity stream audio ity amin'ny fampiasana maodely famantarana ny kabary eo an-toerana, toy ny rafi-pitenenana ao amin'ny fitaovana Apple. Ny lahatsoratra vokatr'izany dia ampidirina amin'ny maodely Nvidia PersonaPlex 7B, izay nohatsaraina mba handehanana amin'ny alàlan'ny Core ML na motera inference hafa mifanentana amin'ny Swift toa ny MLX. Ny maodely dia miteraka valin-teny feno eritreritra sy mifanentana amin'ny teny manodidina. Farany, avadika ho kabary toy ny velona ity lahatsoratra ity amin'ny fampiasana motera text-to-speech (TTS) eo an-toerana. Ny tena fanamby dia ny mitantana ireo singa ireo miaraka mba hahatratrarana ny vokatra duplex feno — asa iray ahafahan'ny modely concurrency maoderina an'i Swift miaraka amin'ny async/wait ambony indrindra.

"Ny fahafahana mampandeha modely amin'ity kaliber ity eo an-toerana amin'ny Apple Silicon dia manova ny fomba fiheverantsika ny fampidirana AI amin'ny fizotran'ny asantsika isan'andro. Mamindra AI avy amin'ny serivisy mifandray mankany amin'ny fitaovana teratany, misy foana izy io." – Mpamorona ambony ao amin'ny Mewayz

Ny fiantraikany amin'ny sehatra toa an'i Mewayz

Ho an'ny rafitra fiasan'ny fandraharahana modular toa an'i Mewayz, dia miova io fisondrotan'ny teknolojia io. Alaivo sary an-tsaina ireo mpiasan'ny feo manan-tsaina ao anatin'ny lozisialy orinasanao izay afaka manampy anao hamolavola mailaka, hitantana ny fandaharam-potoana sarotra amin'ny tetikasa, na hamakafaka ny angona—amin'ny alalan'ny resaka voajanahary, tsy misy mampandefitra ny angon-drakitra saro-pady amin'ny orinasa. Ny maody Mewayz ampiasain'ny PersonaPlex 7B eo an-toerana dia afaka manolotra:

Ny fiainana manokana tsy mbola nisy hatrizay amin'ny fitantanana ny mombamomba ny raharaham-barotra tsiambaratelo, ny fanampiana fiaraha-miasa amin'ny fotoana tena izy izay toa manana mpiara-miasa manam-pahaizana ao amin'ny efitrano, ary ireo bots fanohanana mpanjifa mandray andraikitra be dia be ampidirina mivantana ao amin'ny sehatry ny fiasan'ny orinasa Mewayz. Ity teknôlôjia ity dia mamela an'i Mewayz hanosika ny fetran'ny zavatra azon'ny OS atao amin'ny orinasa iray, hihoatra ny fifandraisana tsotra mifototra amin'ny baiko mankany amin'ny rafitra tena mifampiresaka sy marani-tsaina izay mampitombo ny fahafahan'ny olombelona amin'ny fomba azo antoka sy mahomby.

Ny fitambaran'ny Nvidia's PersonaPlex 7B, ny herin'ny Apple Silicon, ary ny hakanton'ny Swift dia mihoatra noho ny fihetsiketsehana ara-teknika fotsiny; drafi-drafitra ho an'ny hoavin'ny fifandraisan'ny olombelona sy ny solosaina izany. Izy io dia mampanantena tontolo iray izay ahafantaran'ny fitaovantsika antsika tsy ho mpibaiko baiko, fa ho mpiara-miombon'antoka amin'ny resaka.

Fanontaniana matetika

Fampidirana ny New Frontier of Voice AI

Mivadika avy amin'ny rahona mankany amin'ny sisiny ny tontolon'ny faharanitan-tsaina artifisialy, ary Apple Silicon no mitarika ny fiampangana. Ho an'ny mpamorona, ny fahafahana mampandeha maodely matanjaka eo an-toerana dia manokatra tontolo vaovao azo atao ho an'ny fampiharana mandray andraikitra, manokana ary afaka ivelan'ny aterineto. Ampidiro ny Nvidia's PersonaPlex 7B, maodely manara-penitra natao ho an'ny AI mifampiresaka voajanahary sy maneho hevitra. Rehefa ampiarahina amin'ny fahaizan'ny maotera neural an'ny Mac-series M sy ny fampiharana Swift novolavolaina io maodely mahery io, dia fandrosoana amin'ny fifaneraserana amin'ny kabary amin'ny kabary amin'ny fotoana tena izy ny vokatra.

Inona no atao hoe Full-Duplex Speech-to-Speech?

Alohan'ny hidirana amin'ny ody ara-teknika dia tena ilaina ny mahatakatra ny singa "full-duplex". Tsy toy ny mpanampy feo tsotra izay mitaky anao hanindry bokotra iray ary miandry valiny, ny fifaneraserana feno duplex dia maka tahaka ny resaka voajanahary. Izy io dia mamela ny fitenenana sy fihainoana miaraka, mamela ny fahatapahana, fiatoana, ary tena fifanakalozan-kevitra miverina sy miverina. Midika izany fa ny AI dia afaka mandrindra izay lazainao raha mbola miteny ianao ary mamolavola valiny izay manomboka amin'ny fotoana hahavitanao - na miditra moramora mihitsy aza raha miato ianao. Ny fanatrarana izany amin'ny fitaovana eo an-toerana, tsy mandefa feo any amin'ny mpizara lavitra, no tena zava-dehibe amin'ny famoronana traikefan'ny mpampiasa mirindra sy intuitive.

Mampiasa ny Architecture Mitambatra Apple Silicon

Ny fanalahidin'ny fanatanterahana izany amin'ny solosaina finday na birao dia ny maritrano tokana an'ny Apple Silicon. Ny chips M-series dia manambatra ny CPU, GPU, ary ny Neural Engine (NE) mahery amin'ny silisiôma tokana. Ity maritrano fitadidiana mitambatra ity dia mety tsara amin'ny enta-mavesatra amin'ny fianarana milina. Ny maodely lehibe toa ny PersonaPlex 7B dia azo ampidirina mivantana ao amin'ny fitadidiana iombonana, ahafahan'ny CPU mitantana ny lojika fampiharana ao amin'ny Swift, ny GPU hanafaingana ny kajy sasany, ary ny Neural Engine handrovitra ny fiasan'ny tensor fototra amin'ny modely amin'ny fahombiazana faran'izay haingana. Ity fiaraha-mientana ity dia manafoana ny tsy fahampian'ny angon-drakitra mihetsika eo amin'ny singa samihafa, ka mahatonga ny fanatsoahan-kevitra amin'ny fotoana tena izy tsy azo atao fotsiny, fa milamina sy mitsitsy angovo.

Fananganana fantsona amin'ny Swift

Ny famoronana ity fantsona feno duplex ity ao amin'ny Swift dia misy fandrafetana singa maromaro. Voalohany, ny rafitra AVFoundation dia maka ny fampidirana feo avy amin'ny mikrô. Avy eo dia avadika ho lahatsoratra ity stream audio ity amin'ny fampiasana maodely famantarana ny kabary eo an-toerana, toy ny rafi-pitenenana ao amin'ny fitaovana Apple. Ny lahatsoratra vokatr'izany dia ampidirina amin'ny maodely Nvidia PersonaPlex 7B, izay nohatsaraina mba handehanana amin'ny alàlan'ny Core ML na motera inference hafa mifanentana amin'ny Swift toa ny MLX. Ny maodely dia miteraka valin-teny feno eritreritra sy mifanentana amin'ny teny manodidina. Farany, avadika ho kabary toy ny velona ity lahatsoratra ity amin'ny fampiasana motera text-to-speech (TTS) eo an-toerana. Ny tena fanamby dia ny mitantana ireo singa ireo miaraka mba hahatratrarana ny vokatra duplex feno — asa iray ahafahan'ny modely mifanandrify maoderina an'i Swift miaraka amin'ny async/wait.

Ny fiantraikany amin'ny sehatra toa an'i Mewayz

Ho an'ny rafitra fiasan'ny fandraharahana modular toa an'i Mewayz, dia miova io fisondrotan'ny teknolojia io. Alaivo sary an-tsaina ireo mpiasan'ny feo manan-tsaina ao anatin'ny lozisialy orinasanao izay afaka manampy anao hamolavola mailaka, hitantana ny fandaharam-potoana sarotra amin'ny tetikasa, na hamakafaka ny angona—amin'ny alalan'ny resaka voajanahary, tsy misy mampandefitra ny angon-drakitra saro-pady amin'ny orinasa. Ny maody Mewayz ampiasain'ny PersonaPlex 7B eo an-toerana dia afaka manolotra: