Nvidia PersonaPlex 7B á Apple Silicon: Fullt tvíhliða tal-til-tal í Swift

Við kynnum New Frontier of Voice AI

Landslag gervigreindar er að færast frá skýinu yfir á brúnina og Apple Silicon er í forystu. Fyrir hönnuði opnar hæfileikinn til að keyra öflug módel á staðnum nýjan heim möguleika fyrir móttækileg, einka- og ónettengd forrit. Sláðu inn PersonaPlex 7B frá Nvidia, nýjustu gerð sem er hönnuð fyrir náttúrulega, tjáningarríka gervigreind. Þegar þetta öfluga líkan er parað saman við taugahreyfla hæfileika Mac-tölvu í M-röð og straumlínulagðri Swift-útfærslu er niðurstaðan bylting í rauntíma, fullri tvíhliða samskiptum frá tal-til-tali.

Hvað er full tvíhliða tal-til-tal?

Áður en þú kafar í tæknitöfrana er mikilvægt að skilja „full tvíhliða“ íhlutinn. Ólíkt einföldum raddaðstoðarmönnum sem krefjast þess að þú ýtir á hnapp og bíður eftir svari, líkir full tvíhliða samskipti eftir eðlilegu mannlegu samtali. Það gerir kleift að tala og hlusta samtímis, sem gerir truflunum, hléum og raunverulegum samræðum fram og til baka kleift. Þetta þýðir að gervigreindin getur unnið úr því sem þú ert að segja á meðan þú ert enn að tala og mótað svar sem byrjar um leið og þú klárar - eða jafnvel skotið varlega inn í ef þú gerir hlé. Að ná þessu á staðbundnu tæki, án þess að senda hljóð til fjarlægs netþjóns, er hinn heilagi gral til að skapa óaðfinnanlega og leiðandi notendaupplifun.

Nýttu sameinaðan arkitektúr Apple Silicon

Lykillinn að því að gera þetta gerlegt á fartölvu eða borðtölvu er einstakur arkitektúr Apple Silicon. M-röð flísar sameina CPU, GPU og öfluga taugavél (NE) á einu stykki af sílikoni. Þessi sameinaða minnisarkitektúr er tilvalin fyrir vinnuálag í vélanámi. Hægt er að hlaða stórum gerðum eins og PersonaPlex 7B beint inn í samnýtt minni, sem gerir örgjörvanum kleift að höndla forritunarrökfræðina í Swift, GPU til að flýta fyrir ákveðnum útreikningum og taugavélinni til að rífa í gegnum kjarnatensoraðgerðir líkansins með mikilli skilvirkni. Þessi samlegðaráhrif útiloka flöskuhálsa við að flytja gögn á milli aðskildra íhluta, sem gerir rauntímaályktanir ekki bara mögulega heldur slétta og orkusparandi.

• Persónuvernd og hraði: Öll vinnsla fer fram á staðnum á tækinu. Viðkvæm samtöl þín eru aldrei send í skýið, sem tryggir fullkomið gagnavernd á sama tíma og þú nýtur góðs af næstum núlli leynd.
• Virkni án nettengingar: Forrit byggð með þessum stafla virka hvar sem er, án nettengingar, sem gerir þau ótrúlega áreiðanleg.
• Native Performance: Notkun Swift og innfæddra ramma eins og Core ML gerir kleift að samþætta djúpa við macOS, sem leiðir til smjörsléttrar upplifunar sem finnst vera hluti af stýrikerfinu sjálfu.

Að byggja upp leiðsluna með Swift

Að búa til þessa fullu tvíhliða leiðslu í Swift felur í sér að skipuleggja nokkra hluti. Í fyrsta lagi tekur AVFoundation ramminn hljóðinntak frá hljóðnemanum. Þessum hljóðstraumi er síðan breytt í texta með því að nota staðbundið talgreiningarlíkan, eins og ræðuramma Apple í tækinu. Textinn sem myndast er færður inn í Nvidia PersonaPlex 7B líkanið, sem hefur verið fínstillt til að keyra í gegnum Core ML eða aðra Swift-samhæfða ályktunarvél eins og MLX. Líkanið býr til ígrundað, samhengisvitað textasvörun. Að lokum er þessum texta breytt aftur í raunhæft tal með því að nota staðbundna texta-í-tal (TTS) vél. Hin sanna áskorun felst í því að stjórna þessum íhlutum samtímis til að ná fullum tvíhliða áhrifum - verkefni þar sem nútíma samhliðalíkan Swift með async/await skarar fram úr.

"Hugleikinn til að keyra líkan af þessum gæðum á staðnum á Apple Silicon breytir í grundvallaratriðum hvernig við hugsum um að samþætta gervigreind í daglegu vinnuflæði okkar. Það færir gervigreind frá tengdri þjónustu yfir í innbyggt, alltaf tiltækt verkfæri." – Senior Developer hjá Mewayz

Afleiðingar fyrir palla eins og Mewayz

Fyrir einingafyrirtækisstýrikerfi eins og Mewayz er þetta tæknistökk umbreytandi. Ímyndaðu þér skynsama raddfulltrúa í viðskiptahugbúnaðinum þínum sem geta hjálpað þér að semja tölvupóst, stjórna flóknum tímalínum verkefna eða greina gögn – allt í gegnum náttúrulegt samtal, án þess að skerða viðkvæm fyrirtækisgögn. Mewayz eining knúin af staðbundnum PersonaPlex 7B gæti boðið:

Fordæmalaus næði til að meðhöndla trúnaðarupplýsingar um viðskipti, rauntíma samvinnuhjálp sem líður eins og að hafa sérfróðan samstarfsmann í herberginu, og mjög móttækilegir þjónustuver sem eru samþættir beint inn í Mewayz vinnusvæði fyrirtækisins. Þessi tækni gerir Mewayz kleift að ýta mörkum þess sem fyrirtækisstýrikerfi getur gert, og færist út fyrir einföld skipanaviðmót yfir í raunverulega samtals- og greindarkerfi sem auka mannlega getu á öruggan og skilvirkan hátt.

Samsetning Nvidia's PersonaPlex 7B, hráan kraft Apple Silicon og glæsileika Swift er meira en bara tæknileg kynning; það er teikning fyrir framtíð samskipta manna og tölvu. Það lofar heimi þar sem tæki okkar skilja okkur ekki sem yfirmenn sem gefa skipanir, heldur sem samstarfsaðila í samtali.

Algengar spurningar

Við kynnum New Frontier of Voice AI

Landslag gervigreindar er að færast frá skýinu yfir á brúnina og Apple Silicon er í forystu. Fyrir hönnuði opnar hæfileikinn til að keyra öflug módel á staðnum nýjan heim möguleika fyrir móttækileg, einka- og ónettengd forrit. Sláðu inn PersonaPlex 7B frá Nvidia, nýjustu gerð sem er hönnuð fyrir náttúrulega, tjáningarríka gervigreind. Þegar þetta öfluga líkan er parað saman við taugahreyfla hæfileika Mac-tölvu í M-röð og straumlínulagðri Swift-útfærslu er niðurstaðan bylting í rauntíma, fullri tvíhliða samskiptum frá tal-til-tali.

Hvað er Full-Duplex Tal-to-Speech?

Áður en þú kafar í tæknitöfrana er mikilvægt að skilja „full tvíhliða“ íhlutinn. Ólíkt einföldum raddaðstoðarmönnum sem krefjast þess að þú ýtir á hnapp og bíður eftir svari, líkir full tvíhliða samskipti eftir eðlilegu mannlegu samtali. Það gerir kleift að tala og hlusta samtímis, sem gerir truflunum, hléum og raunverulegum samræðum fram og til baka kleift. Þetta þýðir að gervigreindin getur unnið úr því sem þú ert að segja á meðan þú ert enn að tala og mótað svar sem byrjar um leið og þú klárar - eða jafnvel skotið varlega inn í ef þú gerir hlé. Að ná þessu á staðbundnu tæki, án þess að senda hljóð til fjarlægs netþjóns, er hinn heilagi gral til að skapa óaðfinnanlega og leiðandi notendaupplifun.

Nýttu sameinaðan arkitektúr Apple Silicon

Lykillinn að því að gera þetta gerlegt á fartölvu eða borðtölvu er einstakur arkitektúr Apple Silicon. M-röð flísar sameina CPU, GPU og öfluga taugavél (NE) á einu stykki af sílikoni. Þessi sameinaða minnisarkitektúr er tilvalin fyrir vinnuálag í vélanámi. Hægt er að hlaða stórum gerðum eins og PersonaPlex 7B beint inn í samnýtt minni, sem gerir örgjörvanum kleift að höndla forritunarrökfræðina í Swift, GPU til að flýta fyrir ákveðnum útreikningum og taugavélinni til að rífa í gegnum kjarnatensoraðgerðir líkansins með mikilli skilvirkni. Þessi samlegðaráhrif útiloka flöskuhálsa við að flytja gögn á milli aðskildra íhluta, sem gerir rauntímaályktanir ekki bara mögulega heldur slétta og orkusparandi.

Að byggja upp leiðsluna með Swift

Að búa til þessa fullu tvíhliða leiðslu í Swift felur í sér að skipuleggja nokkra hluti. Í fyrsta lagi tekur AVFoundation ramminn hljóðinntak frá hljóðnemanum. Þessum hljóðstraumi er síðan breytt í texta með því að nota staðbundið talgreiningarlíkan, eins og ræðuramma Apple í tækinu. Textinn sem myndast er færður inn í Nvidia PersonaPlex 7B líkanið, sem hefur verið fínstillt til að keyra í gegnum Core ML eða aðra Swift-samhæfða ályktunarvél eins og MLX. Líkanið býr til ígrundað, samhengisvitað textasvörun. Að lokum er þessum texta breytt aftur í raunhæft tal með því að nota staðbundna texta-í-tal (TTS) vél. Hin sanna áskorun liggur í því að stjórna þessum íhlutum samtímis til að ná fram fullum tvíhliða áhrifum – verkefni þar sem nútímalegt samhliðalíkan Swift með ósamstillingu/bíður skarar fram úr.

Afleiðingar fyrir palla eins og Mewayz

Fyrir einingafyrirtækisstýrikerfi eins og Mewayz er þetta tæknistökk umbreytandi. Ímyndaðu þér skynsama raddfulltrúa í viðskiptahugbúnaðinum þínum sem geta hjálpað þér að semja tölvupóst, stjórna flóknum tímalínum verkefna eða greina gögn – allt í gegnum náttúrulegt samtal, án þess að skerða viðkvæm fyrirtækisgögn. Mewayz eining knúin af staðbundnum PersonaPlex 7B gæti boðið: