Nvidia PersonaPlex 7B air Apple Silicon: Òraid-gu-Òraid Làn-Duplex ann an Swift

A’ toirt a-steach crìoch ùr guth AI

Tha cruth-tìre inntleachd fuadain a’ gluasad bhon sgòth chun an oir, agus tha Apple Silicon a’ stiùireadh na cosgais. Do luchd-leasachaidh, tha an comas modalan cumhachdach a ruith gu h-ionadail a’ fosgladh saoghal ùr de chothroman airson tagraidhean freagairteach, prìobhaideach agus far-loidhne. Cuir a-steach PersonaPlex 7B aig Nvidia, modail ùr-nodha a chaidh a dhealbhadh airson AI còmhraidh nàdarra, brìoghmhor. Nuair a thèid am modail cumhachdach seo a chàradh le comas einnsean neural Mac an t-sreath M agus buileachadh sgiobalta Swift, is e an toradh adhartas ann an eadar-obrachadh cainnt-gu-cainnt fìor-ùine, làn-dùbailte.

Dè a th’ ann an Còmhradh-gu-Òraid Làn-Duplex?

Mus tèid thu a-steach don draoidheachd theicnigeach, tha e deatamach gun tuig thu am pàirt “làn-duplex”. Eu-coltach ri luchd-cuideachaidh guth sìmplidh a dh ’fheumas tu putan a bhrùthadh agus feitheamh ri freagairt, tha eadar-obrachadh làn-dùbailte coltach ri còmhradh daonna nàdarra. Tha e a’ ceadachadh bruidhinn agus èisteachd aig an aon àm, a’ comasachadh brisidhean, stadan, agus fìor chòmhradh air ais is air adhart. Tha seo a’ ciallachadh gun urrainn don AI na tha thu ag ràdh a phròiseasadh fhad ‘s a tha thu fhathast a’ bruidhinn agus freagairt a chuir ri chèile a thòisicheas an uair a chrìochnaicheas tu - no eadhon cuir a-steach gu socair ma stadas tu. Is e a bhith a’ coileanadh seo air inneal ionadail, gun a bhith a’ cur claisneachd gu frithealaiche fad às, an greadhnachas naomh airson eòlasan cleachdaiche fuaigheil is intuitive a chruthachadh.

A’ faighinn buannachd bho Ailtireachd Aonaichte Apple Silicon

Is e ailtireachd sònraichte Apple Silicon an iuchair gus seo a dhèanamh comasach air laptop no deasg. Bidh na sgoltagan M-sreath a’ cothlamadh an CPU, GPU, agus Einnsean Neural cumhachdach (NE) air aon phìos sileaconach. Tha an ailtireachd cuimhne aonaichte seo air leth freagarrach airson eallach obrach ionnsachadh innealan. Faodar modalan mòra mar PersonaPlex 7B a luchdachadh gu dìreach a-steach don chuimhne cho-roinnte, a’ leigeil leis an CPU loidsig an tagraidh ann an Swift a làimhseachadh, an GPU gus cuid de àireamhachadh a luathachadh, agus an Einnsean Neural gus a dhol tro phrìomh obair tensor a’ mhodail le fìor èifeachdas. Bidh an co-obrachadh seo a’ cuir às do bhotail gluasad dàta eadar co-phàirtean fa leth, a’ dèanamh co-dhùnadh fìor-ùine chan e a-mhàin comasach, ach rèidh agus lùth-èifeachdach.

• Prìobhaideachd is Luas: Bidh a h-uile giollachd a' tachairt gu h-ionadail air an uidheam. Cha tèid na còmhraidhean mothachail agad a chuir chun sgòth gu bràth, a’ dèanamh cinnteach à dìomhaireachd dàta iomlan fhad ‘s a gheibh thu buannachd bho latency faisg air neoni.
• Gnìomhachd far loidhne: Bidh prògraman a thèid a thogail leis a' chruach seo ag obair an àite sam bith, gun cheangal eadar-lìn, gan dèanamh air leth earbsach.
• Coileanadh Dùthchasach: Le bhith a’ cleachdadh Swift agus frèaman dùthchasach leithid Core ML leigidh sin amalachadh domhainn le macOS, a’ leantainn gu eòlas buttery-smooth a tha a’ faireachdainn mar phàirt den t-siostam obrachaidh fhèin.

A’ togail na loidhne-phìoban le Swift

Tha cruthachadh na loidhne-phìoban làn-dùbailte seo ann an Swift a’ ciallachadh a bhith a’ cur grunn phàirtean air dòigh. An toiseach, bidh am frèam AVFoundation a’ glacadh cuir a-steach claisneachd bhon mhicreofon. Bidh an sruth claisneachd seo an uairsin air a thionndadh gu teacsa a’ cleachdadh modal aithneachadh cainnt ionadail, leithid frèam Òraid air-inneal Apple. Tha an teacsa a thig às air a bhiadhadh a-steach don mhodal Nvidia PersonaPlex 7B, a chaidh a bharrrachadh gus a ruith tro Core ML no einnsean co-dhùnaidh eile a tha co-chosmhail ri Swift mar MLX. Bidh am modail a’ gineadh freagairt teacsa smaoineachail, mothachail air co-theacsa. Mu dheireadh, tha an teacsa seo air a thionndadh air ais gu cainnt beò le bhith a’ cleachdadh einnsean ionadail teacsa-gu-cainnt (TTS). Is e an fhìor dhùbhlan a bhith a’ riaghladh na co-phàirtean sin aig an aon àm gus a’ bhuaidh làn-dùbailte a choileanadh - gnìomh far am bi modal concurrency ùr Swift le async/await a’ dol air adhart.

Tha an comas modal den inbhe seo a ruith gu h-ionadail air Apple Silicon ag atharrachadh gu bunaiteach mar a tha sinn a’ smaoineachadh mu bhith ag amalachadh AI a-steach do ar sruthan-obrach làitheil. Bidh e a’ gluasad AI bho sheirbheis ceangailte gu inneal dùthchasach a bhios an-còmhnaidh ri fhaighinn." - Àrd leasaiche aig Mewayz

Buaidh air àrd-ùrlaran mar Mewayz

Airson siostam obrachaidh modular gnìomhachais mar Mewayz, tha an leum teicneòlach seo cruth-atharrachail. Smaoinich air riochdairean guth tuigseach taobh a-staigh bathar-bog a’ ghnìomhachais agad a chuidicheas tu gus puist-d a dhreachadh, loidhnichean-ama phròiseactan iom-fhillte a riaghladh, no mion-sgrùdadh a dhèanamh air dàta - uile tro chòmhradh nàdarra, gun a bhith a’ toirt buaidh air dàta corporra mothachail. Dh’ fhaodadh modal Mewayz le cumhachd bho PersonaPlex 7B ionadail a thabhann:

Dìomhaireachd nach fhacas a-riamh airson a bhith a’ làimhseachadh fiosrachadh gnìomhachais dìomhair, goireasan co-obrachaidh fìor-ùine a tha a’ faireachdainn mar gum biodh co-obraiche eòlach san t-seòmar, agus botaichean taic teachdaiche làn fhreagarrach air am filleadh a-steach gu àite-obrach Mewayz aig companaidh. Leigidh an teicneòlas seo le Mewayz crìochan nas urrainn do OS gnìomhachais a dhèanamh a phutadh, a’ gluasad nas fhaide na eadar-aghaidh sìmplidh stèidhichte air àithne gu siostaman fìor chòmhraidh agus tùrail a chuireas ri comas daonna gu tèarainte agus gu h-èifeachdach.

Tha an cothlamadh de PersonaPlex 7B aig Nvidia, cumhachd amh Apple Silicon, agus eireachdas Swift nas motha na dìreach demo teicnigeach; tha e na phlana airson eadar-obrachadh daonna-coimpiutair san àm ri teachd. Tha e a’ gealltainn saoghal far a bheil na h-innealan againn gar tuigsinn chan ann mar chomandairean a’ toirt seachad òrdughan, ach mar chom-pàirtichean ann an còmhradh.

Ceistean Bitheanta

A’ toirt a-steach crìoch ùr guth AI

Tha cruth-tìre inntleachd fuadain a’ gluasad bhon sgòth chun an oir, agus tha Apple Silicon a’ stiùireadh na cosgais. Do luchd-leasachaidh, tha an comas modalan cumhachdach a ruith gu h-ionadail a’ fosgladh saoghal ùr de chothroman airson tagraidhean freagairteach, prìobhaideach agus far-loidhne. Cuir a-steach PersonaPlex 7B aig Nvidia, modail ùr-nodha a chaidh a dhealbhadh airson AI còmhraidh nàdarra, brìoghmhor. Nuair a thèid am modail cumhachdach seo a chàradh le comas einnsean neural Mac an t-sreath M agus buileachadh sgiobalta Swift, is e an toradh adhartas ann an eadar-obrachadh cainnt-gu-cainnt fìor-ùine, làn-dùbailte.

Dè a th’ ann an Còmhradh-gu-Òraid Làn-Duplex?

Mus tèid thu a-steach don draoidheachd theicnigeach, tha e deatamach gun tuig thu am pàirt “làn-duplex”. Eu-coltach ri luchd-cuideachaidh guth sìmplidh a dh ’fheumas tu putan a bhrùthadh agus feitheamh ri freagairt, tha eadar-obrachadh làn-dùbailte coltach ri còmhradh daonna nàdarra. Tha e a’ ceadachadh bruidhinn agus èisteachd aig an aon àm, a’ comasachadh brisidhean, stadan, agus fìor chòmhradh air ais is air adhart. Tha seo a’ ciallachadh gun urrainn don AI na tha thu ag ràdh a phròiseasadh fhad ‘s a tha thu fhathast a’ bruidhinn agus freagairt a chuir ri chèile a thòisicheas an uair a chrìochnaicheas tu - no eadhon cuir a-steach gu socair ma stadas tu. Is e a bhith a’ coileanadh seo air inneal ionadail, gun a bhith a’ cur claisneachd gu frithealaiche fad às, an greadhnachas naomh airson eòlasan cleachdaiche fuaigheil is intuitive a chruthachadh.

A’ faighinn buannachd bho Ailtireachd Aonaichte Apple Silicon

Is e ailtireachd sònraichte Apple Silicon an iuchair gus seo a dhèanamh comasach air laptop no deasg. Bidh na sgoltagan M-sreath a’ cothlamadh an CPU, GPU, agus Einnsean Neural cumhachdach (NE) air aon phìos sileaconach. Tha an ailtireachd cuimhne aonaichte seo air leth freagarrach airson eallach obrach ionnsachadh innealan. Faodar modalan mòra mar PersonaPlex 7B a luchdachadh gu dìreach a-steach don chuimhne cho-roinnte, a’ leigeil leis an CPU loidsig an tagraidh ann an Swift a làimhseachadh, an GPU gus cuid de àireamhachadh a luathachadh, agus an Einnsean Neural gus a dhol tro phrìomh obair tensor a’ mhodail le fìor èifeachdas. Bidh an co-obrachadh seo a’ cuir às do bhotail gluasad dàta eadar co-phàirtean fa leth, a’ dèanamh co-dhùnadh fìor-ùine chan e a-mhàin comasach, ach rèidh agus lùth-èifeachdach.

A’ togail na loidhne-phìoban le Swift

Tha cruthachadh na loidhne-phìoban làn-dùbailte seo ann an Swift a’ ciallachadh a bhith a’ cur grunn phàirtean air dòigh. An toiseach, bidh frèam AVFoundation a’ glacadh cuir a-steach claisneachd bhon mhicreofon. Bidh an sruth claisneachd seo an uairsin air a thionndadh gu teacsa a’ cleachdadh modal aithneachadh cainnt ionadail, leithid frèam Òraid air-inneal Apple. Tha an teacsa a thig às air a bhiadhadh a-steach don mhodal Nvidia PersonaPlex 7B, a chaidh a bharrrachadh gus a ruith tro Core ML no einnsean co-dhùnaidh eile a tha co-chosmhail ri Swift mar MLX. Bidh am modail a’ gineadh freagairt teacsa smaoineachail, mothachail air co-theacsa. Mu dheireadh, tha an teacsa seo air a thionndadh air ais gu cainnt beò le bhith a’ cleachdadh einnsean ionadail teacsa-gu-cainnt (TTS). Is e an fhìor dhùbhlan a bhith a’ riaghladh na co-phàirtean sin aig an aon àm gus a’ bhuaidh làn-dùbailte a choileanadh - gnìomh far am bi modal concurrency ùr-nodha Swift le async / a’ feitheamh ri excels.

Buaidh air àrd-ùrlaran mar Mewayz

Airson siostam obrachaidh modular gnìomhachais mar Mewayz, tha an leum teicneòlach seo cruth-atharrachail. Smaoinich air riochdairean guth tuigseach taobh a-staigh bathar-bog a’ ghnìomhachais agad a chuidicheas tu gus puist-d a dhreachadh, loidhnichean-ama phròiseactan iom-fhillte a riaghladh, no mion-sgrùdadh a dhèanamh air dàta - uile tro chòmhradh nàdarra, gun a bhith a’ toirt buaidh air dàta corporra mothachail. Dh’ fhaodadh modal Mewayz le cumhachd bho PersonaPlex 7B ionadail a thabhann: