Hacker News

Unsloth Dynamic 2.0 GGUFs

باھا

1 min read Via unsloth.ai

Mewayz Team

Editorial Team

Hacker News
مەن Unsloth Dynamic 2.0 GGUFs ھەققىدىكى بىلىمىمگە ئاساسەن ماقالە يازىمەن. ھازىر تۈزەي.

نېمە ئۈچۈن يەرلىك سۈنئىي ئەقىل مودېللىرى كارخانىلارنىڭ سۈنئىي ئىدراكنى ئىشلىتىدىغانلىقىنى قايتىدىن شەكىللەندۈرىدۇ

يەرلىك قاتتىق دېتاللاردا كۈچلۈك سۈنئىي ئەقىل مودېللىرىنى يۈرگۈزۈش مۇسابىقىسى يېڭى سەھىپىگە كىردى. كارخانىلار خېرىدارلارنىڭ قوللىشىدىن تارتىپ ئىچكى ئاپتوماتلاشتۇرۇشقىچە بولغان ھەممە ئىشتا چوڭ تىل مودېلىغا تايىنىدىغان بولغاچقا ، ئىزچىل داۋاملىشىۋاتقان بىر رىقابەت يەنىلا مەۋجۇت: بۇ مودېللار ئىنتايىن چوڭ ، ھەمىشە نەچچە مىڭ دوللار خەجلەيدىغان كارخانا دەرىجىلىك GPU لارنى تەلەپ قىلىدۇ. Unsloth Dynamic 2.0 GGUFs نى كىرگۈزۈڭ - سۈنئىي ئەقىل مودېللىرىنى كۆرۈنەرلىك ئېنىقلىق بىلەن پىرىسلايدىغان مىقدارلاشتۇرۇش بۆسۈش ئېغىزى ، قاتتىق دېتال ئېھتىياجىنى زور دەرىجىدە تۆۋەنلىتىش بىلەن بىللە ، ئەڭ مۇھىم بولغان سۈپەتنى ساقلاپ قالىدۇ. Mewayz غا ئوخشاش سۇپىلاردا تىجارەت قىلىۋاتقان 138،000+ كارخانىغا نىسبەتەن ، بۇ يەرلىك سۈنئىي ئەقىلگە يۈزلىنىش تېخنىكىلىق قىزىقىش بولۇپلا قالماستىن ، ئۇ كېيىنكى ئەرزان ، شەخسىي ۋە تېز سودا ئاپتوماتلاشتۇرۇش دولقۇنىنىڭ ئاساسى.

GGUF دېگەن نېمە ۋە مىقدارلاشتۇرۇش نېمە ئۈچۈن

GGUF (GPT ھاسىل قىلغان بىرلىككە كەلگەن فورمات) llama.cpp ۋە Ollama غا ئوخشاش يەكۈن ماتور ئارقىلىق يەرلىك تىل مودېللىرىنى يەرلىكنىڭ ئىجرا قىلىدىغان ئۆلچەملىك ھۆججەت شەكلىگە ئايلاندى. بۇلۇتنى ئاساس قىلغان API تېلېفونىغا ئوخشىمايدىغىنى ، سىز ھەر بىر بەلگە ھەق تۆلەپ ، سىرتقى مۇلازىمېتىرغا سانلىق مەلۇمات ئەۋەتسىڭىز ، GGUF تىپلىرى پۈتۈنلەي ئۆزىڭىزنىڭ قاتتىق دېتالى ، خاتىرە كومپيۇتېرىڭىز ، مۇلازىمېتىرىڭىز ، ئۇل ئەسلىھەلىرىڭىزدە ئىجرا بولىدۇ. بۇ سانلىق مەلۇماتلارنىڭ ئاشكارىلىنىپ كېتىشى ، تەڭشەلگەندىن كېيىنكى تەلەپنىڭ نۆل ئىكەنلىكى ، پەقەت قاتتىق دېتال بىلەنلا چەكلىنىدىغان يەكۈننىڭ تېزلىكى دېگەنلىك.

مىقدارلاشتۇرۇش پىرىسلاش تېخنىكىسى بولۇپ ، يەرلىك ئورۇنلاشتۇرۇشنى ئەمەلىي قىلىدۇ. تولۇق ئېنىقلىقتىكى 70 مىليارد پارامېتىرلىق مودېل بەلكىم 140 GB ئىچكى ساقلىغۇچنى تەلەپ قىلىشى مۇمكىن ، بۇ كۆپىنچە قاتتىق دېتاللارنىڭ بىر تەرەپ قىلالايدىغان ئىقتىدارىدىن كۆپ. مىقدارلاشتۇرۇش مودېل ئېغىرلىقىنىڭ سان ئېنىقلىقىنى 16 bit لىك لەيلىمە نۇقتىدىن 8 bit ، 4 bit ، ھەتتا 2 bit لىق پۈتۈن سانغا تۆۋەنلىتىدۇ. سودىدا ئەنئەنە ئاددىي بولۇپ: كىچىك ھۆججەتلەر ئەرزان قاتتىق دېتاللاردا ئىجرا بولىدۇ ، ئەمما سۈپىتى كۆرۈنەرلىك تۆۋەنلەيدۇ. 2 بىتلىق مىقدارلاشتۇرۇلغان مودېل بەلكىم MacBook غا ماس كېلىشى مۇمكىن ، ئەمما ئۇنىڭ ئېنىقلىق دەرىجىسىگە سېلىشتۇرغاندا كۆرۈنەرلىك ناچار ئۈنۈم ھاسىل قىلىشى مۇمكىن.

بۇ دەل Unsloth Dynamic 2.0 ھەل قىلماقچى بولغان مەسىلە - نەتىجىدە ئوچۇق كودلۇق سۈنئىي ئەقىل جەمئىيىتىگە يۈزلەندى.

ئېچىلمىغان ھەرىكەتچان 2.0 ئويۇننى قانداق ئۆزگەرتىدۇ

ئەنئەنىۋى مىقدارلاشتۇرۇش مودېلنىڭ ھەر بىر قەۋىتىدە ئوخشاش كەڭلىكتىكى كەڭلىكتە ئوخشاش قوللىنىلىدۇ. Unsloth Dynamic 2.0 تۈپتىن ئوخشىمايدىغان ئۇسۇلنى قوللىنىدۇ: ئۇ ھەر بىر قەۋەتنىڭ سەزگۈرلۈكىنى ئانالىز قىلىدۇ ۋە مەھسۇلات سۈپىتىگە ئەڭ مۇھىم بولغان قاتلاملارغا تېخىمۇ يۇقىرى ئېنىقلىق بېرىدۇ ، شۇنىڭ بىلەن بىر ۋاقىتتا ، تۆۋەن دەرىجىدىكى ئېنىقلىققا بەرداشلىق بېرەلەيدىغان قاتلاملارنى ئەھمىيەتلىك تۆۋەنلىتىدۇ. ئىسىمدىكى «ھەرىكەتچان» بۇ قاتلامغا ماسلىشىش تەقسىملەش ئىستراتېگىيىسىنى كۆرسىتىدۇ.

نەتىجە كىشىنىڭ دىققىتىنى تارتىدۇ. Unsloth نىڭ كۆرسەتكۈچلىرىدە كۆرسىتىلىشىچە ، ئۇلارنىڭ Dynamic 2.0 مىقدارلاشتۇرۇلغان مودېللىرى كىچىكرەك ھۆججەت چوڭلۇقىدا ئۆلچەملىك مىقدارلاشتۇرۇش ئۇسۇلى بىلەن ماسلىشالايدىكەن ، ھەتتا ئۇنىڭدىن ئېشىپ كېتەلەيدىكەن. Dynamic 2.0 4 bit لىق مىقدارلاشتۇرۇش ھەمىشە ئۆلچەملىك 5 bit ياكى 6 bit لىك مىقدارغا يېقىنلىشىدۇ ، يەنى سىز ئوخشاش چوڭلۇقتا تېخىمۇ ياخشى سۈپەتكە ئېرىشىسىز - ياكى مەنىسى كىچىكرەك ئاياغ ئىزىدا ئوخشاش سۈپەتكە ئېرىشىسىز. چەكلەنگەن قاتتىق دېتالدا مودېل يۈرگۈزىدىغان كارخانىلارغا نىسبەتەن ، بۇ بىۋاسىتە ياكى تېخىمۇ چوڭ ، تېخىمۇ ئىقتىدارلىق مودېللارنى ئىشلىتىشكە ياكى ئەرزان باھالىق ماشىنىلارغا ھازىرقى مودېللارنى ئىشلىتىشكە بىۋاسىتە تەرجىمە قىلىدۇ.

تېخنىكىلىق يېڭىلىق Unsloth نىڭ تەڭشەش جەريانىدا. Dynamic 2.0 ئاددىي ستاتىستىكىلىق تەدبىرلەرگە تايانماي ، ئەستايىدىللىق بىلەن ئەگرى سىزىقلىق سانلىق مەلۇمات سانلىق مەلۇماتلىرىنى ئىشلىتىپ ، قايسى دىققەت بېشى ۋە يەم-خەشەك ئالدى قەۋىتىنىڭ ماس ھالدا چىقىرىشقا تۆھپە قوشىدىغانلىقىنى ئېنىقلايدۇ. بۇ ھالقىلىق قەۋەتلەر 4 بىتلىق ياكى ئۇنىڭدىن يۇقىرى ئېنىقلىقنى قوبۇل قىلىدۇ ، ئەمما سەزگۈر قەۋەتلەر ئەڭ تۆۋەن سۈپەت تەسىرى بىلەن 2 bit گە چۈشۈپ قالىدۇ. نەتىجىدە GGUF ھۆججىتى بولۇپ ، ئۇنىڭ ئېغىرلىق دەرىجىسىدىن يۇقىرى.

ھەقىقىي دۇنيا ئىپادىسى: سانلارنىڭ نېمە دېيىشى

ئەمەلىي تەسىرنى چۈشىنىش ئۈچۈن ، Llama 3.1 70B غا ئوخشاش مودېلنى ئىجرا قىلىشنى ئويلاڭ. تولۇق 16 بىتلىق ئېنىقلىقتا ، بۇ مودېل تەخمىنەن 140 GB لىق ئىچكى ساقلىغۇچنى تەلەپ قىلىدۇ - كۆپ يۇقىرى سەپلىمىلىك GPU ياكى پەۋقۇلئاددە ئىچكى ساقلىغۇچ بار مۇلازىمېتىرغا ئېھتىياجلىق. ئۆلچەملىك Q4_K_M مىقدارلاشتۇرۇش بۇنى تەخمىنەن 40 GB غا چۈشۈردى ، يۇقىرى دەرىجىلىك خىزمەت پونكىتىدا ئىجرا بولىدۇ. Unsloth Dynamic 2.0 نىڭ سېلىشتۇرما 4 بىتلىق ئوتتۇرىچە سەۋىيىدىكى ئۇسۇلى ئوخشاش ياكى تېخىمۇ ياخشى ئۆلچەم نومۇرىغا ئېرىشىدۇ ، شۇنىڭ بىلەن بىر ۋاقىتتا ئاچقۇچلۇق باھالاش سانلىق مەلۇمات جەدۋىلىدە كۆرۈنەرلىك ياخشىلانغان گاڭگىراشنى تەمىنلەيدۇ.

كىچىك تىپتىكى مودېللارغا نىسبەتەن ، 7B دىن 13B غىچە بولغان پارامېتىر دائىرىسى نۇرغۇن كارخانىلار ئەمەلىي ئىشلىتىدۇ - پايدا تېخىمۇ كۆرۈنەرلىك. Dynamic 2.0 مىقدارلاشتۇرۇلغان 8B مودېلى 16 GB لىق ئىچكى ساقلىغۇچ بىلەن MacBook دا راھەت ئىجرا بولىدۇ ، مۇستەقىل باھالىغۇچىلار باھالىغان نەتىجىنى تېخىمۇ چوڭ ئۆلچەملىك مىقدارلاشتۇرۇش بىلەن سېلىشتۇرۇشقا بولىدۇ. مودېل سۈپىتىنىڭ دېموكراتىيىلىشىشى يەرلىك سۈنئىي ئەقىلنى ياخشى مەبلەغ سالغان تېخنىكا شىركەتلىرىلا ئەمەس ، ئوتتۇرا ۋە كىچىك كارخانىلار ئۈچۈن ھاياتىي كۈچكە ئىگە قىلىدۇ.

يەرلىك سۈنئىي ئەقىلدىكى ئەڭ كۆرۈنەرلىك ئۆزگىرىش مودېللارنى كىچىكلىمەيدۇ - ئۇ كىچىك تىپلارنى تېخىمۇ ئەقىللىق قىلىدۇ. Unsloth Dynamic 2.0 ئەمەلىيەتتە بۇ پرىنسىپقا ۋەكىللىك قىلىدۇ: ئەقلىي ئىقتىدارلىق پىرىسلاش كارخانىنىڭ ئەمەلىيەتتە تايىنىدىغان ئەقلىي ئىقتىدارنى ساقلاپ قېلىش بىلەن بىر ۋاقىتتا ، ئۇلار كۆتۈرەلمەيدىغان ھېسابلاش ئېغىرلىقىنى تۆكۈش بىلەن بىللە.

نېمە ئۈچۈن سودا تىجارىتى ۋە ئاپتوماتلاشتۇرۇشنىڭ مۇھىملىقى

سۈنئىي ئەقىل ئارقىلىق ھەرىكەتلىنىدىغان سۇپىلاردىن پايدىلىنىدىغان كارخانىلارغا نىسبەتەن ، ئاساسىي مودېللارنىڭ ئۈنۈمى مۇمكىن بولىدىغان ئىشلارغا بىۋاسىتە تەسىر كۆرسىتىدۇ. مەشغۇلات رېئاللىقىنى ئويلاپ بېقىڭ: سۈنئىي ئەقىل ئارقىلىق خېرىدارلارنىڭ سۈرۈشتۈرۈش لىنىيىسى ، تالون سانلىق مەلۇماتلىرىنى ئېلىش ، تەيىنلەش ۋاقىت جەدۋىلى ۋە ئىچكى بىلىملەرنى يىغىش ئۈچۈن ئىشلىتىلىدىغان شىركەت ھەم تېز ھەم توغرا بولغان مودېلغا موھتاج. Cloud API بۇ يۇقىرى ھەجىملىك ، تەكرارلانغان ۋەزىپىلەرنىڭ تەننەرخى تېز سۈرئەتتە كۈچىيىدۇ - ئاكتىپ كارخانىلار ئۈچۈن ھەر ئايدا نەچچە يۈز ياكى نەچچە مىڭ دوللارغا يېتىدۇ.

Unsloth Dynamic 2.0 بىلەن مىقدارلاشقان يەرلىك مودېللار بۇ ھېسابلاشنى پۈتۈنلەي ئۆزگەرتىدۇ. Mewayz نىڭ 207 مودۇللۇق سۇپىسى - CRM ، تالون ، HR ، زاكاز ۋە ئانالىز قاتارلىقلارنى ئۆز ئىچىگە ئالغان كارخانا نەزەرىيە جەھەتتىن يەرلىك مودېلنى ئورۇنلاشتۇرۇپ ، خېرىدارلارنىڭ ئۆز-ئارا تەسىرلىرىنى خۇلاسىلەش ، قوللاش بېلىتىنى تۈرگە ئايرىش ياكى ئادەتتىكى سوئاللارغا دەسلەپكى لايىھە ھاسىل قىلىش قاتارلىق دائىملىق AI ۋەزىپىلىرىنى بىر تەرەپ قىلالايدۇ. بىر قېتىم قاتتىق دېتالغا مەبلەغ سېلىش داۋاملىشىۋاتقان API ھەققىنىڭ ئورنىنى ئالىدۇ ، سەزگۈر سودا سانلىق مەلۇماتلىرى ھەرگىزمۇ سورۇندىن ئايرىلمايدۇ.

بۇ قاتتىق سانلىق مەلۇمات بىر تەرەپ قىلىش تەلىپى بار كەسىپلەرگە ئالاھىدە ماس كېلىدۇ. ساقلىقنى ساقلاش ئەمەلىيىتى ، قانۇنىي شىركەتلەر ، مالىيە مەسلىھەتچىلىرى ۋە شەخسىي سالاھىيەتكە ئىگە ئۇچۇرلارنى بىر تەرەپ قىلىدىغان ھەر قانداق سودا سۈنئىي ئەقىل يەكۈنى پۈتۈنلەي نەق مەيداندا يۈز بەرگەندە غايەت زور ماسلىشىش ئەۋزەللىكىگە ئېرىشىدۇ. Dynamic 2.0 نىڭ سۈپىتىنى قوغداش ۋە يەرلىك ئورۇنلاشتۇرۇشنىڭ مەخپىيەتلىك كاپالىتى بىرلەشتۈرۈلگەن مەشغۇلات ئەندىزىسىنى بارلىققا كەلتۈرىدۇ.

💡 DID YOU KNOW?

Mewayz replaces 8+ business tools in one platform

CRM · Invoicing · HR · Projects · Booking · eCommerce · POS · Analytics. Free forever plan available.

Start Free →

باشلاش: ئەمەلىي ئورۇنلاشتۇرۇش يولى

Unsloth Dynamic 2.0 GGUFs ئۈستىدە ئىزدىنىشكە تەييارلانغان كارخانا ۋە پروگراممېرلارغا نىسبەتەن ، ئورۇنلاشتۇرۇش يولى نۇرغۇن كىشىلەر ئويلىغاندىنمۇ قولايلىق. بۇ يەردە ئەمەلىي يول خەرىتىسى:

  1. ئەندىزىڭىزنى ئاقىلانە تاللاڭ. ئادەتتىكى سودا ۋەزىپىلىرىنىڭ 8B پارامېتىر ئەندىزىسىدىن باشلاڭ. Llam 3.1 8B ياكى Qwen 2.5 7B غا ئوخشاش مودېللار Dynamic 2.0 بىلەن Unsloth تەرىپىدىن مىقدارلاشقان ، بىۋاسىتە Hugging Face دا بار ھەمدە ئەلا سۈپەتلىك بايلىق نىسبىتى بىلەن تەمىنلەيدۇ.
  2. يەكۈن ماتورىڭىزنى تاللاڭ. Ollama تېخنىكىلىق بولمىغان ئىشلەتكۈچىلەر ئۈچۈن ئەڭ ئاددىي تەڭشەش - مودېللارنى چۈشۈرۈش ۋە ئىجرا قىلىش ئۈچۈن بىرلا بۇيرۇق بىلەن تەمىنلەيدۇ. تېخىمۇ كۆپ كونترول قىلىش ئۈچۈن ، llama.cpp دانچە سەپلىمە تاللانمىلىرى ۋە ئىشلەپچىقىرىش خىزمەت يۈكى ئۈچۈن تېخىمۇ يۇقىرى ئۈنۈم بىلەن تەمىنلەيدۇ.
  3. قاتتىق دېتال بىلەن مىقدارلاشتۇرۇشنى ماسلاشتۇرۇڭ. 16 GB لىق سىستېمىغا نىسبەتەن ، Q4_K_M ياكى Dynamic 2.0 4 بىتلىق ۋارىيانتلىرى ناھايىتى ياخشى تەڭپۇڭلۇقنى تەمىنلەيدۇ. 32 GB ياكى ئۇنىڭدىن يۇقىرى سىستېمىلار چوڭ تىپتىكى تىپلارنىڭ Q5 ياكى Q6 تىپلىرىنى راھەت ئىجرا قىلالايدۇ.
  4. ئەمەلىي خىزمەت يۈكىڭىزدىكى ئۆلچەم. نۆۋەتتىكى ھەل قىلىش ئۇسۇلىڭىزغا قارشى بىر ھەپتە پاراللېل سىناق قىلىڭ.
  5. مەۋجۇت قوراللىرىڭىز بىلەن بىرلەشتۈرۈڭ. كۆپىنچە زامانىۋى سودا سۇپىلىرى يەرلىك مودېل ئاخىرقى نۇقتىلىرىغا API ئاساسىدىكى ئۇلىنىشنى قوللايدۇ. مەيلى سىز CRM غا سۈنئىي ئەقىل ھاسىل قىلغان خۇلاسە ، تۇرۇبا سىستېمىسىدىكى چىقىمنى ئاپتوماتىك تۈرگە ئايرىش ياكى زاكاز بېتىڭىزدىكى پاراڭلىشىش ئىنكاسىنى قوزغىتىش بولسۇن ، بىرلەشتۈرۈش قەۋىتى ئادەتتە بىۋاسىتە REST API ئۇلىنىشىدۇر.

ئەقلىي ئىقتىدارلىق ئۈنۈمگە قارىتا تېخىمۇ كەڭ بۇرۇلۇش

Unsloth Dynamic 2.0 بولسا سودىدىكى سۈنئىي ئەقىلنىڭ ئىقتىسادىنى قايتىدىن بەلگىلەيدىغان تېخىمۇ چوڭ يۈزلىنىشنىڭ بىر قىسمى. بۇ ھېكايە «چوڭ تىپتىكى مودېللار ھەمىشە تېخىمۇ ياخشى» دىن «مۇۋاپىق چوڭلۇقتىكى مودېللارنى تېخىمۇ ئەقىللىق ئورۇنلاشتۇرۇش غەلىبە قىلىدۇ» غا ئۆزگەردى. سۈنئىي ئەقىل ئىستراتېگىيىسىنى پەقەت بۇلۇت API لىرى ئەتراپىدا قۇرغان شىركەتلەر ھازىر تەننەرخنىڭ ئۆسۈشى ۋە مەخپىيەتلىك بەلگىلىمىلىرىنىڭ چىڭىشىغا ئەگىشىپ قايتا ئويلىنىۋاتىدۇ. شۇنىڭ بىلەن بىر ۋاقىتتا ، ئوچۇق كودلۇق مەھەللە تېخى ئون سەككىز ئاي ئىلگىرى تەسەۋۋۇر قىلغىلى بولمايدىغان ھەرىكەتچان مىقدارلاشتۇرۇشقا ئوخشاش يېڭىلىقلارنى داۋاملىق يەتكۈزدى.

بۇ يۈزلىنىش مودۇللۇق سودا سۇپىسى پەلسەپىسى بىلەن تەبىئىي ماسلىشىدۇ. Mewayz كارخانىلارغا پەقەت ئۆزى ئېھتىياجلىق بولغان مودۇللارنىلا قوزغىتالايدۇ - خېرىدارلار باشقۇرۇشتىكى CRM ، گۇرۇپپا مەشغۇلاتى ئۈچۈن ئىش ھەققى ، تەدبىر بەلگىلەش ئانالىزى - ئەقلىي مىقدارلاشتۇرۇش كارخانىلارغا ئېھتىياجلىق بولغان سۈنئىي ئەقىل ئىقتىدارىنى پەقەت ئۇلارنىڭ ئىشلىتىش دېلو تەلىپىنى دەل جايىدا ئورۇنلاشتۇرالايدۇ. ئاددىي سوئال پاراڭلىرى قانۇن ھۆججەت ئانالىزچىسىغا ئوخشاش مودېل سۈپىتىگە موھتاج ئەمەس ، ھەرىكەتچان مىقدارلاشتۇرۇش ھەر بىر ئورۇنلاشتۇرۇشنى توغرا چوڭلۇقتا ئەمەلىيلەشتۈرىدۇ.

GGUF تىپلىرىنى چۆرىدىگەن ئوچۇق مەنبەلىك ئېكولوگىيىلىك سىستېمامۇ خېلى پىشىپ يېتىلدى. مەھەللە قوزغىتىش سۈپىتىنى باھالاش ، قېلىپلاشقان ئۆلچەم قوراللىرى ۋە ئاكتىپ مۇنبەرلەر بۇ مودېللارنى باھالاش ۋە ئورۇنلاشتۇرۇش ئۈچۈن كارخانىلارنىڭ مەخسۇس ML قۇرۇلۇش ئەترىتىگە ئېھتىياجلىق ئەمەسلىكىنى كۆرسىتىدۇ. تېخنىكىلىق ئىقتىدارلىق مەشغۇلات ئەترىتى چۈشتىن كېيىن ئىشلەپچىقىرىش سۈپىتىدىكى يەرلىك سۈنئىي ئەقىلنى ئىجرا قىلالايدۇ - بۇ جەريانغا ئىككى يىل ئىلگىرى بىر نەچچە ھەپتە ۋە مەخسۇس تەجرىبە قىلىشقا توغرا كېلەتتى.

كېيىنكى ئىشلار: يەرلىك سۈنئىي ئەقىلنىڭ ئالدىدىكى يول

ھەرىكەتچان مىقدارلاشتۇرۇش يەنىلا تەرەققىي قىلماقتا. Unsloth داۋاملىق تەرەققىي قىلىۋاتقانلىقىدىن بېشارەت بەردى ، باشقا ئوچۇق كودلۇق كوماندىلارنىڭ رىقابەت ئۇسۇلى داۋاملىق ئۈنۈم چېگرىسىنى ئىلگىرى سۈردى. يېڭىدىن بارلىققا كەلگەن بىر قانچە يۈزلىنىشنى كۆرۈشكە ئەرزىيدۇ:

  • ھايانكەشلىك كودلاش ھەرىكەتچان مىقدار بىلەن بىرلەشتۈرۈلۈپ قوشۇمچە قاتتىق دېتال بولمىسا يەكۈنلىنىش سۈرئىتىنى 2-3 ھەسسە تېزلىتىدۇ.
  • مۇتەخەسسىسلەرنىڭ ئارىلاشما قۇرۇلمىسى تەبىئىي ھالدا ھەرىكەتچان مىقدارلاشتۇرۇشنى تولۇقلايدۇ ، چۈنكى پەقەت ئاكتىپ مۇتەخەسسىس قاتلىمىدىكىلەر ھەر قانداق ۋاقىتتا ئەستە ساقلاشقا موھتاج.
  • قاتتىق دېتالنى بىلىدىغان مىقدارلاشتۇرۇش ئالاھىدە ئۆزەك قۇرۇلمىسى - ئالما كرېمنىي ، AMD ROCm ، Intel Arc غا ماس ھالدا پىرىسلاشنى تېخىمۇ كۈچەيتىدۇ.
  • ئىنچىكە تەڭشەلگەن سودا ئەندىزىسى Unsloth نىڭ مەشىق قوراللىرىنى ئىشلىتىپ Dynamic 2.0 ئېكىسپورتى بىلەن بىرلەشتۈرۈلۈپ ، شىركەتلەرنىڭ ھەم ئالاھىدە ھەم ئۈنۈملۈك پىرىسلانغان ساھەگە خاس مودېللارنى بارلىققا كەلتۈرۈشىگە يول قويىدۇ.

ئاللىقاچان توپلاشتۇرۇلغان سۇپىلاردا تىجارەت قىلىۋاتقان كارخانىلارغا نىسبەتەن ئەمەلىي مەنىسى ئېنىق: شەخسىي ، ئىقتىدارلىق سۈنئىي ئەقىلنى ئورۇنلاشتۇرۇشتىكى تەننەرخ ۋە مۇرەككەپ توساق داۋاملىق تۆۋەنلەيدۇ. ئىلگىرى ئالتە خانىلىق ئۇل ئەسلىھە خامچوتىنى تەلەپ قىلغىنى ھازىر زامانىۋى خىزمەت پونكىتى ۋە توغرا مىقدارلاشتۇرۇش ئىستراتېگىيىسى بىلەن ئەمەلگە ئاشىدۇ. بۇ ئىقتىدارلارنى تىجارىتىگە بىرلەشتۈرۈش ئۈچۈن ئەڭ بالدۇر ھەرىكەتلىنىدىغان كارخانىلار - دائىملىق ۋەزىپىلەرنى ئاپتوماتلاشتۇرۇش ، خېرىدارلارنىڭ ئۆز-ئارا ئالاقىسىنى كۈچەيتىش ۋە ئۇلارنىڭ سانلىق مەلۇماتلىرىدىن چۈشەنچە ھاسىل قىلىش قاتارلىقلار تېخنىكىنىڭ تەرەققىي قىلىشىغا ئەگىشىپ ، بىرىكمە ئەۋزەللىككە ئىگە بولىدۇ.

ئۈنۈملۈك يەرلىك سۈنئىي ئەقىل دەۋرى يېقىنلاشمىدى - ئۇ مانا. Unsloth Dynamic 2.0 GGUFs ئۇنىڭ ئەڭ كۆرۈنەرلىك باسقۇچلىرىنىڭ بىرىگە ۋەكىللىك قىلىدۇ ، بۇ مودېلنىڭ سۈپىتى بىلەن ئەمەلىي ئورۇنلاشتۇرۇشنى تاللىشىڭىزنىڭ ھاجىتى يوقلىقىنى ئىسپاتلايدۇ. كەلگۈسىنى مودۇللۇق ، ئەقلىي ئىقتىدارلىق سۇپىلاردا بەرپا قىلىدىغان كارخانىلارغا نىسبەتەن ، بۇ دەل ئۇلۇغۋار ئارزۇنى ئىجرا قىلىشقا ئايلاندۇرىدىغان بۆسۈش.

دائىم سورايدىغان سوئاللار

Unsloth Dynamic 2.0 GGUFs دېگەن نېمە؟

Unsloth Dynamic 2.0 GGUFs بولسا چوڭ تىل مودېللىرىنىڭ ئىلغار مىقدارلاشتۇرۇلغان نۇسخىسى بولۇپ ، ھەرىكەتچان مىقدارلاشتۇرۇش تېخنىكىسى ئارقىلىق مودېلنىڭ ئېغىرلىقىنى قىسىش ئارقىلىق مەھسۇلات سۈپىتىنى ساقلاپ قالىدۇ. ئەنئەنىۋى بىردەك مىقدارلاشتۇرۇشقا ئوخشىمايدىغىنى ، Dynamic 2.0 ھەر بىر قەۋەتنىڭ مۇھىملىقىنى تەھلىل قىلىدۇ ۋە ماس ھالدا ئوخشىمىغان ئېنىقلىقنى قوللىنىدۇ. دېمەك ، كارخانىلار ئىشلەپچىقىرىش خىزمەت يۈكىگە كېرەكلىك ئىقتىدارنى قۇربان قىلماي ، ئىستېمالچىلار دەرىجىلىك قاتتىق دېتاللاردا كۈچلۈك سۈنئىي ئەقىل مودېلىنى ئىجرا قىلالايدۇ.

ھەرىكەتچان مىقدارلاشتۇرۇش ئۆلچەملىك GGUF مىقدارلاشتۇرۇش بىلەن قانداق پەرقلىنىدۇ؟

ئۆلچەملىك GGUF مىقدارلاشتۇرۇش بارلىق مودېل قەۋىتىدە ئوخشاش بىر ئاز كېمەيتىشنى قوللىنىدۇ ، بۇ ھالقىلىق دىققەت قەۋىتىنى تۆۋەنلىتىدۇ. Unsloth Dynamic 2.0 ئەقلىي ئىقتىدارلىق ھالدا مۇھىم قاتلاملارغا تېخىمۇ يۇقىرى ئېنىقلىق ، تۆۋەن سەزگۈرلۈككە تۆۋەن ئېنىقلىق بېرىدۇ. ئوخشاش بىر ھۆججەتنىڭ چوڭلۇقىدىكى نەتىجىسى كۆرۈنەرلىك ياخشى بولۇپ ، ئىچكى ساقلىغۇچنىڭ تەلىپىنى ئەڭ تۆۋەن ھالەتتە ساقلاپ قېلىش بىلەن بىللە ، ئۆلچەملىك ئۆلچەمدە ئىككى خىل ئۆلچەم دەرىجىسىگە ماس كېلىدۇ.

كىچىك كارخانىلار يەرلىك AI مودېللىرىنى يۈرگۈزۈشتىن نەپكە ئېرىشەلەمدۇ؟

ئەلۋەتتە. يەرلىك سۈنئىي ئەقىل مودېللىرى قايتا-قايتا API تەننەرخىنى چىقىرىپ تاشلاپ ، سانلىق مەلۇماتلارنىڭ مەخپىيەتلىكىگە كاپالەتلىك قىلىدۇ ۋە ئەمەلىي قوللىنىشچان پروگراممىلارنىڭ كېچىكىشىنى ئازايتىدۇ. Mewayz غا ئوخشاش بىر سۇپا بىلەن ماسلاشتۇرۇلغان - 207 مودۇللۇق سودا مەشغۇلات سىستېمىسى 19 دوللار / دوللاردىن باشلىنىدۇ - كىچىك كارخانىلار ئۈچىنچى تەرەپ مۇلازىمېتىرلىرىغا سەزگۈر سانلىق مەلۇمات ئەۋەتمەي تۇرۇپ ، يەرلىك سۈنئىي ئەقىلنى ھازىرقى خىزمەت ئېقىمىغا بىرلەشتۈرەلەيدۇ. AI تەييار قوراللارنى تەكشۈرۈش ئۈچۈن app.mewayz.com نى زىيارەت قىلىڭ.

Unsloth Dynamic 2.0 GGUFs نى ئىجرا قىلىش ئۈچۈن قايسى قاتتىق دېتال لازىم؟

تاجاۋۇزچىلىقنىڭ پىرىسلىشى نەتىجىسىدە ، نۇرغۇنلىغان Dynamic 2.0 GGUF تىپلىرى ئىستېمالچىلار GPU دا 8GB VRAM غا يېتىدۇ ، ھەتتا llama.cpp ياكى Ollama غا ئوخشاش قوراللارنى ئىشلىتىپ 16-32GB لىق ئىچكى ساقلىغۇچ سەپلەنگەن. Q4_K_M غا ئوخشاش كىچىك مىقداردىكى ۋارىيانتلار سۈپەت بىلەن بايلىق ئىشلىتىش ئوتتۇرىسىدا ناھايىتى ياخشى تەڭپۇڭلۇقنى ساقلايدۇ ، يەرلىك سۈنئىي ئەقىل ئورۇنلاشتۇرۇشى مەخسۇس مۇلازىمېتىر ئۇل ئەسلىھەلىرى بولمىغان كارخانىلارغا ئەمەلىي قوللىنىلىدۇ.

.

Try Mewayz Free

All-in-one platform for CRM, invoicing, projects, HR & more. No credit card required.

Start managing your business smarter today

Join 30,000+ businesses. Free forever plan · No credit card required.

Ready to put this into practice?

Join 30,000+ businesses using Mewayz. Free forever plan — no credit card required.

Start Free Trial →

Ready to take action?

Start your free Mewayz trial today

All-in-one business platform. No credit card required.

Start Free →

14-day free trial · No credit card · Cancel anytime