Hacker News

بىخەتەر YOLO ھالىتى: Libvirt ۋە Virsh بىلەن vms دا LLM ۋاكالەتچىلىرىنى ئىجرا قىلىش

بىخەتەر YOLO ھالىتى: Libvirt ۋە Virsh بىلەن vms دا LLM ۋاكالەتچىلىرىنى ئىجرا قىلىش بىخەتەر بولغان بۇ ئەتراپلىق ئانالىز ئۇنىڭ يادرولۇق تەركىبلىرى ۋە تېخىمۇ كەڭ تەسىرلىرىنى تەپسىلىي تەكشۈرۈش بىلەن تەمىنلەيدۇ. مۇھىم نۇقتىلار مۇنازىرە مەركەزلىرى: Core mech ...

1 min read Via www.metachris.dev

Mewayz Team

Editorial Team

Hacker News

بىخەتەر YOLO ھالىتى: VM دا Libvirt ۋە Virsh بىلەن LLM ۋاكالەتچىلىرىنى ئىجرا قىلىش

بىخەتەر YOLO ھالىتى سىزگە LLM ۋاكالەتچىلىرىگە يەككە مەۋھۇم ماشىنىلارنىڭ ئىچىدە چەكلىمىسىز ئىجرا قىلىش ھوقۇقى بېرىدۇ ، ئاپتوماتىك مەشغۇلات سۈرئىتىنى قاتتىق دېتال دەرىجىلىك مەۋھۇملاشتۇرۇشنىڭ چەكلەش كاپالىتى بىلەن بىرلەشتۈرىدۇ. Libvirt نىڭ باشقۇرۇش قاتلىمىنى ۋىرۇسنىڭ بۇيرۇق لىنىيىسىنى كونترول قىلىش بىلەن بىرلەشتۈرۈش ئارقىلىق ، گۇرۇپپىلار سۈنئىي ئەقىل سۈنئىي ئەقىل ۋاكالەتچىلىرىنى شۇنچە تاجاۋۇز قىلالايدۇ ، ھەتتا ئاپەت خاراكتېرلىك خىيالمۇ VM چېگراسىدىن قېچىپ قۇتۇلالمايدۇ.

LLM ۋاكالەتچىلىرى ئۈچۈن «بىخەتەر YOLO ھالىتى» زادى نېمە؟

سۈنئىي ئەقىل قورالىدىكى «YOLO ھالىتى» ئىبارىسى ۋاكالەتچىلەرنىڭ ھەر بىر قەدەمدە ئىنسانلارنىڭ جەزملەشتۈرۈشىنى كۈتمەي تۇرۇپ ھەرىكەت قىلىدىغان سەپلىمىنى كۆرسىتىدۇ. ئۆلچەملىك ئورۇنلاشتۇرۇشتا ، بۇ ھەقىقەتەن خەتەرلىك - ماسلاشمىغان ۋاكالەتچى ئىشلەپچىقىرىش سانلىق مەلۇماتلىرىنى ئۆچۈرەلەيدۇ ، كىنىشكىنى ئۆچۈرۈۋېتەلەيدۇ ياكى سېكۇنتتا ئەسلىگە كەلتۈرگىلى بولمايدىغان API تېلېفونى قىلالايدۇ. بىخەتەر YOLO ھالىتى بىخەتەرلىك كاپالىتىنى ۋاكالەتچى قەۋىتىدىن ئۇل ئەسلىھە قەۋىتىگە يۆتكەش ئارقىلىق بۇ جىددىيلىكنى ھەل قىلىدۇ.

مودېل نېمىگە ئېھتىياجلىق قىلىشنى چەكلەشنىڭ ئورنىغا ، مۇھىت رۇخسەت قىلغان نىڭ ئۇنىڭغا تەسىر كۆرسىتىشىنى چەكلەيسىز. ۋاكالەتچى يەنىلا قۇلۇلە بۇيرۇقلىرىنى ئىجرا قىلالايدۇ ، ئورالما قاچىلىيالايدۇ ، ھۆججەت يازالايدۇ ۋە سىرتقى API لارغا تېلېفون قىلالايدۇ - ئەمما بۇ ھەرىكەتلەرنىڭ ھەممىسى مەۋھۇم كومپيۇتېرنىڭ ئىچىدە يۈز بېرىدۇ ، سىزنىڭ باش ئاپپارات تورىڭىز ، ئىشلەپچىقىرىش مەخپىيەتلىكىڭىز ياكى ئەمەلىي ھۆججەت سىستېمىسىڭىزغا ئۇدا كىرەلمەيدۇ. ئەگەر ۋاكالەتچى ئۇنىڭ مۇھىتىنى بۇزۇۋەتسە ، سىز پەقەت بىر پارچە رەسىمنى ئەسلىگە كەلتۈرۈپ ، داۋاملاشتۇرالايسىز.

"ئەڭ بىخەتەر سۈنئىي ئەقىل ۋاكالەتچىسى ھەممە نەرسىگە رۇخسەت سورايدىغان ئادەم ئەمەس - ئۇ بىرلا ھەرىكەت قوللانماي تۇرۇپلا پارتىلاش رادىئوسى جىسمانى جەھەتتىن چەكلەنگەن."

Libvirt ۋە Virsh قانداق قىلىپ چەكلەش قەۋىتى بىلەن تەمىنلەيدۇ؟

Libvirt ئوچۇق كودلۇق API ۋە daemon بولۇپ ، KVM ، QEMU ۋە Xen قاتارلىق مەۋھۇملاشتۇرۇش سۇپىلىرىنى باشقۇرىدۇ. Virsh ئۇنىڭ بۇيرۇق قۇرى كۆرۈنمە يۈزى بولۇپ ، تىجارەتچىلەرگە VM ھايات مۇساپىسى ، رەسىمگە تارتىش ، تور ۋە بايلىق چەكلىمىسىنى قوليازما كونترول قىلىدۇ. ئۇلار بىرلىكتە بىخەتەر YOLO ھالىتى ئۇل ئەسلىھەلىرى ئۈچۈن كۈچلۈك كونترول ئايروپىلانى ھاسىل قىلىدۇ.

يادرولۇق خىزمەت ئېقىمى مۇنداق:

  1. ئاساسى VM تەسۋىرى بىلەن تەمىنلەڭ - ۋاكالەتچىڭىزنىڭ ئىجرا ۋاقتى ئالدىن قاچىلانغان ئەڭ ئاز Linux مېھمان (ئۇبۇنتۇ 22.04 ياكى Debian 12 ياخشى ئىشلەيدۇ) قۇرۇڭ. XML سەپلىمىسى بىلەن ۋىرۇس ئېنىقلىمىسى نى ئىشلىتىپ ، قاتتىق CPU ، ئىچكى ساقلىغۇچ ۋە دىسكا نورمىسىنى تەڭشەڭ.
  2. ھەر بىر ۋاكالەتچى ئىجرا قىلىنىشتىن بۇرۇن سۈرەتكە تارتىش - VM نى ۋاكالەتچىگە تاپشۇرۇپ بېرىشتىن بۇرۇن ۋىرۇس سۈرەتلىك رەسىم ھاسىل قىلىش - ئىسىم تازىلاش ھالىتى نى ئىجرا قىلىڭ. بۇ ئۈچ سېكۇنت ئىچىدە ئەسلىگە كەلتۈرەلەيدىغان قايتىش نۇقتىسى ھاسىل قىلىدۇ.
  3. تور كۆرۈنمە يۈزىنى ئايرىۋېتىڭ - libvirt دا پەقەت NAT پەقەت مەۋھۇم تورنى سەپلەڭ ، شۇنداق بولغاندا VM تورغا قورال چاقىرىش ئۈچۈن تورغا چىقالايدۇ ، ئەمما ئىچكى تور بېتىڭىزگە يېتەلمەيدۇ. چەكلەنگەن كۆۋرۈك سەپلىمىسى بىلەن virsh net-define نى ئىشلىتىڭ.
  4. ئىجرا ۋاقتىدىكى ۋاكالەتچى كىنىشكىسىنى ئوكۇل قىلىڭ - پەقەت ۋەزىپە مۇددىتىدىلا API كۇنۇپكىسى بار tmpfs ئاۋازىنى ئورنىتىڭ ، ئاندىن رەسىمنى ئەسلىگە كەلتۈرۈشتىن بۇرۇن ئۆچۈرۈۋېتىڭ. ئاچقۇچلار رەسىمدە مەڭگۈ چىڭ تۇرمايدۇ.
  5. كۆز ياشلىرىنى ئاپتوماتىك ئەسلىگە كەلتۈرۈش ۋە ئەسلىگە كەلتۈرۈش - ھەر قېتىملىق ۋاكالەتچى يىغىندىن كېيىن ، ئوركېستىرىڭىز virsh snapshot-revert --snapshotname clean-state غا تېلېفون قىلىپ ، ۋاكالەتچىنىڭ نېمە ئىش قىلغان بولۇشىدىن قەتئىينەزەر VM نى ئاساسىي ھالىتىگە قايتۇرىدۇ.

بۇ ئەندىزە ۋاكالەتچى ئىجرا قىلغۇچىنىڭ ساھىبجامال نۇقتىسىدىن دۆلەتسىز ئىكەنلىكىنى كۆرسىتىدۇ. ھەر بىر ۋەزىپە مەلۇم ياخشى ھالەتتىن باشلىنىپ ، ئاخىرلىشىدۇ. ۋاكالەتچى ئەركىن ھەرىكەت قىلالايدۇ ، چۈنكى ئۇل ئەسلىھە ئەركىنلىك ئاقىۋىتىنى كەلتۈرۈپ چىقىرىدۇ.

ھەقىقىي دۇنيانىڭ ئىپادىسى ۋە تەننەرخ سودىسى دېگەن نېمە؟

تولۇق VM لارنىڭ ئىچىدە LLM ۋاكالەتچىلىرىنى ئىجرا قىلىش Docker غا ئوخشاش كونتېينېرلاشتۇرۇلغان ئۇسۇللارغا سېلىشتۇرغاندا ئۈستىنى تونۇشتۇرىدۇ. KVM / QEMU مېھمانلىرى ئادەتتە تۇنجى قوزغاتقۇچقا 50-150 مىللىمېتىرلىق كېچىكىشنى قوشىدۇ ، گەرچە سىز VM نى ۋەزىپە ئىجرا قىلىپ ، تولۇق قايتا قوزغىتىشقا ئەمەس ، بەلكى رەسىمگە قايتۇرۇشقا تايانسىڭىز ، بۇ ئۈنۈملۈك يوقىتىلىدۇ. KVM تېزلىتىلگەن زامانىۋى قاتتىق دېتاللاردا ، مۇۋاپىق تەڭشەلگەن مېھمان يالىڭاچ مېتالغا سېلىشتۇرغاندا% 5 خام مەركىزى بىر تەرەپ قىلغۇچنى يوقىتىدۇ.

ئىچكى ساقلىغۇچ تېخىمۇ مۇھىم. ئەڭ تۆۋەن ئۇبۇنتۇ مېھمان ۋاكالەتچىڭىزنىڭ ئىجرا ۋاقتى يۈكلىنىشتىن ئىلگىرى تەخمىنەن 512MB لىق ئاساسىي لىنىيىنى سەرپ قىلىدۇ. نەچچە ئون قېتىم ۋاكالەتچى يىغىن ئاچقان گۇرۇپپىلارغا نىسبەتەن ، بۇ تەننەرخ بىر قەدەر تار بولۇپ ، ئىقتىدارنى پىلانلاشنى تەلەپ قىلىدۇ. سودا ئېنىق: سىز RAM بىلەن بىخەتەرلىك كاپالىتى سېتىۋالىسىز ، سەزگۈر سانلىق مەلۇمات ياكى خېرىدارلارنىڭ خىزمەت يۈكىنى بىر تەرەپ قىلىدىغان كۆپىنچە تەشكىلاتلارغا نىسبەتەن بۇ بىر ئېسىل سودا.

💡 DID YOU KNOW?

Mewayz replaces 8+ business tools in one platform

CRM · Invoicing · HR · Projects · Booking · eCommerce · POS · Analytics. Free forever plan available.

Start Free →

Snapshot ساقلاش باشقا ئۆزگەرگۈچى مىقدار. 4GB لىق يىلتىز دىسكا سۈرىتىنىڭ ھەر بىر پاكىز ھالەتتىكى سۈرىتى تەخمىنەن 200-400MB لىق دېلتا ساقلاش بوشلۇقىنى ئىگىلەيدۇ. ئەگەر سىز كۈندىلىك يۈزلىگەن ۋاكالەتچى ۋەزىپىلەرنى ئىجرا قىلسىڭىز ، رەسىم ئارخىپىڭىز تېز ئۆسىدۇ. ساقلاش كۆزنىكىڭىزدىن كونا ئولتۇرۇشلاردا virsh snapshot-delete دەپ ئاتايدىغان cron خىزمىتى بىلەن پۇتاشنى ئاپتوماتىك قىلىڭ.

بۇ كونتېينېرنى ئاساس قىلغان ۋاكالەتچى ساندۇق ساندۇقى بىلەن قانداق سېلىشتۇرما؟

Docker ۋە Podman قاچىلىرى ۋاكالەتچى ئايرىۋېتىشنىڭ ئەڭ كۆپ ئۇچرايدىغان ئۇسۇلى. ئۇلار تېخىمۇ تېز باشلايدۇ ، ئىچكى ساقلىغۇچنى ئاز ئىستېمال قىلىدۇ ۋە CI / CD تۇرۇبا يولى بىلەن تېخىمۇ تەبىئىي بىرىكىدۇ. قانداقلا بولمىسۇن ، ئۇلار باش ئاپپارات مېغىزىدىن ئورتاق بەھىرلىنىدۇ ، يەنى كونتېينېردىن قېچىش يوچۇقىدىن دېرەك بېرىدۇ ، بۇنىڭ ئىچىدە يېقىنقى بىر نەچچە يىلدا ئاشكارلانغانلار ۋاكالەتچى مۇلازىمېتىرىڭىزنى زىيارەت قىلالايدۇ.

VM نى KVM بىلەن ئايرىۋېتىش ئاساسىي جەھەتتىن تېخىمۇ كۈچلۈك چېگرا بىلەن تەمىنلەيدۇ. مېھمان مېغىزى ساھىبجامال مېغىزىدىن پۈتۈنلەي ئايرىلغان. VM ئىچىدىكى يادرونىڭ يوچۇقىنى ئىشلىتىۋاتقان ۋاكالەتچى سىزنىڭ باش ئاپپارات OS ئەمەس ، بەلكى يۇقىرى دەرىجىدىكى نازارەتچى چېگراسىغا يېتىدۇ. يۇقىرى سوممىلىق ۋاكالەتچى خىزمەت يۈكىگە - ئاپتوماتىك كود ھاسىل قىلىش سېزىمچان ھەق تۆلەش سىستېمىسى ، ئىچكى API لارنى زىيارەت قىلىدىغان ئاپتوماتىك تەتقىقات ۋاكالەتچىلىرى ياكى ماسلىشىش چەكلىمىسى ئاستىدا مەشغۇلات قىلىدىغان ھەر قانداق ۋاكالەتچىگە نىسبەتەن ، كۈچلۈك بولغان ئايرىۋېتىش ئەندىزىسى قوشۇمچە بايلىق تەننەرخىگە ئەرزىيدۇ.

نۇرغۇن گۇرۇپپىلار قوللانغان ئەمەلىي ئوتتۇرا مەيدان ئۇۋىسى: libvirt VM نىڭ ئىچىدە ۋاكالەتچى قاچا ئىجرا قىلىش ، ئەتراپتىكى VM دەرىجىلىك بىخەتەرلىك بىلەن تەرەققىيات جەريانىدا كونتېينېر سۈرئىتىنى تەكرارلاش.

مېۋايز كوماندىلارنىڭ ۋاكالەتچى ئۇل ئەسلىھەلىرىنى كۆلەملەشتۈرۈشىگە قانداق ياردەم بېرەلەيدۇ؟

كۈنسېرى كۈچىيىۋاتقان ئەترەتتىكى بىخەتەر YOLO ھالىتىنىڭ ئۇل ئەسلىھەلىرىنى باشقۇرۇش ماسلاشتۇرۇشنىڭ مۇرەككەپلىكىنى تېز تونۇشتۇرىدۇ. سىز ھەر بىر ۋاكالەتچىنىڭ ھەرىكىتى ئۈچۈن نەشىر كونتروللۇقىدىكى VM قېلىپلىرى ، ھەر بىر گۇرۇپپا تور سىياسىتى ، مەركەزلىك كىنىشكا ئوكۇلى ، ئىشلىتىش ئۆلچىمى ۋە ئىقتىسادىي تەپتىش خاتىرىسىگە ئېھتىياجلىق بولىسىز. ئۇنى خام لىۋىتنىڭ ئۈستىگە سېلىشقا بولىدۇ ، ئەمما ئاسراش قىممەت.

Mewayz بولسا 207 مودۇللۇق سودا مەشغۇلات سىستېمىسى بولۇپ ، 138،000 دىن ئارتۇق ئىشلەتكۈچى بۇ خىل ئىقتىدار ھالقىغان ئۇل ئەسلىھە مۇرەككەپلىكىنى باشقۇرىدۇ. ئۇنىڭ خىزمەت ئېقىمىنى ئاپتوماتلاشتۇرۇش ، گۇرۇپپا باشقۇرۇش ۋە API ئوركېستىر مودۇلى قۇرۇلۇش گۇرۇپپىلىرىغا ۋاكالەتچى ئورۇنلاشتۇرۇش سىياسىتى ، بايلىق نورمىسى ۋە ئولتۇرۇش خاتىرىسىنى باشقۇرۇش ئۈچۈن بىرلا كونترول ئايروپىلانى بېرىدۇ. ھەر ئايدا 19 ~ 49 دوللارغىچە ، مېۋايز ئىگىلىك تىكلىگۈچىلەر ۋە كۆلەملەشتۈرگۈچىلەرگە ئېرىشەلەيدىغان باھا نۇقتىسىدا كارخانا دەرىجىلىك ماسلاشتۇرۇش ئۇل ئەسلىھەلىرى بىلەن تەمىنلەيدۇ.

دائىم سورايدىغان سوئاللار

libvirt AWS ياكى GCP غا ئوخشاش بۇلۇت ساھىبخانلىق مۇھىتىغا ماس كېلەمدۇ؟

KVM بىلەن Libvirt قاتتىق دېتال مەۋھۇملاشتۇرۇشنى كېڭەيتىشنى تەلەپ قىلىدۇ ، ئۇلانغان مەۋھۇملاشتۇرۇش چەكلىمىسى سەۋەبىدىن ئۆلچەملىك بۇلۇت VM لاردا يوق. AWS مېتال مىسالى ۋە * .metal ۋە t3.micro غا ئوخشاش بىر قىسىم يېڭى تىپتىكى تىپلاردا ئۇۋا مەۋھۇملاشتۇرۇشنى قوللايدۇ. GCP VM قۇرغاندا قوزغىتىلغاندا كۆپىنچە ئائىلىلەردە ئۇۋا مەۋھۇملاشتۇرۇشنى قوللايدۇ. ئۇنىڭدىن باشقا ، سىز Libvirt مۇلازىمېتىرىڭىزنى Hetzner ياكى OVHcloud غا ئوخشاش مەخسۇس يالىڭاچ مېتال تەمىنلىگۈچىدە ئىجرا قىلالايسىز ھەمدە ئۇنى libvirt يىراق مۇساپىلىك كېلىشىم ئارقىلىق يىراقتىن باشقۇرالايسىز.

ۋاكالەتچىلەرنىڭ VM ئىچىدىكى ھەددىدىن زىيادە دىسكا ياكى CPU ئىستېمال قىلىشىنىڭ ئالدىنى قانداق ئالىمەن؟

Libvirt نىڭ XML سەپلىمىسى cgroups بىرلەشتۈرۈش ئارقىلىق قاتتىق بايلىق چەكلىمىسىنى قوللايدۇ. <كود> نى نورمىسى ۋە دەۋرى قىلىپ تەڭشەپ مەركىزى بىر تەرەپ قىلغۇچنى پارتىلىتىڭ ، ھەمدە نى ئىشلىتىپ ئوقۇش / يېزىش كىرگۈزۈشنى چەكلەڭ. دىسكا بوشلۇقى ئۈچۈن ، چوڭلۇقى ئەڭ چوڭ بولغان ئىنچىكە تەمىنلەنگەن QCOW2 دىسكا بىلەن تەمىنلەڭ. ۋاكالەتچى نېمە ئىش بولۇشىدىن قەتئىينەزەر دىسكا چېگراسىدىن ھالقىپ يازالمايدۇ.

بىخەتەر YOLO ھالىتى LangGraph ياكى AutoGen غا ئوخشاش كۆپ ۋاكالەتچى رامكا بىلەن ئىشلىيەلەمدۇ؟

ھەئە. كۆپ ۋاكالەتچى رامكا ئادەتتە VM ۋە ئۇنىڭ ئىچىدىكى قوراللارنى ئىجرا قىلىدىغان ئىشچىلار ۋاكالەتچىلىرىنىڭ سىرتىدا ماسلاشتۇرغۇچ جەريانى بولىدۇ. ماسلاشتۇرغۇچى ھەر بىر VM بىلەن چەكلەنگەن RPC قانىلى ئارقىلىق ئالاقە قىلىدۇ - ئادەتتە يۇقىرى سۈرئەتلىك نازارەتچى ياكى NAT تورىدىكى چەكلەنگەن TCP ئېغىزى ئارقىلىق ۋاكالەتچى بولغان Unix ئېغىزى. ھەر بىر ئىشچى ۋاكالەتچىسى ئۆزىنىڭ رەسىم سىزىش ئاساسى بىلەن ئۆزىنىڭ VM ئۈلگىسىگە ئېرىشىدۇ. ماسلاشتۇرغۇچى خىزمەت ھالىتىنى ئەسلىگە كەلتۈرۈش ئۈچۈن ۋەزىپە تاپشۇرۇش ئارىلىقىدا virsh snapshot-revert دەپ ئاتايدۇ.

ئەگەر گۇرۇپپىڭىز LLM ۋاكالەتچىلىرىنى ئورۇنلاشتۇرۇپ ، ماسلاشتۇرۇش قاتلىمىنى باشقۇرۇشنىڭ تېخىمۇ ئاقىلانە ئۇسۇل - ۋاكالەتچى سىياسەت ۋە گۇرۇپپا ئىجازەتنامىسىدىن تارتىپ خىزمەت ئېقىمىنى ئاپتوماتلاشتۇرۇش ۋە ئىشلىتىش ئانالىزىغىچە - بۈگۈن Mewayz خىزمەت ئورنىڭىزنى باشلاڭ ۋە 207 مودۇلنىڭ ھەممىسىنى بىر كۈندىن باشلاپ ئۇل ئەسلىھەلىرىڭىزگە ئىشلىتىدۇ.