ਸੁਰੱਖਿਅਤ YOLO ਮੋਡ: Libvirt ਅਤੇ Virsh ਦੇ ਨਾਲ VMs ਵਿੱਚ LLM ਏਜੰਟ ਚਲਾਉਣਾ

ਸੁਰੱਖਿਅਤ YOLO ਮੋਡ ਤੁਹਾਨੂੰ ਹਾਰਡਵੇਅਰ-ਪੱਧਰ ਦੀ ਵਰਚੁਅਲਾਈਜੇਸ਼ਨ ਦੀ ਕੰਟੇਨਮੈਂਟ ਗਾਰੰਟੀ ਦੇ ਨਾਲ ਆਟੋਨੋਮਸ ਓਪਰੇਸ਼ਨ ਦੀ ਗਤੀ ਨੂੰ ਜੋੜਦੇ ਹੋਏ, ਅਲੱਗ-ਥਲੱਗ ਵਰਚੁਅਲ ਮਸ਼ੀਨਾਂ ਦੇ ਅੰਦਰ LLM ਏਜੰਟਾਂ ਨੂੰ ਲਗਭਗ ਅਣ-ਪ੍ਰਤੀਬੰਧਿਤ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਵਿਸ਼ੇਸ਼ ਅਧਿਕਾਰ ਦੇਣ ਦਿੰਦਾ ਹੈ। libvirt ਦੀ ਪ੍ਰਬੰਧਨ ਪਰਤ ਨੂੰ virsh ਦੇ ਕਮਾਂਡ-ਲਾਈਨ ਨਿਯੰਤਰਣ ਨਾਲ ਜੋੜ ਕੇ, ਟੀਮਾਂ ਏਆਈ ਏਜੰਟਾਂ ਨੂੰ ਇੰਨੇ ਹਮਲਾਵਰ ਢੰਗ ਨਾਲ ਸੈਂਡਬਾਕਸ ਕਰ ਸਕਦੀਆਂ ਹਨ ਕਿ ਇੱਕ ਘਾਤਕ ਭੁਲੇਖਾ ਵੀ VM ਸੀਮਾ ਤੋਂ ਬਚ ਨਹੀਂ ਸਕਦਾ।

LLM ਏਜੰਟਾਂ ਲਈ "ਸੁਰੱਖਿਅਤ YOLO ਮੋਡ" ਅਸਲ ਵਿੱਚ ਕੀ ਹੈ?

ਏਆਈ ਟੂਲਿੰਗ ਵਿੱਚ "ਯੋਲੋ ਮੋਡ" ਵਾਕੰਸ਼ ਉਹਨਾਂ ਸੰਰਚਨਾਵਾਂ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ ਜਿੱਥੇ ਏਜੰਟ ਹਰ ਕਦਮ 'ਤੇ ਮਨੁੱਖੀ ਪੁਸ਼ਟੀ ਦੀ ਉਡੀਕ ਕੀਤੇ ਬਿਨਾਂ ਕਾਰਵਾਈਆਂ ਨੂੰ ਲਾਗੂ ਕਰਦੇ ਹਨ। ਮਿਆਰੀ ਤੈਨਾਤੀਆਂ ਵਿੱਚ, ਇਹ ਸੱਚਮੁੱਚ ਖ਼ਤਰਨਾਕ ਹੈ — ਇੱਕ ਗਲਤ ਸੰਰਚਨਾ ਏਜੰਟ ਉਤਪਾਦਨ ਡੇਟਾ ਨੂੰ ਮਿਟਾ ਸਕਦਾ ਹੈ, ਪ੍ਰਮਾਣ ਪੱਤਰਾਂ ਨੂੰ ਬਾਹਰ ਕੱਢ ਸਕਦਾ ਹੈ, ਜਾਂ ਸਕਿੰਟਾਂ ਵਿੱਚ ਨਾ ਬਦਲਣਯੋਗ API ਕਾਲਾਂ ਕਰ ਸਕਦਾ ਹੈ। ਸੇਫ਼ ਯੋਲੋ ਮੋਡ ਸੁਰੱਖਿਆ ਗਾਰੰਟੀ ਨੂੰ ਏਜੰਟ ਲੇਅਰ ਤੋਂ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੀ ਪਰਤ ਵਿੱਚ ਤਬਦੀਲ ਕਰਕੇ ਇਸ ਤਣਾਅ ਨੂੰ ਹੱਲ ਕਰਦਾ ਹੈ।

ਮਾਡਲ ਚਾਹੁੰਦਾ ਹੈ ਕੀ ਕਰਨਾ ਹੈ, ਇਸ ਨੂੰ ਰੋਕਣ ਦੀ ਬਜਾਏ, ਤੁਸੀਂ ਇਸ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਨ ਲਈ ਵਾਤਾਵਰਨ ਇਜਾਜ਼ਤ ਕਰਦੇ ਹੋ। ਏਜੰਟ ਅਜੇ ਵੀ ਸ਼ੈੱਲ ਕਮਾਂਡਾਂ ਚਲਾ ਸਕਦਾ ਹੈ, ਪੈਕੇਜ ਸਥਾਪਤ ਕਰ ਸਕਦਾ ਹੈ, ਫਾਈਲਾਂ ਲਿਖ ਸਕਦਾ ਹੈ, ਅਤੇ ਬਾਹਰੀ API ਨੂੰ ਕਾਲ ਕਰ ਸਕਦਾ ਹੈ - ਪਰ ਇਹਨਾਂ ਵਿੱਚੋਂ ਹਰ ਇੱਕ ਕਾਰਵਾਈ ਇੱਕ ਵਰਚੁਅਲ ਮਸ਼ੀਨ ਦੇ ਅੰਦਰ ਵਾਪਰਦੀ ਹੈ ਜਿਸਦੀ ਤੁਹਾਡੇ ਹੋਸਟ ਨੈਟਵਰਕ, ਤੁਹਾਡੇ ਉਤਪਾਦਨ ਦੇ ਭੇਦ, ਜਾਂ ਤੁਹਾਡੇ ਅਸਲ ਫਾਈਲ ਸਿਸਟਮ ਤੱਕ ਨਿਰੰਤਰ ਪਹੁੰਚ ਨਹੀਂ ਹੁੰਦੀ ਹੈ। ਜੇਕਰ ਏਜੰਟ ਇਸਦੇ ਵਾਤਾਵਰਣ ਨੂੰ ਤਬਾਹ ਕਰ ਦਿੰਦਾ ਹੈ, ਤਾਂ ਤੁਸੀਂ ਬਸ ਇੱਕ ਸਨੈਪਸ਼ਾਟ ਰੀਸਟੋਰ ਕਰੋ ਅਤੇ ਅੱਗੇ ਵਧੋ।

"ਸਭ ਤੋਂ ਸੁਰੱਖਿਅਤ AI ਏਜੰਟ ਉਹ ਨਹੀਂ ਹੈ ਜੋ ਹਰ ਚੀਜ਼ ਲਈ ਇਜਾਜ਼ਤ ਮੰਗਦਾ ਹੈ - ਇਹ ਉਹ ਹੈ ਜਿਸਦਾ ਧਮਾਕਾ ਘੇਰਾ ਇੱਕ ਵੀ ਕਾਰਵਾਈ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਸਰੀਰਕ ਤੌਰ 'ਤੇ ਸੀਮਾਬੱਧ ਹੋ ਗਿਆ ਹੈ।"

ਲਿਬਵਿਰਟ ਅਤੇ ਵਿਰਸ਼ ਕੰਟੇਨਮੈਂਟ ਲੇਅਰ ਕਿਵੇਂ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ?

Libvirt ਇੱਕ ਓਪਨ-ਸੋਰਸ API ਅਤੇ ਡੈਮਨ ਹੈ ਜੋ KVM, QEMU, ਅਤੇ Xen ਸਮੇਤ ਵਰਚੁਅਲਾਈਜੇਸ਼ਨ ਪਲੇਟਫਾਰਮਾਂ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਦਾ ਹੈ। Virsh ਇਸਦਾ ਕਮਾਂਡ-ਲਾਈਨ ਇੰਟਰਫੇਸ ਹੈ, ਜੋ ਓਪਰੇਟਰਾਂ ਨੂੰ VM ਲਾਈਫਸਾਈਕਲ, ਸਨੈਪਸ਼ਾਟ, ਨੈੱਟਵਰਕਿੰਗ, ਅਤੇ ਸਰੋਤ ਸੀਮਾਵਾਂ 'ਤੇ ਸਕ੍ਰਿਪਟ ਯੋਗ ਨਿਯੰਤਰਣ ਦਿੰਦਾ ਹੈ। ਇਕੱਠੇ, ਉਹ ਸੁਰੱਖਿਅਤ YOLO ਮੋਡ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਲਈ ਇੱਕ ਮਜ਼ਬੂਤ ਕੰਟਰੋਲ ਪਲੇਨ ਬਣਾਉਂਦੇ ਹਨ।

ਕੋਰ ਵਰਕਫਲੋ ਇਸ ਤਰ੍ਹਾਂ ਦਿਖਦਾ ਹੈ:

1. ਬੇਸ VM ਚਿੱਤਰ ਦੀ ਵਿਵਸਥਾ ਕਰੋ — ਤੁਹਾਡੇ ਏਜੰਟ ਰਨਟਾਈਮ ਦੇ ਪਹਿਲਾਂ ਤੋਂ ਸਥਾਪਤ ਹੋਣ ਦੇ ਨਾਲ ਇੱਕ ਨਿਊਨਤਮ ਲੀਨਕਸ ਗੈਸਟ (ਉਬੰਟੂ 22.04 ਜਾਂ ਡੇਬੀਅਨ 12 ਵਧੀਆ ਕੰਮ ਕਰਦਾ ਹੈ) ਬਣਾਓ। ਸਖਤ CPU, ਮੈਮੋਰੀ, ਅਤੇ ਡਿਸਕ ਕੋਟਾ ਸੈੱਟ ਕਰਨ ਲਈ ਇੱਕ ਕਸਟਮ XML ਸੰਰਚਨਾ ਦੇ ਨਾਲ virsh define ਦੀ ਵਰਤੋਂ ਕਰੋ।
2. ਹਰ ਏਜੰਟ ਦੇ ਚੱਲਣ ਤੋਂ ਪਹਿਲਾਂ ਸਨੈਪਸ਼ਾਟ — VM ਨੂੰ ਏਜੰਟ ਨੂੰ ਸੌਂਪਣ ਤੋਂ ਤੁਰੰਤ ਪਹਿਲਾਂ virsh snapshot-create-as --name clean-state ਚਲਾਓ। ਇਹ ਇੱਕ ਰੋਲਬੈਕ ਪੁਆਇੰਟ ਬਣਾਉਂਦਾ ਹੈ ਜਿਸਨੂੰ ਤੁਸੀਂ ਤਿੰਨ ਸਕਿੰਟਾਂ ਦੇ ਅੰਦਰ ਬਹਾਲ ਕਰ ਸਕਦੇ ਹੋ।
3. ਨੈੱਟਵਰਕ ਇੰਟਰਫੇਸ ਨੂੰ ਅਲੱਗ ਕਰੋ — libvirt ਵਿੱਚ ਇੱਕ NAT-ਸਿਰਫ ਵਰਚੁਅਲ ਨੈੱਟਵਰਕ ਦੀ ਸੰਰਚਨਾ ਕਰੋ ਤਾਂ ਜੋ VM ਟੂਲ ਕਾਲਾਂ ਲਈ ਇੰਟਰਨੈਟ ਤੱਕ ਪਹੁੰਚ ਸਕੇ ਪਰ ਤੁਹਾਡੇ ਅੰਦਰੂਨੀ ਸਬਨੈੱਟ ਤੱਕ ਨਹੀਂ ਪਹੁੰਚ ਸਕਦਾ। ਇੱਕ ਪ੍ਰਤਿਬੰਧਿਤ ਬ੍ਰਿਜ ਸੰਰਚਨਾ ਦੇ ਨਾਲ virsh net-define ਦੀ ਵਰਤੋਂ ਕਰੋ।
4. ਰਨਟਾਈਮ 'ਤੇ ਏਜੰਟ ਕ੍ਰੈਡੈਂਸ਼ੀਅਲ ਇੰਜੈਕਟ ਕਰੋ — ਸਿਰਫ਼ ਕਾਰਜ ਦੀ ਮਿਆਦ ਲਈ API ਕੁੰਜੀਆਂ ਵਾਲੇ tmpfs ਵਾਲੀਅਮ ਨੂੰ ਮਾਊਂਟ ਕਰੋ, ਫਿਰ ਸਨੈਪਸ਼ਾਟ ਰੀਸਟੋਰ ਤੋਂ ਪਹਿਲਾਂ ਅਨਮਾਊਂਟ ਕਰੋ। ਕੁੰਜੀਆਂ ਕਦੇ ਵੀ ਚਿੱਤਰ ਵਿੱਚ ਨਹੀਂ ਰਹਿੰਦੀਆਂ।
5. ਆਟੋਮੈਟਿਕ ਟਾਰਡਾਊਨ ਅਤੇ ਰੀਸਟੋਰ ਕਰੋ — ਹਰੇਕ ਏਜੰਟ ਸੈਸ਼ਨ ਤੋਂ ਬਾਅਦ, ਤੁਹਾਡਾ ਆਰਕੈਸਟਰੇਟਰ VM ਨੂੰ ਇਸਦੀ ਬੇਸਲਾਈਨ ਸਥਿਤੀ ਵਿੱਚ ਵਾਪਸ ਕਰਨ ਲਈ virsh snapshot-revert --snapshotname clean-state ਨੂੰ ਕਾਲ ਕਰਦਾ ਹੈ, ਚਾਹੇ ਏਜੰਟ ਨੇ ਜੋ ਵੀ ਕੀਤਾ ਹੋਵੇ।

ਇਸ ਪੈਟਰਨ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਹੋਸਟ ਦੇ ਨਜ਼ਰੀਏ ਤੋਂ ਏਜੰਟ ਰਨ ਸਟੇਟਲੈੱਸ ਹਨ। ਹਰ ਕੰਮ ਇੱਕ ਚੰਗੀ ਸਥਿਤੀ ਤੋਂ ਸ਼ੁਰੂ ਹੁੰਦਾ ਹੈ ਅਤੇ ਇੱਕ ਵਿੱਚ ਸਮਾਪਤ ਹੁੰਦਾ ਹੈ। ਏਜੰਟ ਸੁਤੰਤਰਤਾ ਨਾਲ ਕੰਮ ਕਰ ਸਕਦਾ ਹੈ ਕਿਉਂਕਿ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਅਜ਼ਾਦੀ ਨੂੰ ਨਤੀਜਾ-ਮੁਕਤ ਬਣਾਉਂਦਾ ਹੈ।

ਅਸਲ-ਵਿਸ਼ਵ ਪ੍ਰਦਰਸ਼ਨ ਅਤੇ ਲਾਗਤ ਵਪਾਰ ਕੀ ਹਨ?

ਪੂਰੇ VM ਦੇ ਅੰਦਰ LLM ਏਜੰਟ ਚਲਾਉਣਾ ਡੌਕਰ ਵਰਗੇ ਕੰਟੇਨਰਾਈਜ਼ਡ ਪਹੁੰਚ ਦੀ ਤੁਲਨਾ ਵਿੱਚ ਓਵਰਹੈੱਡ ਪੇਸ਼ ਕਰਦਾ ਹੈ। KVM/QEMU ਮਹਿਮਾਨ ਆਮ ਤੌਰ 'ਤੇ ਪਹਿਲੇ ਬੂਟ 'ਤੇ 50-150ms ਲੇਟੈਂਸੀ ਜੋੜਦੇ ਹਨ, ਹਾਲਾਂਕਿ ਇਹ ਉਦੋਂ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਖਤਮ ਹੋ ਜਾਂਦਾ ਹੈ ਜਦੋਂ ਤੁਸੀਂ VM ਨੂੰ ਕਾਰਜਾਂ ਵਿੱਚ ਚੱਲਦੇ ਰੱਖਦੇ ਹੋ ਅਤੇ ਪੂਰੇ ਰੀਬੂਟ ਦੀ ਬਜਾਏ ਸਨੈਪਸ਼ਾਟ ਰਿਵਰਟਸ 'ਤੇ ਭਰੋਸਾ ਕਰਦੇ ਹੋ। KVM ਪ੍ਰਵੇਗ ਦੇ ਨਾਲ ਆਧੁਨਿਕ ਹਾਰਡਵੇਅਰ 'ਤੇ, ਇੱਕ ਸਹੀ ਢੰਗ ਨਾਲ ਟਿਊਨ ਕੀਤਾ ਗਿਆ ਮਹਿਮਾਨ ਬੇਅਰ ਮੈਟਲ ਦੇ ਮੁਕਾਬਲੇ 5% ਤੋਂ ਘੱਟ ਕੱਚਾ CPU ਥ੍ਰੋਪੁੱਟ ਗੁਆ ਦਿੰਦਾ ਹੈ।

ਮੈਮੋਰੀ ਓਵਰਹੈੱਡ ਵਧੇਰੇ ਮਹੱਤਵਪੂਰਨ ਹੈ। ਤੁਹਾਡੇ ਏਜੰਟ ਦੇ ਰਨਟਾਈਮ ਲੋਡ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਇੱਕ ਘੱਟੋ-ਘੱਟ ਉਬੰਟੂ ਮਹਿਮਾਨ ਲਗਭਗ 512MB ਬੇਸਲਾਈਨ ਦੀ ਖਪਤ ਕਰਦਾ ਹੈ। ਦਰਜਨਾਂ ਸਮਕਾਲੀ ਏਜੰਟ ਸੈਸ਼ਨਾਂ ਨੂੰ ਚਲਾਉਣ ਵਾਲੀਆਂ ਟੀਮਾਂ ਲਈ, ਇਹ ਲਾਗਤ ਰੇਖਿਕ ਤੌਰ 'ਤੇ ਮਾਪਦੀ ਹੈ ਅਤੇ ਧਿਆਨ ਨਾਲ ਸਮਰੱਥਾ ਦੀ ਯੋਜਨਾਬੰਦੀ ਦੀ ਮੰਗ ਕਰਦੀ ਹੈ। ਟ੍ਰੇਡਆਫ ਸਪੱਸ਼ਟ ਹੈ: ਤੁਸੀਂ RAM ਨਾਲ ਸੁਰੱਖਿਆ ਗਾਰੰਟੀ ਖਰੀਦ ਰਹੇ ਹੋ, ਅਤੇ ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ ਜਾਂ ਗਾਹਕ ਵਰਕਲੋਡ ਨੂੰ ਸੰਭਾਲਣ ਵਾਲੀਆਂ ਜ਼ਿਆਦਾਤਰ ਸੰਸਥਾਵਾਂ ਲਈ, ਇਹ ਇੱਕ ਸ਼ਾਨਦਾਰ ਵਪਾਰ ਹੈ।

ਸਨੈਪਸ਼ਾਟ ਸਟੋਰੇਜ ਹੋਰ ਵੇਰੀਏਬਲ ਹੈ। 4GB ਰੂਟ ਡਿਸਕ ਚਿੱਤਰ ਲਈ ਹਰੇਕ ਕਲੀਨ-ਸਟੇਟ ਸਨੈਪਸ਼ਾਟ ਲਗਭਗ 200-400MB ਡੈਲਟਾ ਸਟੋਰੇਜ ਰੱਖਦਾ ਹੈ। ਜੇਕਰ ਤੁਸੀਂ ਰੋਜ਼ਾਨਾ ਏਜੰਟ ਦੇ ਸੈਂਕੜੇ ਕੰਮ ਚਲਾਉਂਦੇ ਹੋ, ਤਾਂ ਤੁਹਾਡਾ ਸਨੈਪਸ਼ਾਟ ਆਰਕਾਈਵ ਤੇਜ਼ੀ ਨਾਲ ਵਧਦਾ ਹੈ। ਇੱਕ ਕ੍ਰੋਨ ਜੌਬ ਦੇ ਨਾਲ ਸਵੈਚਲਿਤ ਛਾਂਟੀ ਕਰੋ ਜੋ ਤੁਹਾਡੀ ਧਾਰਨ ਵਿੰਡੋ ਤੋਂ ਪੁਰਾਣੇ ਸੈਸ਼ਨਾਂ 'ਤੇ virsh ਸਨੈਪਸ਼ਾਟ-ਡਿਲੀਟ ਨੂੰ ਕਾਲ ਕਰਦੀ ਹੈ।

ਇਹ ਕੰਟੇਨਰ-ਅਧਾਰਿਤ ਏਜੰਟ ਸੈਂਡਬਾਕਸਿੰਗ ਨਾਲ ਕਿਵੇਂ ਤੁਲਨਾ ਕਰਦਾ ਹੈ?

ਡਾਕਰ ਅਤੇ ਪੋਡਮੈਨ ਕੰਟੇਨਰ ਏਜੰਟ ਆਈਸੋਲੇਸ਼ਨ ਲਈ ਸਭ ਤੋਂ ਆਮ ਵਿਕਲਪ ਹਨ। ਉਹ ਤੇਜ਼ੀ ਨਾਲ ਸ਼ੁਰੂ ਕਰਦੇ ਹਨ, ਘੱਟ ਮੈਮੋਰੀ ਦੀ ਖਪਤ ਕਰਦੇ ਹਨ, ਅਤੇ CI/CD ਪਾਈਪਲਾਈਨਾਂ ਨਾਲ ਵਧੇਰੇ ਕੁਦਰਤੀ ਤੌਰ 'ਤੇ ਏਕੀਕ੍ਰਿਤ ਹੁੰਦੇ ਹਨ। ਹਾਲਾਂਕਿ, ਉਹ ਹੋਸਟ ਕਰਨਲ ਨੂੰ ਸਾਂਝਾ ਕਰਦੇ ਹਨ, ਜਿਸਦਾ ਮਤਲਬ ਹੈ ਇੱਕ ਕੰਟੇਨਰ ਬਚਣ ਦੀ ਕਮਜ਼ੋਰੀ — ਜਿਸ ਵਿੱਚੋਂ ਕਈਆਂ ਦਾ ਹਾਲ ਹੀ ਦੇ ਸਾਲਾਂ ਵਿੱਚ ਖੁਲਾਸਾ ਕੀਤਾ ਗਿਆ ਹੈ — ਇੱਕ ਏਜੰਟ ਨੂੰ ਤੁਹਾਡੇ ਹੋਸਟ ਸਿਸਟਮ ਤੱਕ ਪਹੁੰਚ ਪ੍ਰਦਾਨ ਕਰ ਸਕਦਾ ਹੈ।

KVM ਨਾਲ VM-ਅਧਾਰਿਤ ਆਈਸੋਲੇਸ਼ਨ ਇੱਕ ਬੁਨਿਆਦੀ ਤੌਰ 'ਤੇ ਮਜ਼ਬੂਤ ਸੀਮਾ ਪ੍ਰਦਾਨ ਕਰਦੀ ਹੈ। ਗਿਸਟ ਕਰਨਲ ਹੋਸਟ ਕਰਨਲ ਤੋਂ ਪੂਰੀ ਤਰ੍ਹਾਂ ਵੱਖਰਾ ਹੈ। VM ਦੇ ਅੰਦਰ ਇੱਕ ਕਰਨਲ ਕਮਜ਼ੋਰੀ ਦਾ ਸ਼ੋਸ਼ਣ ਕਰਨ ਵਾਲਾ ਏਜੰਟ ਹਾਈਪਰਵਾਈਜ਼ਰ ਸੀਮਾ ਤੱਕ ਪਹੁੰਚਦਾ ਹੈ, ਨਾ ਕਿ ਤੁਹਾਡੇ ਹੋਸਟ OS। ਉੱਚ-ਸਟੇਕ ਏਜੰਟ ਵਰਕਲੋਡਾਂ ਲਈ — ਸਵੈਚਲਿਤ ਕੋਡ ਜਨਰੇਸ਼ਨ ਨੂੰ ਛੂਹਣ ਵਾਲੇ ਭੁਗਤਾਨ ਪ੍ਰਣਾਲੀਆਂ, ਅੰਦਰੂਨੀ API ਤੱਕ ਪਹੁੰਚ ਵਾਲੇ ਆਟੋਨੋਮਸ ਰਿਸਰਚ ਏਜੰਟ, ਜਾਂ ਕੋਈ ਵੀ ਏਜੰਟ ਜੋ ਪਾਲਣਾ ਸੀਮਾਵਾਂ ਦੇ ਅਧੀਨ ਕੰਮ ਕਰ ਰਿਹਾ ਹੈ — ਮਜ਼ਬੂਤ ਆਈਸੋਲੇਸ਼ਨ ਮਾਡਲ ਵਾਧੂ ਸਰੋਤ ਲਾਗਤ ਦੇ ਯੋਗ ਹੈ।

ਇੱਕ ਵਿਹਾਰਕ ਮੱਧ ਭੂਮੀ ਜੋ ਬਹੁਤ ਸਾਰੀਆਂ ਟੀਮਾਂ ਅਪਣਾਉਂਦੀਆਂ ਹਨ ਆਲ੍ਹਣਾ ਹੈ: ਇੱਕ libvirt VM ਦੇ ਅੰਦਰ ਏਜੰਟ ਕੰਟੇਨਰਾਂ ਨੂੰ ਚਲਾਉਣਾ, ਤੁਹਾਨੂੰ ਘੇਰੇ 'ਤੇ VM-ਪੱਧਰ ਦੀ ਸੁਰੱਖਿਆ ਦੇ ਨਾਲ ਵਿਕਾਸ ਦੌਰਾਨ ਕੰਟੇਨਰ-ਸਪੀਡ ਦੁਹਰਾਓ ਦਿੰਦਾ ਹੈ।

ਮੇਵੇਜ਼ ਟੀਮਾਂ ਦੀ ਸਕੇਲ 'ਤੇ ਏਜੰਟ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਨੂੰ ਤੈਨਾਤ ਕਰਨ ਵਿੱਚ ਕਿਵੇਂ ਮਦਦ ਕਰ ਸਕਦਾ ਹੈ?

ਇੱਕ ਵਧ ਰਹੀ ਟੀਮ ਵਿੱਚ ਸੁਰੱਖਿਅਤ YOLO ਮੋਡ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਨਾ ਤਾਲਮੇਲ ਜਟਿਲਤਾ ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਪੇਸ਼ ਕਰਦਾ ਹੈ। ਤੁਹਾਨੂੰ ਹਰ ਏਜੰਟ ਕਾਰਵਾਈ ਲਈ ਵਰਜਨ-ਨਿਯੰਤਰਿਤ VM ਟੈਂਪਲੇਟਸ, ਪ੍ਰਤੀ-ਟੀਮ ਨੈੱਟਵਰਕ ਨੀਤੀਆਂ, ਕੇਂਦਰੀਕ੍ਰਿਤ ਕ੍ਰੈਡੈਂਸ਼ੀਅਲ ਇੰਜੈਕਸ਼ਨ, ਵਰਤੋਂ ਮੀਟਰਿੰਗ, ਅਤੇ ਆਡਿਟ ਲੌਗਾਂ ਦੀ ਲੋੜ ਹੈ। ਕੱਚੇ libvirt ਦੇ ਸਿਖਰ 'ਤੇ ਬਣਾਉਣਾ ਸੰਭਵ ਹੈ ਪਰ ਸੰਭਾਲਣ ਲਈ ਮਹਿੰਗਾ ਹੈ।

ਮੇਵੇਜ਼ ਇੱਕ 207-ਮੋਡਿਊਲ ਕਾਰੋਬਾਰੀ ਓਪਰੇਟਿੰਗ ਸਿਸਟਮ ਹੈ ਜੋ 138,000 ਤੋਂ ਵੱਧ ਉਪਭੋਗਤਾਵਾਂ ਦੁਆਰਾ ਬਿਲਕੁਲ ਇਸ ਤਰ੍ਹਾਂ ਦੀ ਕਰਾਸ-ਫੰਕਸ਼ਨਲ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੀ ਗੁੰਝਲਤਾ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਨ ਲਈ ਵਰਤਿਆ ਜਾਂਦਾ ਹੈ। ਇਸਦੇ ਵਰਕਫਲੋ ਆਟੋਮੇਸ਼ਨ, ਟੀਮ ਪ੍ਰਬੰਧਨ, ਅਤੇ API ਆਰਕੈਸਟਰੇਸ਼ਨ ਮੋਡੀਊਲ ਇੰਜਨੀਅਰਿੰਗ ਟੀਮਾਂ ਨੂੰ ਏਜੰਟ ਤੈਨਾਤੀ ਨੀਤੀਆਂ, ਸਰੋਤ ਕੋਟਾ, ਅਤੇ ਸੈਸ਼ਨ ਲੌਗਿੰਗ ਦੇ ਪ੍ਰਬੰਧਨ ਲਈ ਇੱਕ ਸਿੰਗਲ ਕੰਟਰੋਲ ਪਲੇਨ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ - ਬਿਨਾਂ ਸ਼ੁਰੂਆਤੀ ਅੰਦਰੂਨੀ ਟੂਲਿੰਗ ਬਣਾਏ। $19–49 ਪ੍ਰਤੀ ਮਹੀਨਾ 'ਤੇ, Mewayz ਇੱਕ ਕੀਮਤ ਬਿੰਦੂ 'ਤੇ ਐਂਟਰਪ੍ਰਾਈਜ਼-ਗ੍ਰੇਡ ਤਾਲਮੇਲ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ ਜੋ ਸਟਾਰਟਅੱਪਸ ਅਤੇ ਸਕੇਲ-ਅੱਪਸ ਲਈ ਇੱਕੋ ਜਿਹੇ ਪਹੁੰਚਯੋਗ ਹੈ।

ਅਕਸਰ ਪੁੱਛੇ ਜਾਣ ਵਾਲੇ ਸਵਾਲ

ਕੀ libvirt ਕਲਾਉਡ-ਹੋਸਟ ਕੀਤੇ ਵਾਤਾਵਰਣ ਜਿਵੇਂ ਕਿ AWS ਜਾਂ GCP ਨਾਲ ਅਨੁਕੂਲ ਹੈ?

KVM ਨਾਲ Libvirt ਨੂੰ ਹਾਰਡਵੇਅਰ ਵਰਚੁਅਲਾਈਜੇਸ਼ਨ ਐਕਸਟੈਂਸ਼ਨਾਂ ਤੱਕ ਪਹੁੰਚ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਜੋ ਕਿ ਨੇਸਟਡ ਵਰਚੁਅਲਾਈਜੇਸ਼ਨ ਪਾਬੰਦੀਆਂ ਕਾਰਨ ਸਟੈਂਡਰਡ ਕਲਾਉਡ VM ਵਿੱਚ ਉਪਲਬਧ ਨਹੀਂ ਹਨ। AWS ਧਾਤੂ ਉਦਾਹਰਨਾਂ ਅਤੇ ਕੁਝ ਨਵੀਆਂ ਉਦਾਹਰਣਾਂ ਜਿਵੇਂ ਕਿ *.metal ਅਤੇ t3.micro 'ਤੇ ਨੇਸਟਡ ਵਰਚੁਅਲਾਈਜੇਸ਼ਨ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ। GCP ਜ਼ਿਆਦਾਤਰ ਉਦਾਹਰਨ ਪਰਿਵਾਰਾਂ 'ਤੇ ਨੇਸਟਡ ਵਰਚੁਅਲਾਈਜੇਸ਼ਨ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ ਜਦੋਂ VM ਬਣਾਉਣ 'ਤੇ ਯੋਗ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। ਵਿਕਲਪਕ ਤੌਰ 'ਤੇ, ਤੁਸੀਂ ਆਪਣੇ libvirt ਹੋਸਟ ਨੂੰ Hetzner ਜਾਂ OVHcloud ਵਰਗੇ ਸਮਰਪਿਤ ਬੇਅਰ-ਮੈਟਲ ਪ੍ਰਦਾਤਾ 'ਤੇ ਚਲਾ ਸਕਦੇ ਹੋ ਅਤੇ libvirt ਰਿਮੋਟ ਪ੍ਰੋਟੋਕੋਲ ਰਾਹੀਂ ਇਸ ਨੂੰ ਰਿਮੋਟਲੀ ਪ੍ਰਬੰਧਿਤ ਕਰ ਸਕਦੇ ਹੋ।

ਮੈਂ ਏਜੰਟਾਂ ਨੂੰ VM ਦੇ ਅੰਦਰ ਬਹੁਤ ਜ਼ਿਆਦਾ ਡਿਸਕ ਜਾਂ CPU ਦੀ ਵਰਤੋਂ ਕਰਨ ਤੋਂ ਕਿਵੇਂ ਰੋਕਾਂ?

Libvirt ਦੀ XML ਸੰਰਚਨਾ cgroups ਏਕੀਕਰਣ ਦੁਆਰਾ ਹਾਰਡ ਸਰੋਤ ਸੀਮਾਵਾਂ ਦਾ ਸਮਰਥਨ ਕਰਦੀ ਹੈ। CPU ਬਰਸਟ ਨੂੰ ਕੈਪ ਕਰਨ ਲਈ ਨੂੰ ਇੱਕ ਕੋਟਾ ਅਤੇ ਪੀਰੀਅਡ ਨਾਲ ਸੈੱਟ ਕਰੋ, ਅਤੇ ਪੜ੍ਹਨ/ਲਿਖਣ ਦੇ ਥ੍ਰੋਪੁੱਟ ਨੂੰ ਸੀਮਿਤ ਕਰਨ ਲਈ ਦੀ ਵਰਤੋਂ ਕਰੋ। ਡਿਸਕ ਸਪੇਸ ਲਈ, ਹਾਰਡ ਅਧਿਕਤਮ ਆਕਾਰ ਦੇ ਨਾਲ ਇੱਕ ਪਤਲੀ-ਪ੍ਰਬੰਧਿਤ QCOW2 ਡਿਸਕ ਦਾ ਪ੍ਰਬੰਧ ਕਰੋ। ਏਜੰਟ ਡਿਸਕ ਦੀ ਸੀਮਾ ਤੋਂ ਬਾਹਰ ਨਹੀਂ ਲਿਖ ਸਕਦਾ ਹੈ ਭਾਵੇਂ ਉਹ ਜੋ ਮਰਜ਼ੀ ਕੋਸ਼ਿਸ਼ ਕਰੇ।

ਕੀ Safe YOLO ਮੋਡ ਮਲਟੀ-ਏਜੰਟ ਫਰੇਮਵਰਕ ਜਿਵੇਂ LangGraph ਜਾਂ AutoGen ਨਾਲ ਕੰਮ ਕਰ ਸਕਦਾ ਹੈ?

ਹਾਂ। ਮਲਟੀ-ਏਜੰਟ ਫਰੇਮਵਰਕ ਵਿੱਚ ਆਮ ਤੌਰ 'ਤੇ VM ਅਤੇ ਵਰਕਰ ਏਜੰਟਾਂ ਦੇ ਬਾਹਰ ਇੱਕ ਕੋਆਰਡੀਨੇਟਰ ਪ੍ਰਕਿਰਿਆ ਹੁੰਦੀ ਹੈ ਜੋ ਇਸਦੇ ਅੰਦਰ ਟੂਲ ਚਲਾਉਂਦੇ ਹਨ। ਕੋਆਰਡੀਨੇਟਰ ਹਰ ਇੱਕ VM ਨਾਲ ਇੱਕ ਪ੍ਰਤਿਬੰਧਿਤ RPC ਚੈਨਲ ਉੱਤੇ ਸੰਚਾਰ ਕਰਦਾ ਹੈ — ਆਮ ਤੌਰ 'ਤੇ ਇੱਕ ਯੂਨਿਕਸ ਸਾਕੇਟ ਹਾਈਪਰਵਾਈਜ਼ਰ ਦੁਆਰਾ ਜਾਂ NAT ਨੈੱਟਵਰਕ ਉੱਤੇ ਇੱਕ ਪ੍ਰਤਿਬੰਧਿਤ TCP ਪੋਰਟ ਦੁਆਰਾ ਪ੍ਰੌਕਸੀਡ ਹੁੰਦਾ ਹੈ। ਹਰੇਕ ਵਰਕਰ ਏਜੰਟ ਨੂੰ ਆਪਣੀ ਖੁਦ ਦੀ ਸਨੈਪਸ਼ਾਟ ਬੇਸਲਾਈਨ ਨਾਲ ਆਪਣੀ VM ਉਦਾਹਰਨ ਮਿਲਦੀ ਹੈ। ਕੋਆਰਡੀਨੇਟਰ ਵਰਕਰ ਸਟੇਟ ਨੂੰ ਰੀਸੈਟ ਕਰਨ ਲਈ ਕਾਰਜ ਅਸਾਈਨਮੈਂਟਾਂ ਵਿਚਕਾਰ virsh ਸਨੈਪਸ਼ਾਟ-ਰਿਵਰਟ ਨੂੰ ਕਾਲ ਕਰਦਾ ਹੈ।

ਜੇ ਤੁਹਾਡੀ ਟੀਮ LLM ਏਜੰਟਾਂ ਦੀ ਤੈਨਾਤੀ ਕਰ ਰਹੀ ਹੈ ਅਤੇ ਤਾਲਮੇਲ ਪਰਤ ਨੂੰ ਪ੍ਰਬੰਧਿਤ ਕਰਨ ਦਾ ਇੱਕ ਚੁਸਤ ਤਰੀਕਾ ਚਾਹੁੰਦੀ ਹੈ — ਏਜੰਟ ਨੀਤੀਆਂ ਅਤੇ ਟੀਮ ਅਨੁਮਤੀਆਂ ਤੋਂ ਲੈ ਕੇ ਵਰਕਫਲੋ ਆਟੋਮੇਸ਼ਨ ਅਤੇ ਵਰਤੋਂ ਵਿਸ਼ਲੇਸ਼ਣ ਤੱਕ — ਆਪਣਾ Mewayz ਵਰਕਸਪੇਸ ਅੱਜ ਹੀ ਸ਼ੁਰੂ ਕਰੋ ਅਤੇ ਇੱਕ ਦਿਨ ਲਈ ਆਪਣੇ mofrastructure ਨੂੰ ਇੱਕ ਦਿਨ ਵਿੱਚ ਕੰਮ ਕਰੋ।