يحتاج سير عمل الذكاء الاصطناعي إلى موارد لأدواته الفعلية وتزامنه، وإلى أذونات تظل قابلة للتنفيذ خارج النموذج. يؤدي الاستدلال البعيد والاستدلال المحلي إلى قرارات مختلفة بشأن CPU والذاكرة والتخزين وGPU.
سمِّ المهمة قبل اختيار الجهاز
يجمع عامل الذكاء الاصطناعي بين نموذج وبرمجية تستقبل المهام وتجمع السياق وتستدعي الأدوات. لمصنّف مستندات مجدول ومساعد بحث داخلي وسير عمل مدفوع بالمتصفح احتياجات تشغيل مختلفة. اكتب المدخل والمخرج المتوقع والأنظمة التي قد يتصل بها والنقطة التي يوافق فيها شخص على إجراء ذي أثر. هذا المواصفة الصغيرة تخبرك عن المضيف أكثر من التسمية agent.
ابدأ بمهمة واحدة قابلة للتكرار وحساب ضيق. يحتاج العامل الذي يصوغ ردًا إلى سلطة أقل من الذي يرسله. أبقِ تلك المراحل منفصلة في التطبيق. يجب أن يدعم الخادم سير العمل المعتمد دون تحويل كل تعليمة مولدة إلى عملية قابلة للتنفيذ. الإكمال يعني نتيجة متحققة أو حالة فشل واضحة، بدلًا من حلقة تعمل إلى أجل غير مسمى.
افصل النموذج البعيد عن النموذج المحلي
عندما يعمل النموذج خلف API خارجي، يستضيف VPS أساسًا قائمة الانتظار والتطبيق والأدوات والحالة الدائمة. يأتي طلب الذاكرة من تلك العمليات، بما في ذلك أي متصفحات أو محللات مستندات. لا يسرّع GPU على هذا الجهاز نموذجًا يعمل في مكان آخر. سجّل المحتوى الذي يعبر حدود API وقيّم ذلك المزود بشكل مستقل عن موقع العامل.
يضيف الاستدلال المحلي تخزين النموذج وذاكرة النموذج وتوافق وقت التشغيل إلى الميزانية. تكشف أدوات الاستدلال مثل Ollama معلومات عن وضع CPU أو GPU والطلبات المتزامنة. اختبر النموذج المختار وطول السياق والتزامن معًا. قد يرفع سياق أكبر أو مهام متزامنة أكثر طلب الذاكرة؛ وحجم ملف النموذج وحده طريقة تقدير غير كاملة. تحقق من العتاد المدعوم لوقت التشغيل قبل اختيار تكوين GPU.
| نمط العامل | سؤال الموارد الرئيسي | الحدود التي يجب مراجعتها |
|---|---|---|
| نموذج بعيد عبر API | ذاكرة التطبيق والأدوات | المحتوى المرسل إلى مزود النموذج |
| نموذج محلي | النموذج والسياق وذاكرة العمل | توافق وقت التشغيل والجهاز |
| سير عمل المتصفح | عمليات المتصفح الذروية والملفات المؤقتة | محتوى الويب والإجراءات المسموح بها |
قِس قائمة انتظار تمثيلية
جهّز مجموعة صغيرة من المهام بمدخلات عادية وكبيرة بشكل غير معتاد. قِس ذروة الذاكرة وزمن المعالجة المنقضي والتخزين المؤقت وعدد الاستدعاءات الخارجية. ضمّن حالات الفشل: API غير متاح، ومستند مشوّه، ومهلة أداة. هذه القياسات تمرين تخطيطي لبرمجيتك، وليست معيارًا أو وعدًا بالأداء لخطة SwissOctet.
حدد حدًا أقصى لعدد المهام النشطة وحدًا أقصى لزمن التنفيذ. ضع في قائمة الانتظار العمل الذي لا يمكن أن يبدأ بأمان وارفض الحمل الزائد بطريقة متوقعة. قد تؤدي إعادة محاولة كل فشل فورًا إلى مضاعفة ضغط الخادم وإنفاق API. استخدم سياسة إعادة محاولة محدودة ومعرّفًا يمنع تطبيق الإجراء المكتمل نفسه مرتين. احتفظ بسعة لنظام التشغيل والمراقبة والصيانة أثناء نشاط المهام.
امنح الأدوات سلطة أقل من طموح العامل
قد تحتوي المستندات وصفحات الويب المقدمة إلى نموذج على تعليمات تهدف إلى إعادة توجيهه. تعامل مع المحتوى المسترجع كمدخل، لا كمصدر لإذن التشغيل. توصي إرشادات OWASP بشأن حقن الأوامر بعدة طبقات من الضبط، بما في ذلك تقييد الأدوات وفحوصات حول الإجراءات الحساسة. ضع الأذونات في تنفيذ الأداة وبيئة التشغيل، حيث لا يستطيع النموذج إعادة كتابتها عبر استجابة.
استخدم بيانات اعتماد منفصلة لمهام منفصلة، مع الوصول فقط إلى السجلات أو الأدلة التي تحتاجها كل مهمة. فضّل المعاملات المهيكلة على أوامر shell المولدة من النموذج. تحقق من وجهات الملفات والأهداف الصادرة. اشترط حد موافقة متعمد لإرسال الرسائل أو نشر التغييرات أو تعديل السجلات المهمة. لا ينبغي لعامل بحث للقراءة فقط ومسؤول إنتاج أن يرثا بيانات الاعتماد نفسها لمجرد أنهما يعملان على مضيف واحد.
أبقِ ضوابط الموارد والاسترداد صريحة
يمكن للحاويات تنظيم التبعيات وحدود العمليات، لكنها تحتاج إلى تكوين متعمد. توثق Docker أن الحاويات لا تحتوي على حدود موارد افتراضيًا. اضبط حدودًا مناسبة للذاكرة وCPU، واستخدم عملية غير مميزة حيثما كان ذلك مدعومًا، واربط البيانات المطلوبة فقط. أبقِ نقاط نهاية النموذج وواجهات الإدارة مقيدة بدلًا من تعريضها ببساطة لتسهيل الاختبار الأولي.
احتفظ بحالة المهمة بشكل منفصل عن ملفات العمل المؤقتة. سجّل معلومات كافية للتعرف على العمل المكتمل بعد إعادة التشغيل دون تخزين كل موجه إلى الأبد. احمِ بيانات الاعتماد من السجلات والمنتجات المولدة. حدد مدة الاحتفاظ بالمدخلات والمخرجات والبيانات التشخيصية. يجب أن يعيد اختبار الاسترداد تشغيل العامل ويتحقق من أن المهام غير المنتهية تستأنف بأمان، والمهام المكتملة تبقى مكتملة، والفشل يبقى مرئيًا للمشغل.
اجعل النشر الأول اختبار قبول
شغّل سير العمل الضيق ببيانات اصطناعية أو عينات معتمدة قبل منح وصول أوسع. تحقق من المخرجات المفيدة والأذونات وسلوك قائمة الانتظار والاسترداد من تبعية فاشلة. راقب العملية كاملة، بما في ذلك عمليات المتصفح الفرعية وتنزيلات البيانات. إذا كان النموذج محليًا، فضمّن بدءًا باردًا والعدد المقصود من الطلبات المتزامنة في الاختبار.
استخدم Vector أو Pulse كقائمة مختصرة للمواصفات للعمال العاديين، وقارن Tensor فقط عندما يحتاج وقت تشغيل الاستدلال إلى موارد GPU مناسبة. تأكد من التوافق والتوافر قبل طلب حقيقي. وسّع أذونات العامل فقط بعد أن يصبح سلوكه قابلًا للمراجعة. الهدف هو خدمة ذات نطاق تشغيل واضح وميزانية موارد قابلة للقياس وطريقة مباشرة لإيقاف العمل واسترداده.
قائمة التحقق العملية.
- صِف مهمة واحدة وحد الموافقة الخاص بها.
- افصل معالجة API البعيدة عن الاستدلال المحلي.
- قِس الأدوات والمتصفحات وذروة التزامن.
- طبّق حدود الوقت والموارد والأذونات.
- اختبر إعادات التشغيل دون تكرار الإجراءات المكتملة.
التفاصيل المهمة.
هل يحتاج كل عامل ذكاء اصطناعي إلى GPU؟+
لا. يحتاج العامل الذي يستدعي API نموذجًا بعيدًا عادةً إلى موارد للتنسيق والأدوات. وللاستدلال المحلي متطلبات عتاد ووقت تشغيل منفصلة.
هل تجعل الحاوية سير عمل مستقلًا آمنًا؟+
لا. اضبط أذوناته ووصلاته ووصوله إلى الشبكة وحدود موارده، وافحص إجراءات الأدوات ذات الأثر خارج النموذج.
هل استضافة العامل في سويسرا تبقي كل موجه هناك؟+
لا. قد تعالج واجهات النموذج البعيدة والتكاملات الأخرى المحتوى في مكان آخر. ارسم تلك التبعيات بشكل صريح.
اذهب إلى المصدر.
تدعم هذه المراجع المفاهيم التقنية في هذا الدليل. اتبع الوثائق الحالية قبل تغيير نظام إنتاجي.
- Docker: قيود الموارد docs.docker.com
- OWASP: منع حقن الأوامر في LLM cheatsheetseries.owasp.org
- Ollama: الأسئلة الشائعة حول وقت التشغيل والتزامن docs.ollama.com
إرشاد تحريري من SwissOctet. الأمثلة توضيحية. يجب التحقق من مواصفات الخدمة والخيارات المتاحة والشروط التعاقدية بشكل منفصل.