MLOps بدون الكلمة الطنانة: ما يتطلبه الأمر فعليًا للحفاظ على تشغيل نظام AI

MLOps هو النظام الذي يحافظ على فائدة نظام التعلم الآلي بعد إطلاقه. بعبارات واضحة، فهو يغطي أربع وظائف: المراقبة (مراقبة ما إذا كان النموذج لا يزال يعمل في العالم الحقيقي)، وإعادة التدريب (تحديثه مع تغير البيانات)، والإصدار (معرفة النموذج والبيانات التي أنتجت النتيجة على وجه التحديد)، وأنظمة النشر التي تشحن الإصدار الجديد بأمان. النموذج ليس منتجًا نهائيًا في يوم نشره. إنه مكون قابل للتلف موجود داخل النظام ويجب تغذيته ومراقبته وتصحيحه. MLOps هو اسم هذا العمل المستمر. تجاهل ذلك، وسيبتعد النموذج بهدوء عن الواقع، وتنزلق الدقة، وفي صباح أحد الأيام تكون التوقعات خاطئة بطرق لا يمكن لأحد التحقق منها. الإطلاق هو بداية العمل وليس نهايته.

ماذا يعني MLOps فعليًا في الإنتاج؟

MLOps هو ما يمثله DevOps بالنسبة للبرامج العادية، وقد تم تكييفه مع حقيقة أن النموذج يعتمد على البيانات، وليس فقط التعليمات البرمجية. يتصرف التطبيق العادي بنفس الطريقة التي كان يتصرف بها في اليوم الذي قمت فيه بشحنه، حتى يقوم شخص ما بتغيير الرمز. نموذج لا. العالم الذي تعلمته منه مستمر في التحرك، لذلك يمكن أن تتدهور دقته بينما يظل كل سطر من التعليمات البرمجية دون تغيير.

هذا الاختلاف هو بيت القصيد. مع البرنامج الذي تسأله، هل لا يزال قيد التشغيل. مع النموذج، عليك أيضًا أن تسأل، هل لا يزال صامدًا؟ MLOps هي مجموعة من الممارسات والأدوات التي تتيح لك الإجابة على السؤال الثاني كل يوم، وليس مرة واحدة كل ثلاثة أشهر عندما يشتكي العميل.

ما هو العمل بعد إطلاق النموذج؟

ينقسم عمل اليوم الثاني إلى أربع وظائف متكررة. لا أحد منهم ساحر، وكلها هي التي تفصل بين النظام الذي يكسب بقاءه والنظام المتعفن.

1. المراقبة. تتبع مدخلات ومخرجات النموذج في الإنتاج. راقب انحراف البيانات (بدأت البيانات الحية تبدو مختلفة عن بيانات التدريب) وراقب انخفاض الدقة مقابل النتائج الحقيقية بمجرد معرفتها. التنبيه الذي تريده هو الذي يتم إطلاقه قبل أن يلاحظه العميل، وليس بعده.
2. إعادة التدريب. عندما يتراجع الأداء أو تتحرك البيانات بوضوح، قم بتحديث النموذج على بيانات أحدث وأرسل التحديث. قرر مقدمًا ما إذا كان هذا قد تم تشغيله عن طريق عبور متري لخط أو يتم تنفيذه وفقًا لجدول زمني، واجعله أمرًا روتينيًا، وليس تمرينًا على الحرائق.
3. إصدار. سجل إصدار الكود والبيانات والنموذج المدرب الذي أدى إلى أي نتيجة معينة. عندما يتم تحدي أحد المخرجات، فإنك تحتاج إلى إعادة بناء ما تم تشغيله بالضبط. وبدون ذلك فإن كل تحقيق يبدأ من التخمين.
4. التحقق من الصحة والطرح. اختبر نموذجًا جديدًا مقابل النموذج الحالي قبل أن يصل إلى حركة المرور الحقيقية، وقم بتحريره تدريجيًا، وحافظ على مسار سريع للعودة إلى الإصدار السابق إذا كان أداؤه ضعيفًا.

هذا هو نفس النظام الهندسي الذي يحول الطيار إلى نظام ينجو من الاتصال بالمستخدمين الحقيقيين. يثبت العرض التوضيحي أن النموذج يمكن أن يعمل مرة واحدة. يثبت هذا العمل أنه يستمر في العمل.

لماذا تتعفن أنظمة AI بدون MLOps؟

لأن البيانات الموجودة تحتها لا تتوقف أبدًا عن التغير، والنموذج غير الخاضع للمراقبة ليس لديه طريقة لإخبارك بأنه قد تخلف عن الركب. إن نموذج الاحتيال الذي تم تدريبه على أنماط العام الماضي يفشل ببطء في نموذج هذا العام. يبدأ مستخرج المستندات الذي تم ضبطه على فواتير أحد الموردين في إسقاط الحقول عند وصول تنسيق المورد الجديد. الكود جيد. لقد تجاوز النموذج ببساطة الواقع الذي تم تصميمه من أجله.

والخطر هو أن هذا الفشل صامت. صفحات خادم معطلة لشخص ما في الساعة 3 صباحًا. النموذج المنجرف يعرض إجابات أسوأ قليلاً، يومًا بعد يوم، ويستمر في إعادتها بثقة. لا أحد يحصل على الصفحة. بحلول الوقت الذي يكتشف فيه شخص ما رقمًا غريبًا، قد يكون النظام مخطئًا منذ أشهر. هذا هو ما يعنيه الناس عندما يقولون إن نظام AI قد تعفن: ليس أنه انكسر، ولكن لم يكن أحد يشاهده وهو يتحلل.

ولهذا السبب تتعامل الأنظمة الدائمة، مثل النوع المطلوب لـ المستند AI في المؤسسة، مع المراقبة وإعادة التدريب كجزء من البناء، وليس كشيء يمكن إضافته إذا كانت هناك ميزانية متبقية.

ما هي الكمية التي يحتاجها المشروع حقًا لـ MLOps؟

أقل مما يوحي به مشهد البائع، وأكثر مما يخصصه معظم الطيارين. يتناسب المقدار الصحيح مع الرهانات، وليس مع حجم كتالوج الأدوات.

نوع النظام	ما يحتاجه الرصد	إعادة تدريب الإيقاع
مدخلات منخفضة المخاطر ومستقرة	تسجيل الإخراج الأساسي وفحص بسيط للدقة	نادرًا، فقط عندما تظهر مشكلة
الأعمال الحرجة، وتحويل المدخلات	تنبيهات الانجراف والدقة مع مالك مسمى	على مشغل محدد أو جدول منتظم
القرارات التبعية في حق الناس	تسجيل كامل، مراجعة بشرية لحالات الحافة، مسار التدقيق	مجدولة، مع تسجيل كل إصدار

هناك مبدأان يبقيان هذا صادقًا. أولاً، قم ببناء المراقبة قبل أن تحتاج إليها، بينما يكون النظام صغيرًا، لأن تعديل الرؤية في النظام المباشر أصعب بكثير من تصميمها. ثانيًا، قم بإعطاء نظام التشغيل مالكًا محددًا. العمل التشغيلي بلا مالك لا يحدث، والنموذج الذي لا يراقبه أحد هو نموذج في طريقه إلى التعفن.

##الوجبات العملية

عندما تقوم بتشغيل نظام AI، اسأل من المسؤول عنه في الشهر السادس، وكيف سيعرفون إذا توقف عن العمل. إذا كان الجواب هو تاريخ الإطلاق والصمت بعد ذلك، فأنت تشتري عرضًا تجريبيًا بمدرج أطول. إذا كانت الإجابة تشير إلى شخص ما، ومجموعة من المقاييس التي يشاهدونها، وخطة لتحديث النموذج، فأنت تشتري شيئًا مصممًا ليظل مفيدًا. MLOps هي مجرد عادة غير جذابة تتمثل في الوفاء بالوعد بعد انتهاء حفل الإطلاق. تقوم Encelyte ببناء مستند نظامي AI وAI مع عمل اليوم الثاني المصمم منذ البداية.