حوكمة AI لشركات السوق المتوسطة: الإصدار الخفيف الذي لا يزال صامدًا

يحتوي إطار عمل حوكمة AI خفيف الوزن لشركة متوسطة السوق على أربعة أجزاء متحركة: جرد لكل نظام AI تقوم بتشغيله، ومستوى مخاطرة بسيط لكل نظام، وإنسان محدد يمكنه تجاوزه أو إيقافه، وسجل لما فعله. هذا هو الهيكل كله. لا تحتاج إلى لجنة أو مكتبة سياسات أو موظف امتثال مخصص. أنت بحاجة إلى معرفة AI الذي تقوم بتشغيله، ومدى الضرر الذي يمكن أن يصيب أي شخص إذا حدث خطأ، ومن المسؤول عندما يحدث ذلك، وسجل يمكنك التحقق منه بعد ذلك. يمكن لفريق مكون من خمسين شخصًا أن يقوموا بذلك في فترة ما بعد الظهيرة ويحافظوا عليه خلال ساعة واحدة في الشهر. النقطة المهمة ليست إبطاء العمل. الهدف هو التأكد من عدم قيام أي نظام AI باتخاذ قرارات تبعية بهدوء لا يملكها أحد ولا يمكن لأحد إعادة بنائها.

ماذا تعني حوكمة AI فعليًا بالنسبة لشركة أصغر؟

الحوكمة هي الإجابة على سؤال واحد: عندما يقوم نظام AI بعمل خطأ ما، فمن كان يعلم، ومن يمكنه إيقافه، وهل يمكنك إثبات ما حدث؟ بالنسبة لشركة متوسطة السوق، لا يتطلب ذلك الأجهزة التي يحتاجها البنك أو المستشفى. يتطلب أن يكون لكل نظام مالك، وتصنيف للمخاطر، ومسار.

يكمن الفخ في افتراض أن الحوكمة تعني النسخة المؤسسية: مجلس توجيه، وسياسة مكونة من ثلاثين صفحة، ومراجعة سنوية. وفقًا لمقياسك، إما أن يتم تصنيع هذه الآلات وتجاهلها، أو لا يتم تصنيعها أبدًا لأنها تبدو مستحيلة. يقوم إطار العمل خفيف الوزن بنفس الوظيفة (الرؤية، والمساءلة، والأدلة) بجزء صغير من الوزن. وهو أيضًا الأساس الذي ستحتاجه على أي حال بمجرد أن يبدأ قانون الاتحاد الأوروبي AI للشركات التي تشحن AI في فرض الغرامات، لأن الأجزاء الأربعة نفسها ترتبط بشكل مباشر تقريبًا بالتزاماتها عالية المخاطر.

كيف يمكنني إنشاء إطار عمل حوكمة خفيف الوزن AI، خطوة بخطوة؟

1. قم بجرد كل نظام AI. قم بإدراج كل نظام في جدول بيانات، بما في ذلك الميزات المدعومة بهدوء بواسطة نموذج البائع (روبوت الدعم، والهداف الرئيسي، وأي شيء "ذكي" في أداة SaaS التي تدفع مقابلها). لا يمكنك التحكم في ما لم تكتبه، وتجد معظم الشركات أن القائمة الحقيقية أطول من تلك التي كانت في رؤوسها.
2. قم بتعيين مستوى خطر لكل منها. استخدم ثلاثة مستويات، وليس عشرة. منخفض: يشير إلى أن الإنسان يقرر، والأخطاء رخيصة ويمكن عكسها. الوسيط: يعمل من تلقاء نفسه ولكن بطريقة محدودة وقابلة للاسترداد. عالي: يتخذ أو يشكل بشكل كبير قرارًا تبعيًا بشأن شخص ما (التوظيف، والائتمان، والوصول، والتسعير الذي يستهدف الأفراد). قم بفرز القائمة وتوقف عن توزيع الاهتمام بالتساوي. تقريبا كل ذلك يذهب إلى الطبقة العليا.
3. قم بتسمية مالك لكل نظام. شخص حقيقي، وليس قسم. يمكن للمالك أن يشرح ما يفعله النظام، ويقرر متى يتغير، وهو الذي يجيب عندما يسيء التصرف. الحكم مع عدم وجود مالك لا يحدث.
4. حدد مسار الإشراف البشري على الأنظمة عالية المستوى. قرر كتابيًا من يمكنه مراجعة النظام وتجاوزه وإيقاف تشغيله وبأي سرعة. قم ببناء عنصر التحكم هذا في المنتج بدلاً من تثبيته لاحقًا. الشخص الذي يمكنه التدخل من الناحية الفنية ولكن ليس لديه زر للضغط عليه لا يعتبر رقابة.
5. قم بتشغيل التسجيل. قم بتسجيل المدخلات والمخرجات والقرار لأي شيء في المستويين المتوسط ​​والعالي. عندما يتم الاعتراض على نتيجة ما، فإنك تريد إعادة بناء ما شاهده النظام وما فعله بالضبط، وليس تخمينه. ابدأ هذا عندما تكون الأنظمة صغيرة، لأن تعديل السجل أصعب بكثير من تشغيله.
6. قم بتعيين إيقاع مراجعة خفيف. قم بالتجول في المخزون مرة كل ثلاثة أشهر: أي شيء جديد، أو أي شيء غيّر الطبقة، أو أي مالك غادر. ساعة مع القائمة تتفوق على ملف لا يفتحه أحد.

ما هي أنظمة AI التي يجب أن أقلق بشأنها بالفعل؟

ليست تلك التي تقوم بصياغة نسخة تسويقية أو تلخيص الاجتماعات. تقلق بشأن الأنظمة التي تقع أخطاؤها على عاتق شخص معين ويصعب التراجع عنها. الجدول أدناه هو الفرز السريع الذي تحتاجه معظم فرق السوق المتوسطة.

إذا كان النظام...	الطبقة	ما الحكم الذي يحتاجه
يقترح، يوافق الإنسان، الأخطاء رخيصة	منخفض	مدرج في الجرد، مالك، لا أكثر
يعمل تلقائيًا ولكنه محدد وقابل للاسترداد	متوسطة	مالك، التسجيل، طريقة محددة لإيقافه مؤقتًا
يقرر أو يشكل بقوة مكالمة تبعية حول شخص ما	عالية	المالك، التسجيل الكامل، مسار التجاوز البشري المكتوب، المراجعة الدورية

إن الخط الفاصل هو النتيجة والعكس، وليس مدى ذكاء النموذج. يعد نموذج اللغة الكبير الذي يكتب ملاحظات داخلية منخفض المخاطر. إن المزيج البسيط من القواعد والنماذج الذي يصنف المتقدمين للوظائف ينطوي على مخاطر عالية، لأن النتيجة الخاطئة تكلف الشخص الحقيقي فرصة وقد تضطر إلى الدفاع عن القرار. صنف حسب التأثير، ثم ضع جهدك حيث يوجد التأثير.

من يملك إدارة AI عندما لا يكون هناك فريق متخصص؟

في معظم شركات السوق المتوسطة، يوجد قائد واحد للعمليات أو التكنولوجيا الذي يحتفظ بالمخزون، بالإضافة إلى مالك محدد لكل نظام يكون مسؤولاً عن هذا النظام عمليًا. هذا يكفي. أنت لا تقوم ببناء وظيفة؛ أنت تقوم بتعيين المسؤولية وكتابتها. الخطأ هو ترك الأمر لـ "الجميع"، وهو ما يعني لا أحد، حتى ينكسر شيء ما ويجد التشريح نظامًا لم يعترف أحد بتشغيله.

إذا قمت بإحضار مساعدة خارجية، فإن الاختبار هو نفسه الذي ينطبق على أي مشاركة استشارات AI. اسأل عما تملكه عندما ينتهي. يجب أن يترك لك مشروع الحوكمة مخزونًا محتفظًا به، ومسح المالكين، وسجلات العمل، والإشراف المضمن في المنتجات، وليس مستند سياسة يتقادم على محرك أقراص مشترك.

##الوجبات العملية

ابدأ بالمخزون هذا الأسبوع. وإلى أن تقوم بتدوين كل نظام AI تقوم بتشغيله وتصنيفه حسب الضرر الذي قد يسببه الفشل، فإن كل نشاط حوكمة آخر يعد مجرد تخمين. بمجرد وجود القائمة، يصبح الباقي صغيرًا وواضحًا: المالكون، والسجلات، ومسار التجاوز للقلة المعرضة للخطر الشديد، ونظرة ربع سنوية. أبقِ الأمر خفيفًا وسوف يتم استخدامه بالفعل، وهي الحوكمة الوحيدة التي تحميك.