قانون الاتحاد الأوروبي AI: ما يعنيه فعليًا بالنسبة للشركات التي تقوم بشحن AI

إذا قمت ببناء أو شراء أو نشر AI الذي يمس الأشخاص في الاتحاد الأوروبي، فإن قانون AI يحدد الآن القواعد التي تلتزم بها. تُطبَّق غرامات الممارسات المحظورة منذ فبراير 2025، والموعد الذي يهم معظم الشركات العادية، حين تدخل التزامات المخاطر العالية وعقوباتها حيز التنفيذ، هو 2 أغسطس 2026. لا تحتاج معظم الفرق إلى الذعر. إنهم بحاجة إلى معرفة مستوى المخاطر الذي يقع فيه نظامهم، والبدء في التوثيق الذي يتطلبه هذا المستوى.

أربعة مستويات، واثنان فقط يكلفانك مجهودًا حقيقيًا

يصنف القانون كل نظام AI إلى أربع مستويات للمخاطر. ويتم حظر المخاطر غير المقبولة بشكل كامل: التسجيل الاجتماعي الحكومي، وتحديد الهوية البيومترية في الوقت الحقيقي في الأماكن العامة، والتلاعب الذي يسبب الضرر. تم حظر هذه الممارسات منذ 2 فبراير 2025. الحد الأدنى من المخاطر، الذي يغطي معظم البرامج بما في ذلك مرشحات البريد العشوائي ومحركات التوصيات، لا يحمل أي التزامات جديدة.

بين هذين النقيضين توجد المستويات التي تشكل في الواقع كيفية البناء. تجلب المخاطر المحدودة واجب الشفافية: إخبار الأشخاص عندما يتحدثون إلى برنامج آلي، ووضع علامة على الوسائط الاصطناعية. المخاطر العالية هي المكان الذي تعيش فيه الالتزامات الثقيلة، وحيث ستذهب معظم أعمال الامتثال والميزانية. إذا لم تتمكن بعد من استبعاد المخاطر العالية للنظام، فافترض ذلك حتى تتمكن من ذلك. تكلفة تخمين النقاط الخاطئة في اتجاه واحد فقط.

ما يعتبر في الواقع عالي المخاطر

هذا هو السؤال الذي يحدد عبء العمل الخاص بك، وهو أضيق مما توحي به العناوين الرئيسية. النظام عالي الخطورة في حالتين. أولاً، إذا كان مكونًا للسلامة في منتج خاضع للتنظيم بالفعل، مثل الأجهزة الطبية أو الآلات أو المركبات. ثانيًا، إذا كانت تعمل في أحد المجالات التي يدرجها القانون في الملحق الثالث: التوظيف وإدارة العمال، والحصول على التعليم، وتسجيل الائتمان والخدمات المالية الأساسية، والخدمات والمزايا العامة الأساسية، وإنفاذ القانون، والهجرة، وإقامة العدل.

الخيط المشترك هو النتيجة. إذا كان نموذجك يساعد في تحديد من سيحصل على وظيفة، أو قرض، أو مكان دراسي، أو منفعة، فمن المحتمل أن يكون الأمر عالي المخاطر، ويقع العبء عليك لإظهار خلاف ذلك. إن برنامج الدردشة الآلي الذي يجيب على أسئلة المنتج ليس عالي المخاطر. نفس برنامج الدردشة الآلي، الذي تم إعادة استخدامه لفحص المتقدمين للوظائف، هو.

المواعيد التي تحمل غرامات

دخل القانون حيز التنفيذ في 1 أغسطس 2024 وسيدخل حيز التنفيذ على مراحل. تم تطبيق الممارسات المحظورة وواجب محو الأمية AI منذ 2 فبراير 2025. تم تطبيق التزامات نماذج AI للأغراض العامة، وهي نماذج اللغة الكبيرة التي تعتمد عليها معظم الفرق الآن، اعتبارًا من 2 أغسطس 2025. التاريخ الأكثر أهمية بالنسبة للشركات العادية هو 2 أغسطس 2026، عندما تدخل المتطلبات عالية المخاطر والعقوبات المالية حيز التنفيذ. يستمر استخدام AI عالي الخطورة المضمن في المنتجات الخاضعة للرقابة حتى 2 أغسطس 2027.

العقوبات بحجم يمكن الشعور به. يمكن أن يكلف استخدام نظام محظور ما يصل إلى 35 مليون يورو أو 7 بالمائة من حجم المبيعات السنوية العالمية، أيهما أعلى. يمكن أن يصل خرق الالتزامات عالية المخاطر إلى 15 مليون يورو أو 3 بالمائة من حجم الأعمال. ويمكن أن تصل تكلفة تزويد الجهات التنظيمية بمعلومات غير صحيحة أو مضللة إلى 7.5 مليون يورو أو 1 بالمائة. هذه هي الحدود القصوى للانتهاك، لكنها كبيرة بما يكفي بحيث تتوقف عبارة "سنتعامل معها لاحقًا" عن كونها خطة.

كيف تبدو الالتزامات عالية المخاطر في الممارسة العملية

إذا تخلصنا من اللغة القانونية، فإن النظام عالي المخاطر هو في الغالب نظام هندسي جيد، مكتوب. أنت بحاجة إلى عملية إدارة المخاطر التي تمتد طوال عمر النظام، وليس تسجيل الخروج لمرة واحدة. أنت بحاجة إلى حوكمة البيانات: معرفة ماهية بيانات التدريب والمدخلات الخاصة بك، ومن أين أتت، وكيف يمكن أن تؤدي إلى تحيز النتيجة. أنت بحاجة إلى وثائق فنية وتسجيل تلقائي، حتى أنه عند الطعن في قرار ما، يمكنك إعادة بناء كيفية وصول النظام إليه. أنت بحاجة إلى إشراف بشري ذي معنى، شخص يمكنه فهم النظام وتجاوزه وإيقافه، بدلاً من ختم مطاطي. وقبل أن يتم تشغيله، يحتاج النظام عالي المخاطر إلى تقييم المطابقة والتسجيل في قاعدة بيانات الاتحاد الأوروبي.

لا شيء من هذا غريب. إنه نفس النظام الذي يفصل النموذج الذي يتم تشغيله في الإنتاج عن العرض التوضيحي الذي يحدث مرة واحدة.

ماذا تفعل الآن

إن قائمة المراجعة القصيرة والصادقة تتفوق على ملف الامتثال الذي لا يقرأه أحد.

• قم بجرد كل نظام AI الذي تقوم بإنشائه أو شراؤه، بما في ذلك الميزات التي يتم تشغيلها بهدوء بواسطة نموذج البائع.
• صنف كل واحدة حسب المستوى، وكن صارماً بشأن المناطق عالية الخطورة في الملحق الثالث.
• منح كل نظام عالي الخطورة مالكًا مسمىًا. لا يحدث الامتثال لأي مالك.
• ابدأ بالتوثيق الفني والتسجيل الآن، بينما النظام صغير. تعديله لاحقًا يكلف أكثر بكثير.
• بناء مسار الإشراف البشري على المنتج، وليس كعنصر أساسي في النهاية.
• اقرأ شروط بائع AI للأغراض العامة. التزاماتهم لا تمحو التزاماتك.

تصنيف أنظمتك حسب مستويات المخاطر التي يحددها القانون وبناء التوثيق الذي يحتاجه كل مستوى هو جزء من عملنا في استشارات AI.

الوجبات الجاهزة

لا يتعلق قانون AI بحظر AI بقدر ما يتعلق بإجبارك على التوثيق والإشراف على AI الذي يتخذ قرارات مهمة بشأن الأشخاص. بالنسبة للأنظمة ذات المخاطر المنخفضة أو المحدودة بشكل واضح، يكون العمل صغيرًا. بالنسبة للأنظمة عالية المخاطر، فإن العمل حقيقي، و2 أغسطس 2026 أقرب مما يبدو. قم بتخطيط أنظمتك للمستويات أولاً. كل شيء آخر تقريبًا يأتي من معرفة مكانك.