سدايا تلزم الجهات الحكومية والخاصة بمنهجية موحدة لرقابة مخاطر الذكاء الاصطناعي وتعتمد وسما موثوقا للأنظمة

ماذا يعني إطلاق الهيئة السعودية للبيانات والذكاء الاصطناعي "سدايا" للإطار الوطني لإدارة مخاطر الذكاء الاصطناعي اليوم في الرياض؟ يمثل هذا الإطلاق توفير مرجع إرشادي موحد يُلزم الجهات الحكومية والخاصة بمنهجية واضحة للتبني الآمن والمسؤول للتقنيات الحديثة، بما يتسق مع الأولويات الوطنية.

دوافع الإطلاق والتحديات التقنية

يأتي إصدار هذا الإطار بالتزامن مع التوسع المتسارع في استخدام تطبيقات الذكاء الاصطناعي محلياً وعالمياً، ووفق ما أوضحه بيان "سدايا"، فإن هذا الانتشار السريع ترافقه مخاطر تقنية تختلف جذرياً عن تلك المرتبطة بالأنظمة التقليدية المعتادة؛ إذ قد تمتد التأثيرات المحتملة لتطال الأفراد والجهات، وبالتالي تنعكس مباشرة على الاقتصاد الوطني، كما تتسم مخاطر أنظمة الذكاء الاصطناعي بخصائص معقدة وفريدة، ويظهر ذلك جلياً في إمكانية بروزها بطرق غير متوقعة أثناء مراحل التشغيل الفعلي.

إلى جانب ذلك، يتغير أداء النماذج الذكية بمرور الوقت، مما يصعد من التحديات المتمثلة في صعوبة تفسير سلوكها التقني أو إعادة إنتاج نتائجها بشكل دقيق، وترتيباً على ما سبق، بات من الضروري إقرار منهجية متكاملة لإدارة هذه المتغيرات.

المنهجية المعتمدة ومصفوفة التقييم

يعتمد الإطار الوطني دورة حياة متكاملة لإدارة المخاطر، تبدأ بتحديد السياق والنطاق الخاص بكل جهة، لاحقاً، تنتقل المنهجية إلى تحديد المخاطر، ثم تقييمها ومعالجتها، وصولاً إلى مرحلة المتابعة والمراجعة الدورية المستمرة.

ومن جانب آخر، تستند الهيئة في عملياتها إلى مصفوفة رقمية تربط بين احتمالية وقوع الخطر وحجم الأثر المترتب عليه، ومن هذا المنطلق تهدف هذه المصفوفة إلى توحيد آلية التقييم وضبط معايير الرقابة بين مختلف الجهات المطبقة للأنظمة.

المبادئ السبعة وتصنيفات المخاطر

يقوم الإطار الوطني على سبعة مبادئ رئيسية تضبط بوصلة العمل التقني، وتشمل:

• النزاهة والإنصاف.
• الخصوصية والأمن.
• الإنسانية.
• الموثوقية والسلامة.
• الشفافية وقابلية التفسير.
• المساءلة والمسؤولية.
• المنافع الاجتماعية والبيئية.

علاوة على ذلك، يصنف الإطار المخاطر المحتملة إلى سبعة أنواع رئيسية لضمان شمولية التحديد؛ وذلك لتجنب إغفال أي فئة جوهرية قد تؤثر على سلامة وكفاءة الأنظمة الذكية.

النماذج العملية ومستهدفات الرؤية

أدرجت الهيئة ضمن الإطار سيناريو تطبيقياً يحاكي استخدام إحدى الجهات الحكومية لنموذج ذكاء اصطناعي في إعداد التقارير الداخلية، حيث يستعرض هذا السيناريو خطوات تحديد المخاطر وتقييمها ومعالجتها خطوة بخطوة.

ومن أبرز ما يوفره هذا السيناريو، تقديم نموذج عملي قابل للتطبيق المباشر في الجهات على اختلاف قطاعاتها وتفاوت مستويات نضجها الرقمي، وتندرج هذه الإجراءات ضمن جهود "سدايا" لتعزيز الاستخدام المسؤول للتقنيات، بالإضافة إلى تمكين الجهات الوطنية من تبنيها بأمان.

وفيما يخص المرحلة المقبلة، تدعم هذه الإطلاقات منظومة الابتكار الرقمي داخل المملكة، وتصب في تحقيق مستهدفات رؤية المملكة 2030 للتحول التقني، أخيراً، يتيح الإطار الوصول لكافة تفاصيله عبر رابطه الرسمي المخصص للمهتمين.