ما هو الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي الذي أطلقته "سدايا"؟ يمثل هذا الإطار دليلاً إرشاديًا يوفر منهجية موحدة للجهات الحكومية والخاصة للتعامل مع التقنيات الذكية بصورة آمنة ومسؤولة، ويعني ذلك أنها تتسق مع التوجهات الوطنية لتعزيز الابتكار الرقمي.
ويأتي إطلاق الإطار، وفقاً لبيان الهيئة السعودية للبيانات والذكاء الاصطناعي عبر حسابها في منصة "إكس"، تزامناً مع التوسع المحلي والعالمي المتسارع في تبني النماذج الذكية لتطوير الأعمال والخدمات؛ إذ تحمل هذه الأنظمة مخاطر تختلف طبيعتها عن البرمجيات التقليدية، وبالتالي تمتد آثارها لتشمل الأفراد والمؤسسات والاقتصاد الوطني ككل.
تحديات تشغيل الأنظمة الذكية
تُظهر أنظمة الذكاء الاصطناعي سلوكيات غير متوقعة أثناء مراحل التشغيل الفعلي، كما يتغير أداؤها بمرور الوقت، إضافةً إلى ذلك، تبرز صعوبات تقنية ترتبط بتفسير سلوك هذه الأنظمة أو إعادة إنتاج نتائجها السابقة، وهو ما يعقد عمليات حصر وتقييم المخاطر، لذا يستلزم الأمر تطبيق منهجية متكاملة لضبطها وإدارتها.
مراحل المنهجية الوطنية لمعالجة المخاطر
تعتمد المنهجية الجديدة لإدارة المخاطر على دورة حياة متكاملة ومستمرة للتعامل مع أي نظام ذكي، حيث تتألف من أربع مراحل رئيسية مترابطة:
| المرحلة | الإجراء المتبع |
|---|---|
| المرحلة الأولى | تحديد السياق والنطاق |
| المرحلة الثانية | تحديد المخاطر وتقييمها |
| المرحلة الثالثة | معالجة المخاطر المكتشفة |
| المرحلة الرابعة | المتابعة والمراجعة المستمرة |
وفي السياق نفسه، توظف الهيئة مصفوفة متخصصة لاحتساب مستوى الخطر من خلال قياس العلاقة بين احتمالية وقوعه وحجم أثره، استناداً إلى ذلك، تسهم المصفوفة في توحيد آليات التقييم بين مختلف الجهات الوطنية، كما تدعم عمليات المقارنة وتحديد أولويات المعالجة المباشرة.
المبادئ السبعة الحاكمة للذكاء الاصطناعي
يرتكز الإطار الوطني الجديد على سبعة مبادئ أساسية حاكمة، كما يصنف المخاطر إلى 7 أنواع رئيسية تضمن تغطية كافة الفئات الجوهرية، وتتضمن المبادئ المعتمدة: النزاهة والإنصاف، الخصوصية والأمن، الإنسانية، الموثوقية والسلامة، الشفافية وقابلية التفسير، المساءلة والمسؤولية، إلى جانب المنافع الاجتماعية والبيئية.
سيناريو تطبيقي ومواءمة رؤية 2030
يعرض الإطار، بحسب بيان الهيئة، سيناريو تطبيقيًا لجهة حكومية تستخدم نموذجًا ذكيًا في تقاريرها الداخلية، حيث يوضح إجراءات تحديد المخاطر المرتبطة بالنظام وتقييمها ومعالجتها ومتابعتها؛ مما يمنح الجهات المختلفة أداة عملية قابلة للتطبيق مهما كان مستوى نضجها الرقمي أو قطاعها.
ومن الجدير بالذكر أن هذا التوجه ينبثق من دور "سدايا" بوصفها المرجع الوطني للبيانات والذكاء الاصطناعي في المملكة، إذ يهدف الإطار لترسيخ الاستخدام المسؤول للتقنيات، وتمكين القطاعات الوطنية من الابتكار الرقمي الآمن؛ بحيث تتكامل هذه الجهود مباشرة مع الأولويات والتوجهات الخاصة بمستهدفات رؤية المملكة 2030.
كما يُتاح للجهات والمهتمين استعراض تفاصيل الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي عبر الرابط التالي:
ضوابط القطاعات لتعزيز منظومة الابتكار الرقمي
وأكدت الهيئة أن متطلبات إدارة هذه المخاطر تختلف باختلاف القطاعات كالصحي والمالي والتعليمي، مما يستوجب تطبيق ضوابط تتناسب مع طبيعة وحساسية بيانات كل قطاع، في حين ألزمت الجهات بضبط صلاحيات الوصول إلى البيانات وتتبع مصادرها بصفتها الركيزة الأساسية لمعالجة مخاطر التحيز والأمن. وكالة الأنباء السعودية (واس)
في سياق ذي صلة، يتضح أن غياب منهجية واضحة وموحدة لإدارة هذه التقنيات يترك المؤسسات عُرضة لتبعات قانونية وسمعية وتشغيلية باهظة الثمن، وبالتالي تتصاعد هذه التحديات مع زيادة الاعتماد على النماذج الذكية؛ لتشمل اختراقات الأمن، وانتهاكات الخصوصية، وانعدام الشفافية في اتخاذ القرارات الآلية. Ajel
💬 النقاش
لا توجد مشاركات بعد. كن أول من يشارك!