معهد قطر لبحوث الحوسبة معهد قطر لبحوث الحوسبة

أخذت نماذج الذكاء الاصطناعي القائمة على البيانات تنتشر بشكل متزايد في عالم الواقع حتى أضحت جزءًا من حياتنا اليومية. وفي كل مرة نستخدم فيها أنظمة الترجمة الآلية، ونتسوق من بوابات التجارة الإلكترونية، وندخل لتلقي العلاج في المستشفى، وغيرها من الأنشطة الأخرى، يعمل نظام الذكاء الاصطناعي في الخلفية لاكتشاف أنماط السلوك والتوصل إلى تنبؤات حولها. وتوضح هذه التطبيقات الفعالية المتزايدة لنماذج الذكاء الاصطناعي وتبشر بمستقبل ستصبح فيه هذه التطبيقات أكثر انتشارًا في كل مكان.

ومع ذلك، تشير سلسلة من الإخفاقات البارزة والكارثية إلى أن بعض نماذج الذكاء الاصطناعي ليست هي الحل النموذجي الكامل بأي حالٍ من الأحوال. فعلى سبيل المثال، تسببت عيوب في تقنيات اتخاذ القرار في تحطم مركبات ذاتية القيادة. وفي الآونة الأخيرة، ألقى رئيس الوزراء البريطاني بوريس جونسون باللائمة على خوارزمية متحولة في إخفاق المملكة المتحدة في إدارة أحد الامتحانات التعليمية. وتُظهر التناقضات الهائلة بين بعض الدرجات النهائية المتوقعة والدرجات التي رصدها جهاز الحاسوب مقدار الضرر الذي يمكن أن تحدثه النماذج المعيبة التي تعتمد على البيانات (رغم عدم التحدث عن نموذج للذكاء الاصطناعي في هذه الحالة على نحو الدقة).

وبناءً على ذلك، من بين المسائل المهمة التي يجب أن يتناولها واضعو السياسات كيفية التوصل إلى أفضل السبل لفهم الطفرة الأخيرة في استخدام نماذج الذكاء الاصطناعي. ومن ثَّم، كيف ينبغي للوكالات الحكومية والمنظمات المشابهة أن تقرر متى تكون هذه النماذج جاهزة للنشر، وما هي فحوصات الجودة التي يجب تنفيذها؟ هناك أربعة معايير على الأقل يجب تقييمها قبل البدء في استخدام نماذج الذكاء الاصطناعي وهي: الدقة، والاستقرار، والمتانة، والقابلية للتفسير.

ترويض الوحش

من البديهي أن نماذج الذكاء الاصطناعي يجب أن تكون دقيقة. ومع ذلك، تأتي الدقة بأشكال متعددة، حيث تختلف إجراءات الكشف عن السرطان، على سبيل المثال، اختلافًا كبيرًا عن تلك المطلوبة لاكتشاف الاحتيال. ففي الحالة الأولى، من المهم التحكم في السلبيات الكاذبة، بمعنى أن نماذج الذكاء الاصطناعي لا ينبغي أن تفوت أي حالات سرطانية بالفعل. وسوف تُكتشف الإيجابيات الكاذبة في نهاية المطاف في الاختبارات اللاحقة الإضافية رغم أن الصدمة الأولية للشخص الذي يخضع لتشخيص خاطئ يمكن أن تكون كبيرة. وفي حالة اكتشاف الاحتيال، يجب أن تخطئ نماذج الذكاء الاصطناعي دائمًا في جانب الحذر وتقلل من عدد الإيجابيات الكاذبة. ويمكن أن يؤدي تصنيف شخص بريء على أنه محتال بشكل غير صحيح إلى حدوث مضايقات لا داعي لها وتقليل الثقة العامة في نظام الكشف عن الاحتيال.

وتعكس الحاجة إلى الدقة بدورها أن أحدث نماذج الذكاء الاصطناعي تميل إلى أن تكون آلات للصندوق الأسود مع وجود عدد كبير من المقابض الداخلية التي تضبطها البيانات (تصل أحيانًا إلى مليارات). وقد يكون من الصعب فهم كيفية تفاعل هذه المقابض وإنتاجها لمخرجات. ومع ذلك، يمكن حتى لنماذج الصندوق الأسود اكتشاف واختبار الاستقرار، أي أن التغييرات الصغيرة في المدخلات لا ينبغي أن تؤدي إلى حدوث تغييرات كبيرة في المخرجات. فعلى سبيل المثال، ضع في اعتبارك نموذجًا لتسجيل نقاط بطاقة الائتمان يستخدم العمر كمدخل للبيانات. ولا ينبغي أن يقدم النموذج نتائج مختلفة بشكل كبير إذا كان العمر مضطربًا لمدة عام واحد مع بقاء كل شيء كما هو.

ويرتبط مفهوم القوة ارتباطًا وثيقًا بمفهوم الاستقرار. وتعتبر نماذج الذكاء الاصطناعي قوية إذا لم تتأثر بشكل غير متناسب بوجود القيم المتطرفة في البيانات. والمثال الأساسي هو أن الوسيط أقوى من المتوسط. وهذا هو السبب في أن الوزارات الحكومية غالبًا ما تسلط الضوء على الدخل المتوسط بدلاً من متوسط الدخل في التقارير والبيانات الرسمية. وبعبارة أخرى، لا يتزايد متوسط الدخل بوجود عدد قليل من "المليارديرات الإضافيين" داخل الدولة.

ومع ذلك، يظل تصميم نموذج قوي عملاً متخصصًا غالبًا ما يتطلب سنوات من الممارسة لإتقانه. ومن التحديات الرئيسية التي تواجه المصممين هو أن اكتشاف القيم المتطرفة نفسها صعب للغاية. إذا لم نتمكن من اكتشاف هذه القيم، فكيف يمكننا تصميم نموذج قوي مقاوم لوجود القيم المتطرفة؟ تظهر نظرية الألعاب كأداة مهمة للتحقق من متانة نماذج الذكاء الاصطناعي، حيث ينتج الخصم عن قصد عينات سيئة لاختبار ضعف النموذج، ويغير مصمم النموذج بنية النموذج بهدف الاستجابة للهجوم. ويستمر التفاعل حتى يصل كل من الخصم ومصمم النموذج إلى شكل من أشكال التوازن.

وبالنسبة لنماذج الصندوق الأسود، تُعدُ القابلية للتفسير (أو الشفافية) من أصعب المسائل التي يجب معالجتها. فكيف يمكننا أن نفهم قرار اتخذه نموذج ذكاء اصطناعي يتكون من ملايين (إن لم يكن مليارات) من المعالم أو المقابض القابلة للتعديل؟ وقد نُقل عن عالم الرياضيات الشهير جون فون نيومان قوله "بأربعة معايير يمكنني أن أصمم فيلًا، وبخمسة معايير يمكنني أن أجعله يهز جذعه". وقد شهدت محاولات استخراج القواعد القابلة للتفسير من النماذج المعقدة نجاحًا جزئيًا فقط لأن هذه القواعد يمكن أن تؤدي إلى حدوث انخفاض في الدقة. ومع ذلك، يجب على المستخدمين الإصرار على أن يقدم علماء الذكاء الاصطناعي إرشادات لتفسير مخرجات نماذج الذكاء الاصطناعي في خضم تعاملهم مع المهام المحددة. وإذا توصل نموذج الذكاء الاصطناعي إلى نتيجة مفاجئة تتعارض مع استنتاجات خبرة المجال، فيجب التحقق من صحتها بدقة.

الانتشار المرحلي

تتزايد وتيرة وحدة الدعوات للحصول على لقاح فعال لمكافحة فيروس كوفيد-19 مع مرور الوقت منذ بدء انتشار الجائحة. وعادةً ما تخضع اللقاحات لاختبارات صارمة وعمليات مرحلية رسمية قبل البدء في استخدامها. وتبدأ المرحلة الأولى عادةً في المختبر بإجراء اختبارات على الحيوانات، وتتضمن المرحلة الثانية خضوع مجموعة صغيرة من المتطوعين للتجارب ورصد الآثار السلبية للقاح، مع الشروع في تجارب عشوائية مضبوطة على مجموعة أكبر خلال المرحلة الثالثة.

ويجب تنفيذ بروتوكول مماثل لنشر نماذج الذكاء الاصطناعي. وفي كل مرحلة، يجب تقييم مقاييس الدقة، والاستقرار، والمتانة، والقابلية للتفسير. وسوف يمنع النشر المرحلي لنماذج الذكاء الاصطناعي حدوث مفاجآت غير ضرورية، وسيؤدي إلى زيادة الثقة العامة في أنظمة الذكاء الاصطناعي.

يشغل الدكتور سانجاي تشاولا منصب مدير الأبحاث في فريق تحليل البيانات ومدير مركز قطر للذكاء الاصطناعي التابع لمعهد قطر لبحوث الحوسبة.