يقول ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت، إنه ينبغي التعامل مع كل نموذج ذكاء اصطناعي على أنه مخترق إلى أن يثبت العكس. وفي منشور مطوّل على منصة X صباح السبت، رأى أن الذكاء الاصطناعي المتقدم لم يعد من الممكن التعامل معه كـ«مجموعة من الصناديق السوداء المتداخلة» يقبل المستخدمون أجوبتها وأفعالها أو يرفضونها ببساطة.
وتشمل مقترحات ناديلا، بحسب ما نقلته The Verge وTechCrunch، الإفصاح الفوري عن الحوادث، والتدقيق المستقل، والبيانات القابلة للتحقق، والاحتواء. أما أكثر عباراته تداولاً فتتجاوز مواقف معظم الأصوات في القطاع: «يجب أن نفترض أن النموذج مخترق وأن نحتويه منذ البداية. تخيّلوا الأمر كفرامل طوارئ».
ما يريده ناديلا من مطوّري الذكاء الاصطناعي
قدّم ناديلا منشوره كدعوة «للتوقف خطوة إلى الوراء وتقييم هندسة الثقة» في الذكاء الاصطناعي. ويعني ذلك فصل النموذج عن المنظومة التي توجّه عمله، وإخراج أدوات التحكم والضمانات إلى الخارج بدلاً من دفنها داخل النظام.
ويطالب أيضاً بتوثيق كل فعل ذي دلالة يقوم به النموذج عبر «أدلة مقروءة للبشر غير قابلة للتلاعب»، حتى يمكن التحقق مما فعله النموذج لاحقاً. ويضاف إلى ذلك أن يكون شخص مخوّل قادراً دائماً على إيقاف النموذج مؤقتاً أو إغلاقه أثناء تنفيذ مهمة، وهو إجراء وقائي يشبّهه بفرامل الطوارئ.
- افتراض أن النموذج مخترق واحتواؤه منذ البداية
- فصل النموذج عن المنظومة التي توجّه عمله
- إخراج أدوات التحكم والضمانات إلى الخارج
- توثيق كل فعل ذي دلالة يقوم به النموذج بأدلة مقروءة للبشر غير قابلة للتلاعب
