بحسب تقرير من The Information نقلته Techmeme و The Decoder، عرض سام ألتمان، الرئيس التنفيذي لشركة OpenAI، في عرض تقديمي داخلي الأسبوع الماضي، ثلاث نهايات محتملة لأمان الذكاء الاصطناعي. وتأتي هذه التصريحات في وقت تستعد فيه إدارة ترامب لإطارها الأول للإشراف على مطوّري الذكاء الفائق.
وصف ألتمان ثلاثة مسارات: هيئة رقابة دولية على غرار الوكالة الدولية للطاقة الذرية، أو اندماج مختبرات الذكاء الاصطناعي الكبرى في كيان واحد شبيه بـ CERN، أو سيناريو يصبح فيه مختبر واحد قوياً لدرجة تُمكّنه، عبر ذكاء ذاتي التحسين، من إيقاف قدرات الحوسبة لدى الجميع. ويُقال إنه وصف الخيار الأخير بأنه «مريع» وطرحه فقط من باب الاستيفاء، رغم أن أحد المصادر رأى فيه تلميحاً إلى منافس نظراً لعلاقة منظّر أمان الذكاء الاصطناعي Eliezer Yudkowsky بشركة Anthropic.
النهايات الثلاث التي وصفها ألتمان
يتمثل النهج الأول في إنشاء منظمة على غرار الوكالة الدولية للطاقة الذرية لفرض معايير الأمان. وقد دعت OpenAI علناً إلى مؤسسة كهذه في مايو 2023. وستتولى تفتيش الأنظمة، وفرض التدقيق، ومراقبة استخدام الحوسبة والطاقة. ويعتمد كيان كهذا على التعاون الدولي، خصوصاً مع الدول التي تبني نماذج رائدة، بما في ذلك الصين.
أطلق ألتمان على النهج الثاني اسم «خطة Demis»، نسبةً إلى اقتراح قدّمه Demis Hassabis، الذي كان يرأس مختبر الذكاء الاصطناعي DeepMind التابع لـ Google، قبل نحو عشر سنوات. وقد تصوّر Hassabis منظمة للذكاء الاصطناعي على غرار CERN. وفي نسخة ألتمان، تندمج المختبرات الكبرى في كيان واحد أو تعمل تحت مظلته، ويزوّد ذلك الكيان الدول المتعاونة بالنماذج.
ويُقال إن ألتمان أطلق على النهج الثالث اسم «خطة Eliezer»، نسبةً إلى منظّر أمان الذكاء الاصطناعي Eliezer Yudkowsky. في هذا السيناريو، يراكم مطوّر واحد قدراً هائلاً من القوة الاقتصادية عبر ذكاء ذاتي التحسين، حتى يحجب الحوسبة عن الجميع، وقد يُعطّل، في أقصى الحالات، قدرات الحوسبة لدى الآخرين بالكامل. وطرح ألتمان هذا السيناريو فقط من باب الاستيفاء، وفق التقرير. وقال أحد المصادر إن التصريح فُهم كتلميح إلى منافس، نظراً لعلاقة Yudkowsky بشركة Anthropic.
- هيئة رقابة على غرار الوكالة الدولية للطاقة الذرية: هيئة دولية لفرض معايير الأمان، وتفتيش الأنظمة، وفرض التدقيق، ومراقبة استخدام الحوسبة والطاقة.
