ساتيا نادلا، المدير التنفيذي لمايكروسوفت، في حديثه عن تحديات حوكمة الذكاء الاصطناعي المتقدم، أكد على أن أنظمة الذكاء الاصطناعي الموثوقة يجب أن توفر القدرة على الثقة الحد الأدنى بدلاً من الاعتماد على الثقة الكاملة من المستخدمين. وقد طرح هذا الموضوع في منشور نشر على الشبكة الاجتماعية X.
تحديات حوكمة الذكاء الاصطناعي
نادلا أشار إلى التحديات المتعلقة بحوكمة أنظمة الذكاء الاصطناعي المتقدم وذكر أن الأنظمة الحديثة لا تمتلك وضوح الأنظمة الحاسوبية القديمة. وقال: "بينما كان المهندسون في الماضي قادرين على ربط العمليات البرمجية بمسارات معينة من الشيفرة، فإن هذا الوضوح غير موجود في المعماريات الحدودية المعاصرة."
اقرأ المزيد: عمان و آغاز برنامه استراتژیک برای آزمایشات حمل و نقل هوایی پیشرفته
وأضاف: "عندما استقرت الأنظمة البرمجية التقليدية على مدار العقود الماضية في الاقتصاد، كان لدينا أدوات وقدرات لتتبع السلوكيات إلى مسار معين من الشيفرة. هذا النوع من الفهم الميكانيكي في أنظمة الذكاء الاصطناعي المتقدم اليوم، التي تتمتع بقدرات أكبر بكثير من الأنظمة البرمجية التقليدية، بعيد عنا. لا يمكننا ربط السلوكيات ونتائج النماذج بمدخلات معينة من بيانات التدريب أو إعدادات أوزان النموذج. ومع ذلك، نحن نستخدم هذه الأنظمة المعقدة ونعطيها الوصول إلى بياناتنا الأكثر حساسية ونعطيها القدرة على اتخاذ إجراءات حيوية نيابة عنا!"
الحاجة إلى نهج هندسي في الحوكمة
نادلا حذر من أنه لا يمكن الاعتماد على ضمانات مطوري البرمجيات فقط، ويجب ألا تُعتبر هذه الاستقرارات كصناديق سوداء. وأكد أن الشركات لا يمكنها تفويض مسؤولية الإجراءات الآلية للآخرين ويجب أن تفصل بين تقديم المعلومات الخام للذكاء والقدرة التشغيلية النهائية.
وأضاف: "يجب أن نتجه نحو القيود والحوكمة بدلاً من حل مشكلة التنسيق الصعبة، من خلال نهج هندسي. يجب أن نحيط النماذج غير الحتمية بتصميم أنظمة قوية وحتمية، وضوابط بشرية وإجراءات تشغيل موثوقة، وأن نضع معايير صناعية حيثما كانت المعايير الحالية غير كافية."
نادلا أشار إلى إدارة المخاطر واقترح أن نعتبر النماذج المغلقة والمفتوحة كتهديدات داخلية محتملة. وأعلن أن أي عامل لديه نقاط يمكن أن يفشل أو يتعرض للخطر، وبالتالي يجب على المنظمات عزل النماذج من خلال ممارسات أمنية مثبتة على مستوى المؤسسة.
نادلا أشار إلى أن "الضوابط التي تحكم ما يمكن أن يصل إليه نموذج وما يمكن أن يفعله، يجب أن تكون خارج النموذج. هذا يستند إلى مبدأ أمان المعلومات الذي يعود إلى السبعينيات، وهو أن البرنامج لا ينبغي أن يكون قادراً على تجاوز أو التلاعب بالآليات التي تنفذ تصاريحه."
وأضاف: "اليوم يعني ذلك فصل النموذج عن النظام الذي ينسق عمله، وكذلك الفضاء التشغيلي الذي يحدد ما يمكن أن يفعله. وهذا يعني أيضاً إخراج الضوابط والتدابير الأمنية إلى الخارج."
نادلا قدم المبادئ الأساسية لرؤية وحوكمة هذه الشبكات، بما في ذلك تنوع النموذج، التسجيل المقاوم للتلاعب، القدرة على التحقق المستمر في الحالات الخاصة، التدقيق المستقل، القطع الموثوقة والإفصاح عن الحوادث على مستوى الصناعة.
اقرأ المزيد: حذف اپلیکیشن Bitchat از فروشگاه اپل در هند · مايكروسوفت از قابلیت‌های جدید Copilot برای اتوماسیون محیط کار رونمایی کرد
