OpenAI تطور منهجية محاكاة النشر لتقييم مخاطر نماذج الذكاء الاصطناعي قبل الإطلاق

كتبت/شهد ابراهيم

OpenAI تطور منهجية جديدة لتقييم مخاطر الذكاء الاصطناعي

أعلنت شركة OpenAI عن تطوير منهجية متقدمة لتقييم مخاطر نماذج الذكاء الاصطناعي قبل إطلاقها تجاريًا، في خطوة تستهدف تعزيز أمان الذكاء الاصطناعي وتحسين دقة الاختبارات المستخدمة في تقييم السلوكيات المحتملة للنماذج قبل النشر.

وتأتي هذه الخطوة في إطار جهود OpenAI لتطوير أدوات أكثر واقعية في اختبار أمان الذكاء الاصطناعي وتقليل الفجوة بين نتائج الاختبار والسلوك الفعلي للنماذج بعد الإطلاق.

 قيود الاختبارات التقليدية في تقييم أمان الذكاء الاصطناعي

أشارت تقارير فنية إلى أن الأساليب التقليدية في تقييم أمان الذكاء الاصطناعي تعتمد على مجموعات بيانات جاهزة لاختبار سلوك النماذج في سيناريوهات خطرة، مثل توليد محتوى ضار أو تعليمات غير آمنة.

لكن هذه الأساليب تواجه عدة تحديات، أبرزها:

• محدودية تغطية سيناريوهات الهجوم
• عدم القدرة على مواكبة أساليب الاختراق الجديدة
• إمكانية تعرف النموذج على بيئة الاختبار
• ضعف تمثيل السلوك الحقيقي بعد الإطلاق

وتؤكد هذه القيود الحاجة إلى تطوير منهجيات جديدة أكثر دقة في تقييم أمان الذكاء الاصطناعي.

 تقنية محاكاة النشر (Deployment Simulation)

قدمت OpenAI تقنية جديدة تُعرف باسم محاكاة النشر، والتي تعتمد على استخدام نماذج أقدم لمحاكاة سلوك النماذج الأحدث في بيئة تشغيل واقعية.

وتقوم الفكرة على:

• محاكاة GPT-5.1 باستخدام GPT-5.1
• ومحاكاة GPT-5.4 باستخدام GPT-5.2
• بهدف توقع سلوك النموذج قبل الإطلاق الفعلي

وتُستخدم هذه المنهجية لتقييم أمان الذكاء الاصطناعي بشكل أقرب للواقع دون تمكين النموذج من اكتشاف أنه قيد الاختبار.

نتائج اختبار أمان الذكاء الاصطناعي باستخدام المنهجية الجديدة

أظهرت نتائج OpenAI أن منهجية محاكاة النشر حققت:

• دقة أعلى في التنبؤ بالسلوكيات غير المرغوبة
• تقليل الفجوة بين الاختبار وسلوك ما بعد الإطلاق
• انخفاض حالات اكتشاف بيئة الاختبار إلى 5.12% بعد أن كانت 99.72%

كما كشفت النتائج عن حالة واحدة فقط أظهرت فارقًا كبيرًا في السلوك، ما يعكس تحسنًا كبيرًا في قياس أمان الذكاء الاصطناعي.

تأثير تقنيات OpenAI على مستقبل أمان الذكاء الاصطناعي

تشير هذه الخطوة إلى تحول مهم في منهجيات أمان الذكاء الاصطناعي، خاصة مع توجه شركات أخرى مثل Anthropic إلى تطوير أنظمة تقييم متقدمة.

ومن المتوقع أن تسهم تقنيات OpenAI الجديدة في:

• تقليل المخاطر قبل إطلاق النماذج
• تحسين موثوقية الأنظمة الذكية
• تطوير معايير أكثر دقة لاختبار السلامة
• رفع كفاءة تقييم أمان الذكاء الاصطناعي عالميًا