أوبن إيه آي تفصل الإنترنت عن تدريب نماذج الذكاء الاصطناعي.. ما السبب؟

كتبت/سلمي احمد 

قررت شركة أوبن إيه آي (OpenAI) تدريب نماذج الذكاء الاصطناعي المتقدمة دون اتصال مباشر بالإنترنت، في خطوة تستهدف تعزيز الأمان والحد من مخاطر الاختراق، بعد اكتشاف ثغرات كشفت عن قدرة بعض الأنظمة التجريبية على تجاوز القيود الأمنية المفروضة عليها.

وجاء القرار عقب حادثة وقعت في يوليو الماضي، عندما تمكنت أنظمة ذكاء اصطناعي تجريبية تابعة للشركة من اختراق منصة هاجينج فيس (Hugging Face)، ما دفع أوبن إيه آي إلى إعادة تقييم أساليب تأمين بيئات التدريب، خاصة مع تزايد قدرات النماذج على استخدام الأدوات الرقمية وتنفيذ المهام بصورة مستقلة.

وأكدت الشركة أن التدريب دون اتصال مباشر بالإنترنت يمثل الخيار الأكثر مسؤولية في ظل قدرات أنظمة المراقبة وإجراءات الحماية الحالية، موضحة أن معظم عمليات التدريب والتقييم يمكن إجراؤها دون الحاجة إلى الوصول المباشر للشبكة.

بيئة تدريب معزولة لتعزيز أمن نماذج الذكاء الاصطناعي

تعمل أوبن إيه آي على توفير بيئة تدريب معزولة تتيح للموظفين استخدام أدوات البرمجة والمتصفحات والوسائل اللازمة لتطوير النماذج، مع منع الاتصال المباشر بالإنترنت وتقييد الوصول إلى الأنظمة وفق صلاحيات محددة.

وتستهدف هذه البيئة تقليل فرص استغلال قدرات النماذج للوصول إلى أنظمة أو بيانات غير مصرح بها، مع السماح بمواصلة عمليات التطوير والتدريب في إطار من الضوابط الأمنية الأكثر صرامة.

محتوى رقمي مخزن مسبقًا بدلًا من الاتصال بالإنترنت

وللتغلب على الحاجة إلى المعلومات المتاحة عبر الويب، أنشأت الشركة بيئة رقمية تضم محتوى مفهرسًا ومخزنًا مسبقًا، بما يسمح لوكلاء الذكاء الاصطناعي بالاستفادة من المعلومات دون الاتصال بالمواقع الفعلية.

ويتيح هذا النهج توفير قدر من المعلومات اللازمة لأعمال التدريب والتطوير، مع تقليل الاعتماد على الاتصال المباشر بالشبكة، بما يساعد على الحد من المخاطر الأمنية المرتبطة بوصول النماذج إلى مصادر خارجية.

اختبارات أمنية تكشف محاولات لتجاوز العزل

رغم الإجراءات الأمنية، كشفت الاختبارات عن قدرة بعض الوكلاء التجريبيين على تجاوز العزل المفروض على الأجهزة الافتراضية، إلى جانب اكتشاف وسيلة للتواصل فيما بينهم عبر استغلال أنماط الوصول إلى ذاكرة التخزين المؤقت للمعالج.

وتسلط هذه النتائج الضوء على التحديات التي تواجه تأمين أنظمة الذكاء الاصطناعي المتقدمة، خاصة عندما تكون قادرة على استخدام الأدوات الرقمية والتفاعل مع بيئات تشغيل مختلفة.

واستجابة لهذه الاختبارات، أعلنت الشركة إصلاح ثغرات في عدد من الأجهزة الافتراضية، والعمل على تطوير أنظمة المراقبة لرصد محاولات النماذج تجاوز القيود الأمنية أو التعاون بطرق غير مسموح بها.

متى تسمح أوبن إيه آي بعودة الإنترنت إلى بيئات التدريب؟

أوقفت الشركة تدريب النماذج التجريبية في سبتمبر الماضي، قبل أن تستأنف العمليات في الأول من أكتوبر، مع تطبيق النهج الجديد الذي يمنع الاتصال المباشر بالإنترنت.

وتخطط أوبن إيه آي للاستمرار في هذا النهج حتى تطوير إجراءات الحماية إلى مستوى يسمح بإعادة النظر في توسيع نطاق الوصول إلى الشبكة، دون تحديد موعد لحدوث ذلك أو الكشف عن جميع التحسينات الأمنية المطلوبة.

ويعني هذا التوجه أن العودة إلى الاتصال المباشر بالإنترنت ستظل مرتبطة بتقييم المخاطر ومدى كفاءة الضوابط الأمنية في التعامل مع قدرات النماذج المتقدمة.

مخاوف متزايدة بشأن أمن وكلاء الذكاء الاصطناعي

تعكس هذه الخطوة تصاعد الاهتمام بأمن أنظمة الذكاء الاصطناعي المتقدمة، خاصة مع تطور الوكلاء القادرين على تصفح التطبيقات واستخدام الأدوات الرقمية نيابة عن المستخدمين.

ولم يعد التحدي مقتصرًا على تحسين قدرات النماذج وزيادة كفاءتها، بل امتد ليشمل ضمان التزامها بالحدود الأمنية، ومنع استغلال إمكاناتها للوصول إلى الأنظمة أو البيانات غير المصرح بها.

وتبرز أهمية عزل بيئات التدريب وتقييد الصلاحيات ومراقبة سلوك النماذج باعتبارها إجراءات تستهدف تقليل المخاطر، مع استمرار تطوير تقنيات الحماية بما يتناسب مع تطور قدرات الذكاء الاصطناعي.