جوجل تكشف واقعة اختراق Gemini لـ3 شركات حقيقية خلال اختبار أمني

كتبت/شهد ابراهيم 

كشفت شركة جوجل أن نموذج الذكاء الاصطناعي Gemini تمكن من الوصول إلى أنظمة 3 شركات حقيقية خلال اختبار للأمن السيبراني أُجري في مايو الماضي، إلا أن النموذج توقف من تلقاء نفسه بعدما أدرك أنه لم يعد يتعامل مع أنظمة وهمية داخل بيئة الاختبار، في واقعة تسلط الضوء على جانب جديد من المخاطر المرتبطة بقدرة نماذج الذكاء الاصطناعي على تنفيذ مهام أمنية بصورة مستقلة.

كيف تمكن Gemini من الوصول إلى الشركات الثلاث؟

وقعت الحوادث خلال اختبار أمني أجرته شركة الذكاء الاصطناعي الإسرائيلية Irregular، وكان من المفترض أن يعمل Gemini داخل بيئة محاكاة للوصول إلى معلومات مرتبطة ببرنامج تابع لشركة وهمية.

إلا أن اسم الشركة الوهمية تطابق مع اسم شركة حقيقية، ما أدى إلى وصول النموذج إلى أنظمة خارج نطاق الاختبار. كما كان من المفترض ألا يمتلك Gemini إمكانية الوصول إلى الإنترنت، لكن هذا الوصول أصبح متاحًا له بصورة غير مقصودة.

وسمح ذلك للنموذج بالوصول إلى أنظمة شركات حقيقية، حيث تمكن في إحدى الحالات من الوصول إلى نظام شركة بعدما خمّن بيانات دخول، بينما شهدت حالتان أخريان بحث النموذج عبر الإنترنت عن اسم الشركة، ليعثر على بيانات اعتماد منشورة في مستودعات عامة ويستخدمها للوصول إلى الأنظمة.

Gemini توقف بعدما أدرك أنه يتعامل مع أنظمة حقيقية

وبمجرد أن أدرك Gemini أنه يتعامل مع شركات حقيقية وليس أنظمة وهمية ضمن الاختبار، توقف عن مواصلة العملية وخرج من الأنظمة التي تمكن من الوصول إليها.

ولم تكشف جوجل عن أسماء الشركات الثلاث التي تأثرت بالواقعة، كما أوضحت أن النموذج لم يواصل أنشطته بعدما أدرك طبيعة الأنظمة التي وصل إليها.

وتكشف الواقعة عن تحديات جديدة مرتبطة بقدرات Gemini والنماذج المتقدمة عمومًا على تنفيذ سلسلة من المهام بصورة مستقلة، خصوصًا عندما تمتلك إمكانية الوصول إلى الإنترنت أو التعامل مع أنظمة خارج بيئة الاختبار.

جوجل أُبلغت بالواقعة في يوليو الماضي

وأُبلغت جوجل بهذه الوقائع في يوليو الماضي، لكنها لم تعلن عنها في ذلك الوقت، موضحة أن الشركة لم تعتبر الحوادث تستوجب إعلانًا عامًا، خاصة أن النموذج أوقف عمليات الوصول من تلقاء نفسه قبل التسبب في أضرار للشركات.

وقالت هذر أدكينز، نائبة رئيس هندسة الأمن في جوجل، إن الواقعة تؤكد أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية، مشيرة إلى أن النموذج تصرف بشكل مناسب عندما أدرك أنه وصل إلى أنظمة حقيقية.

جوجل تخطر الشركات والسلطات الأمريكية

وأخطرت جوجل الشركات الثلاث المتضررة والسلطات الفيدرالية الأمريكية بالواقعة، لكنها أوضحت أن الحوادث لم تتضمن أحدث نموذج من Gemini.

ولم تكشف الشركة عن إصدار النموذج الذي شارك في الاختبار، كما اعتبرت الواقعة أقرب إلى اختبار لاكتشاف الثغرات الأمنية منها إلى اختراق ضار يستهدف الشركات.

حوادث مشابهة مع نماذج الذكاء الاصطناعي

وتأتي واقعة Gemini في وقت تظهر فيه المزيد من الحوادث المرتبطة بقدرة نماذج الذكاء الاصطناعي على تنفيذ مهام معقدة بشكل مستقل، إذ شهدت اختبارات سابقة وقائع مشابهة ارتبطت بنماذج تابعة لشركات مثل OpenAI وAnthropic وMeta.

وقالت شركة Irregular إن واقعة جوجل لا تمثل مشكلة جديدة، وإنها تشبه حوادث أخرى ظهرت خلال اختبارات أجرتها مختبرات الذكاء الاصطناعي الكبرى، مؤكدة أن جميع المشكلات المعروفة من جانبها جرى التعامل معها وإصلاحها.

اختلاف واقعة Gemini عن اختبارات سابقة

وتختلف حالة Gemini عن بعض الوقائع السابقة في نقطة رئيسية، وهي أن النموذج توقف من تلقاء نفسه بعدما أدرك أنه وصل إلى شركة حقيقية.

وفي اختبار مشابه، قالت Anthropic إن نموذج Claude Opus 4.7 لم يتوقف بعدما أدرك أنه ربما يتعامل مع شركة حقيقية، بينما كشفت OpenAI في واقعة أخرى أن أحد نماذجها اعتقد أن الشركة الحقيقية التي وصل إليها كانت جزءًا من بيئة المحاكاة.

مخاوف من توسع قدرات وكلاء الذكاء الاصطناعي

وتسلط هذه الحوادث الضوء على تحدٍ متزايد مع تطور وكلاء الذكاء الاصطناعي، فكلما أصبحت النماذج أكثر قدرة على استخدام الإنترنت والبحث عن المعلومات والتعامل مع الأنظمة وتنفيذ سلسلة من المهام بصورة مستقلة، زادت الحاجة إلى وضع ضوابط تمنع انتقال أنشطة الاختبار أو التجربة إلى أنظمة حقيقية دون قصد.

وتبرز واقعة Gemini أهمية تصميم بيئات اختبار أكثر أمانًا، مع ضرورة وضع حدود واضحة أمام النماذج عند التعامل مع أنظمة خارج نطاق التجارب، خاصة مع استمرار تطور قدراتها على تنفيذ المهام الأمنية بصورة مستقلة.