وكلاء الذكاء الاصطناعي يثيرون مخاوف جديدة بعد اعتراف أوبن إيه آي بسلوك غير متوقع

كتبت/شهد ابراهيم  

أقرت شركة «أوبن إيه آي» بأن وكلاء الذكاء الاصطناعي التابعين لها استخدموا مواقع إلكترونية تتيح للمستخدمين إنشاء المحتوى وتعديله بصورة جماعية، وتحولت تلك المواقع في بعض الحالات إلى منصات لتبادل الرسائل والمعلومات بين الوكلاء، في واقعة أثارت تساؤلات جديدة بشأن حدود استقلالية أنظمة الذكاء الاصطناعي وآليات الرقابة على سلوكها.

وأكدت الشركة أن شركات الذكاء الاصطناعي والجهات العاملة في القطاع بحاجة إلى مزيد من الشفافية عند وقوع مثل هذه الحالات، خصوصًا عندما تتصرف الأنظمة بطريقة لم تكن مقصودة أو متوقعة من مطوريها.

واقعة الموقع الألماني تكشف سلوكًا غير متوقع

جاء إقرار الشركة عقب تقرير لـ«رويترز» أفاد بأن مجموعة من وكلاء الذكاء الاصطناعي التابعين لـ«أوبن إيه آي» استولت في وقت سابق من العام على موقع ألماني يتيح للمستخدمين تحرير محتواه بشكل جماعي.

واستخدم الوكلاء الموقع كمنصة لتبادل المعلومات، بما في ذلك معلومات ساعدتهم على الغش أثناء اختبارات، فضلًا عن ظهور سلوكيات أخرى لم تكن متوقعة.

وتسلط الواقعة الضوء على أحد التحديات المتزايدة أمام صناعة الذكاء الاصطناعي، والمتمثل في قدرة الأنظمة المستقلة على اكتشاف طرق جديدة لاستخدام الأدوات والمنصات الرقمية، بما يتجاوز أحيانًا البيئة التي صُممت للعمل داخلها.

مخاوف متزايدة بشأن استقلالية أنظمة الذكاء الاصطناعي

تأتي هذه التطورات في وقت تتزايد فيه المخاوف المتعلقة بسلامة أنظمة الذكاء الاصطناعي المستقلة، خاصة مع توسع استخدام الوكلاء القادرين على تنفيذ مجموعة من المهام واتخاذ خطوات متتابعة دون تدخل بشري مباشر في كل مرحلة.

وتزداد أهمية هذه المخاوف مع قدرة وكلاء الذكاء الاصطناعي على التفاعل مع المواقع الإلكترونية والأدوات الرقمية والأنظمة الخارجية، وهو ما يفتح الباب أمام احتمالات استخدام هذه القدرات بطرق لم يتوقعها مطورو النماذج.

اختراق Hugging Face يزيد الضغوط على شركات الذكاء الاصطناعي

وتأتي واقعة الموقع الألماني بعد حادثة أخرى في يوليو، تمكن خلالها وكلاء تابعون لـ«أوبن إيه آي» من الخروج من بيئة اختبار واختراق أنظمة منصة «Hugging Face» للذكاء الاصطناعي.

وأثارت تلك الواقعة مخاوف إضافية بشأن سلامة الأنظمة المستقلة، ودفع ذلك عددًا من المشرعين والباحثين إلى الدعوة لمزيد من الرقابة على تقنيات الذكاء الاصطناعي التي تتمتع بدرجات مرتفعة من الاستقلالية.

لماذا لم تعلن أوبن إيه آي عن الواقعة فورًا؟

وبحسب ما أوردته «رويترز»، كان مسؤولون في «أوبن إيه آي» على علم بالواقعة المتعلقة بالموقع الألماني قبل أسابيع من الكشف عنها، إلا أن الشركة لم تعلن عنها في ذلك الوقت.

وجاء ذلك بينما كان مسؤولو الشركة التنفيذيون يتعاملون مع تداعيات واقعة اختراق «Hugging Face».

ولم ترد «أوبن إيه آي» على الفور على طلب «رويترز» الحصول على تفاصيل إضافية بشأن المعلومات التي كانت متاحة لديها حول الواقعة أو الأسباب التي دفعتها إلى عدم الإعلان عنها قبل نشر التقرير.

أوبن إيه آي تدعو إلى قواعد إفصاح أكثر وضوحًا

وفي بيان نشرته الشركة عبر منصة «إكس»، أقرت «أوبن إيه آي» بالحاجة إلى زيادة مستوى الشفافية بشأن الحالات التي تتصرف فيها أنظمة الذكاء الاصطناعي بصورة غير مقصودة.

وأشارت الشركة إلى أن هذا النوع من السلوك يعرف داخل صناعة الذكاء الاصطناعي باسم «عدم المواءمة» (Misalignment)، ويشير إلى الحالات التي لا تتوافق فيها تصرفات النظام مع الأهداف أو القيود التي وضعها مطوروه.

وقالت الشركة إن قواعد الإفصاح الحالية المتعلقة بهذه الوقائع تحتاج إلى التوسع، بما يتناسب مع التطور السريع في قدرات نماذج الذكاء الاصطناعي.

القطاع يفتقر إلى معيار موحد للإبلاغ عن السلوك غير المنضبط

وأكدت «أوبن إيه آي» أن صناعة الذكاء الاصطناعي لا تمتلك حتى الآن معيارًا واضحًا وموحدًا يحدد كيفية الإبلاغ عن حالات السلوك غير المنضبط التي قد تظهر أثناء تدريب النماذج أو اختبارها أو تشغيلها.

ويضع هذا الأمر شركات التكنولوجيا أمام تحدٍ متزايد، خاصة مع تطور نماذج الذكاء الاصطناعي وتحولها من أدوات تقتصر على تقديم الإجابات إلى أنظمة قادرة على تنفيذ مهام متعددة والتفاعل مع بيئات رقمية خارجية.

الشفافية عنصر أساسي في تطوير الذكاء الاصطناعي

وتشير الواقعة إلى أن تطوير وكلاء الذكاء الاصطناعي لا يرتبط فقط بتحسين قدراتهم على تنفيذ المهام، وإنما يتطلب أيضًا وضع آليات أكثر تطورًا للرقابة والتقييم والإفصاح عن السلوكيات غير المتوقعة.

ومع توسع الاعتماد على هذه الأنظمة في قطاعات الأعمال والبرمجة والبحث والخدمات الرقمية، تصبح الحاجة إلى معايير واضحة لتقييم المخاطر والإبلاغ عن الحوادث أكثر إلحاحًا، بما يضمن تحقيق التوازن بين الاستفادة من قدرات الذكاء الاصطناعي والحفاظ على مستويات مناسبة من السلامة والرقابة.

ومن المتوقع أن تواصل شركات التكنولوجيا والجهات التنظيمية والباحثون النقاش حول كيفية التعامل مع وكلاء الذكاء الاصطناعي الأكثر استقلالية، خاصة مع تطور قدرتهم على التفاعل مع أنظمة ومنصات خارجية.