خلاف داخل OpenAI بشأن سلامة الذكاء الاصطناعي.. باحثون سابقون يحذرون من تقييد إثارة المخاوف

كتبت/سلمي احمد 

تصاعد الخلاف داخل شركة OpenAI بشأن إدارة أبحاث سلامة الذكاء الاصطناعي، بعدما رفض باحثون سابقون فصلتهم الشركة اتهامات تتعلق بسلوكهم المهني، محذرين من أن الإجراءات المتخذة ضدهم قد تؤثر في حرية الباحثين في التعبير عن مخاوفهم بشأن المخاطر المحتملة لتطوير النماذج المتقدمة.

ووفقًا لتقرير نشره موقع «TechCrunch»، أثار الباحثون السابقون مخاوف بشأن ما وصفوه بتأثير مثبط قد يمتد إلى العاملين الآخرين، خصوصًا عند انتقاد إجراءات السلامة أو الاعتراض على القرارات المتعلقة بتطوير أنظمة الذكاء الاصطناعي.

لماذا يمثل الخلاف داخل OpenAI أهمية لصناعة الذكاء الاصطناعي؟

تعتمد الشركات المطورة لنماذج الذكاء الاصطناعي على فرق متخصصة لاختبار قدرات الأنظمة، ورصد السلوكيات غير المتوقعة، وتقييم احتمالات إساءة الاستخدام.

ولذلك، تمثل آليات الإبلاغ عن المشكلات ومناقشة نتائج الاختبارات عنصرًا مهمًا في منظومة إدارة المخاطر، إذ تساعد على اكتشاف أوجه القصور وتقييمها قبل أن تتسبب في مشكلات أوسع.

ويثير الخلاف داخل OpenAI تساؤلات بشأن العلاقة بين سلطة الإدارة واستقلال الباحثين، لا سيما أن قرارات الفصل قد تتداخل فيها اعتبارات السلوك المهني وسرية المعلومات والخلافات حول السياسات الداخلية.

وفي الوقت نفسه، لا يكفي اعتراض الموظفين على قرارات فصلهم لإثبات صحة رواية أي طرف، إذ يتطلب تحديد المسؤوليات فحص الأدلة والوقائع المرتبطة بكل حالة.

هل يؤثر الخلاف على الثقة في OpenAI؟

تتجاوز أهمية القضية مستقبل الباحثين المعنيين بها، لتشمل قدرة شركات الذكاء الاصطناعي على إقناع المستخدمين والجهات التنظيمية بأن عمليات تقييم السلامة تتم في بيئة تسمح بمناقشة النتائج والإبلاغ عن المخاطر.

ويكتسب هذا الأمر أهمية مع استمرار تطوير النماذج المتقدمة واتساع استخدامها في مجالات متعددة، ما يزيد الحاجة إلى تقييم قدراتها ورصد المخاطر المحتملة بصورة مستمرة.

مطالب بضمانات لحماية أبحاث السلامة

قد يؤدي استمرار الخلاف إلى زيادة المطالب بوضع ضمانات مؤسسية تدعم استقلالية عمليات التقييم والإبلاغ عن المخاطر، مع الحفاظ على الالتزامات المهنية وقواعد سرية المعلومات.

وتتمثل إحدى القضايا الرئيسية في كيفية تحقيق التوازن بين حق الباحثين في إثارة المخاوف المتعلقة بالسلامة، وبين التزامهم بالسياسات المهنية والتنظيمية للشركة.

ولا تزال الاتهامات المتبادلة بحاجة إلى أدلة تسمح بتحديد مسؤولية كل طرف، بينما يسلط الخلاف الضوء على أهمية وجود إجراءات واضحة للتعامل مع الاعتراضات المتعلقة بسلامة أنظمة الذكاء الاصطناعي.