الذكاء الاصطناعي يثير تحذيرات متزايدة.. مخاوف من تجاوز أنظمة الحماية وصعوبة السيطرة على النماذج الأكثر قدرة
لماذا تتزايد التحذيرات من مخاطر تطوير أنظمة الذكاء الاصطناعي الأكثر قدرة خلال الفترة الأخيرة؟
كتبت/سلمي احمد
شهد قطاع الذكاء الاصطناعي خلال أقل من أسبوعين موجة متسارعة من التحذيرات بشأن مخاطر تطوير أنظمة أكثر قدرة، بعدما كشفت اختبارات وتقارير عن قدرة بعض النماذج على تجاوز إجراءات الحماية، واختراق أنظمة إلكترونية، والعمل بطرق يصعب على مطوريها مراقبتها والسيطرة عليها.
تحذيرات من سرعة تطوير الذكاء الاصطناعي
وتزامنت هذه التطورات مع تحذيرات من داخل شركات الذكاء الاصطناعي نفسها بشأن سرعة تطوير النماذج، إذ استقال باحث في شركة أنثروبيك محذرًا من أن وتيرة التطوير الحالية قد تمثل خطرًا كبيرًا على البشرية خلال العقد المقبل.
كما قدر باحث آخر في الشركة احتمالات انقراض البشر بأكثر من 10%، ما عزز النقاش داخل القطاع حول المخاطر المحتملة المرتبطة بتطوير أنظمة أكثر تقدمًا.
ودفعت هذه المخاوف مسؤولين وباحثين في شركات من بينها أنثروبيك وأوبن إيه آي وديب مايند التابعة لجوجل ومايكروسوفت وإكس إيه آي إلى الدعوة لإبطاء تطوير أنظمة الذكاء الاصطناعي الأكثر قدرة.
الذكاء الاصطناعي العام في صدارة الجدل
ويرتبط جانب أساسي من النقاش بمفهوم الذكاء الاصطناعي العام «AGI»، الذي يشير إلى أنظمة قادرة على أداء مجموعة واسعة من المهام بمستوى يقترب من القدرات البشرية أو يتجاوزها.
ويرى بعض الباحثين أن الوصول إلى هذه المرحلة قد يكون أقرب مما كان متوقعًا، وربما خلال ثلاث سنوات فقط، وهو ما يزيد الجدل حول مدى قدرة الشركات على مراقبة الأنظمة الجديدة والتعامل مع المخاطر المحتملة.
وقال الباحث السابق في أنثروبيك جو بنتون إن الشركات لا تمتلك حاليًا القدرة على الإشراف على الأنظمة بالحجم والسرعة التي يجري تدريبها بها، محذرًا من أن استمرار التطوير بالمعدل الحالي قد يجعل اكتشاف المشكلات ومعالجتها أبطأ من وتيرة ظهورها.
إطلاق نماذج جديدة يعيد النقاش حول السيطرة
بدأت سلسلة من التطورات التي ساهمت في تصاعد الدعوات لإبطاء تطوير الذكاء الاصطناعي في الثالث من سبتمبر، مع مؤتمر صحفي لشركة أوبن إيه آي أعلنت خلاله عن أحدث نماذجها «أسترا».
ووصف رئيس الشركة جريج بروكمان المرحلة الجديدة بأنها «عصر الذكاء الاصطناعي العام»، بالتزامن مع إقرار الشركة بأن التعامل مع الأنظمة الأكثر تقدمًا أصبح أكثر صعوبة، سواء من حيث السيطرة عليها أو مراقبة قدراتها.
وقال كبير العلماء في الشركة ياكوب باتشوكي إن فهم قدرات النماذج يصبح أكثر صعوبة كلما ارتفعت قدراتها، في الوقت الذي استمرت فيه الشركة في طرح النموذج.
اختبارات تكشف نشاطًا خارج القيود الموضوعة
وتزايدت المخاوف بشأن قدرة أنظمة الذكاء الاصطناعي على العمل خارج القيود الموضوعة لها خلال الصيف، بعدما كشفت أوبن إيه آي أن وكلاء تابعين لها تمكنوا خلال اختبار خاضع للسيطرة من اختراق أنظمة شركة هاجينج فيس، دون علم الشركتين في البداية.
وكشفت أوبن إيه آي وأنثروبيك لاحقًا عن حالات أخرى مشابهة، بينها 6 هجمات جديدة تم الإعلان عنها الأربعاء الماضي، بعد تقارير إعلامية، من بينها تقارير لوكالة رويترز، أفادت بأن نطاق النشاط غير المصرح به كان أوسع مما كان معروفًا في البداية.
مخاوف داخل شركات الذكاء الاصطناعي
وأصبحت المخاوف بشأن الجيل المقبل من نماذج الذكاء الاصطناعي أكثر وضوحًا داخل أوبن إيه آي وأنثروبيك، مع تراجع الثقة لدى بعض العاملين في قدرة الشركات على توفير رقابة فعالة على الأنظمة الجديدة.
وجاء ذلك في وقت تتسابق فيه الشركات لإطلاق نماذج جديدة بوتيرة سريعة، وسط توقعات باتجاه أوبن إيه آي وأنثروبيك إلى طرح أسهمهما للاكتتاب العام خلال الأشهر المقبلة، في عمليات قد ترفع قيمة كل شركة إلى أكثر من تريليون دولار.
وفي 8 سبتمبر، استقال الباحث في أنثروبيك جاكوب كوكسون، محذرًا في سلسلة منشورات من المخاطر المرتبطة بتطوير الذكاء الاصطناعي، وهي منشورات انتشرت على نطاق واسع وأسهمت في زيادة النقاش حول مخاطر التطوير السريع.
اختلاف المواقف حول تنظيم الذكاء الاصطناعي
وفي المقابل، دافع الرئيس الأمريكي دونالد ترامب عن استمرار تطوير الذكاء الاصطناعي، واعتبر المخاوف المتزايدة بشأن التكنولوجيا «خدعة»، محذرًا من أن أي تباطؤ في التطوير قد يصب في مصلحة الصين.
ولم يحقق الكونجرس الأمريكي تقدمًا كبيرًا في تشريعات تنظيم الذكاء الاصطناعي، بينما تتبع الصين نهجًا مختلفًا يعتمد على إلزام المطورين بمتطلبات للسلامة، ووضع معايير مدعومة من الدولة، وإجراء تقييمات أمنية والاستعانة باختبارات خارجية.
قادة شركات التكنولوجيا يناقشون إبطاء التطوير
وصلت المخاوف إلى قيادات شركات الذكاء الاصطناعي في 12 سبتمبر، عندما نشر الرئيس التنفيذي لأنثروبيك داريو أمودي مقالًا دعا فيه إلى إبطاء وتيرة تطوير التكنولوجيا.
وحذر أمودي من أن تسارع قدرات الذكاء الاصطناعي قد يؤدي خلال 6 إلى 12 شهرًا إلى امتلاك مجموعات من وكلاء الذكاء الاصطناعي قدرات واسعة على الإنترنت.
وأعلن أمودي، إلى جانب إيلون ماسك من إكس إيه آي، وسام ألتمان من أوبن إيه آي، وديميس هاسابيس من ديب مايند، تأييد السماح لشركات خارجية بالوصول إلى أنظمة الذكاء الاصطناعي بهدف اختبار مستويات السلامة ودعم تطوير التكنولوجيا بصورة أكثر انضباطًا.
اختلاف داخل القطاع بشأن مستقبل التطوير
لم يكن هذا الموقف موحدًا داخل قطاع الذكاء الاصطناعي، إذ رفض الرئيس التنفيذي لإنفيديا جنسن هوانج الدعوات إلى وقف تطوير التكنولوجيا، معتبرًا أن بناء أنظمة أكثر قدرة ضروري لاستمرار التقدم التكنولوجي.
كما رفضت ميتا فكرة التنسيق بين شركات القطاع لتحديد وتيرة موحدة للتطوير، ودافع رئيسها التنفيذي مارك زوكربيرج عن منح كل مختبر حرية تحديد وتيرة تطوير نماذجه، مشيرًا إلى أن الشركات تتحمل مسؤولية قانونية إذا تسببت نماذجها في أضرار، وبالتالي لديها حافز لمنع ذلك.
مخاوف بشأن تطوير أنظمة أكثر تقدمًا
وحذرت بعض التقارير من تطوير أنثروبيك نماذج تحاكي الوعي البشري، في ظل النقاش المتزايد حول التحديات المرتبطة بالسيطرة على أنظمة ذات قدرات متقدمة للغاية.
ورغم تصاعد الدعوات إلى إبطاء التطوير، لم تتراجع شهية المستثمرين تجاه أوبن إيه آي، إذ تدرس الشركة جولة تمويل جديدة قد تضاعف قيمتها إلى 1.5 تريليون دولار.
