هل تقنع ورقة ديب مايند حول أمان الذكاء الاصطناعي العام المشككين؟

نشرت شركة Google DeepMind ورقة بحثية مكوّنة من 145 صفحة، استعرضت فيها نهجها في التعامل مع أمان الذكاء الاصطناعي العام، وهو نوع من الذكاء يمكنه أداء أي مهمة فكرية يستطيع الإنسان القيام بها.

ورغم هذا الطرح المفصل، لم ينجح في إقناع العديد من النقّاد. فالبعض يرى أن الذكاء الاصطناعي العام ما يزال وهمًا بعيد المنال، بينما يرى آخرون — مثل Anthropic — أنه يوشك على الظهور. وفي حال غابت الضوابط، قد يتسبب في أضرار جسيمة.

تحذيرات مقلقة وتوقّعات جريئة

وفقًا لما ورد في الورقة، تتوقّع ديب مايند ظهور ما يُسمى “الذكاء الاصطناعي العام الاستثنائي” قبل نهاية هذا العقد. هذا النوع سيكون قادرًا على أداء مهام غير بدنية بكفاءة تعادل أو تتفوق على أفضل 1٪ من البالغين المهرة.

الخطير في الورقة أنها تشير إلى احتمال ظهور “مخاطر وجودية” قد تُدمّر البشرية بالكامل.

مقارنة استراتيجية مع OpenAI وAnthropic

بالمقارنة مع مختبرات أخرى، تختلف ديب مايند في طريقة التعامل مع المخاطر:

• تعتبر أن Anthropic تفتقر إلى عناصر الرقابة الصارمة والأمان المتقدّم.
• في المقابل، تنتقد OpenAI لاعتمادها الزائد على أتمتة أبحاث محاذاة الذكاء، دون تدخل بشري كافٍ.

وعلاوة على ذلك، تشكك الورقة في قرب ظهور الذكاء الفائق — وهو النوع الذي يتفوق على الإنسان في كل المجالات. وترى أنه من غير المرجّح ظهوره دون تغييرات معمارية ضخمة في بنية الذكاء.

التحسين الذاتي للذكاء الاصطناعي: فرصة أم تهديد؟

مع ذلك، تعتقد ديب مايند أن النماذج الحالية قد تتيح نوعًا من التحسين الذاتي المتكرر. أي أن الذكاء سيبدأ في تطوير نفسه بنفسه. ورغم أن هذا يبدو مثيرًا، إلا أنه يحمل مخاطر شديدة، وفقًا للباحثين.

مقترحات عملية لتفادي الكوارث

طرحت الورقة عدة توصيات واضحة:

• منع الجهات الخبيثة من الوصول إلى نماذج الذكاء المتقدم.
• تحسين الشفافية في فهم تصرفات الأنظمة.
• تعزيز بيئة العمل الخاصة بالذكاء لتقليل فرص الانحراف.

ومع أن هذه التقنيات لا تزال في مراحلها الأولى، إلا أن تجاهلها قد يُفضي إلى عواقب جسيمة.

آراء علمية معارضة

ورغم كل هذا، واجهت الورقة انتقادات من خبراء في المجال:

• تقول هايدي خلاف من AI Now إن مفهوم الذكاء الاصطناعي العام لا يزال غامضًا، ويصعب تقييمه بدقة علمية.
• أما الباحث ماثيو غوزديال، فيرفض فكرة التحسين الذاتي في الوقت الحالي. فهو يرى أن النماذج الحالية لا تدعم ذلك على أرض الواقع.
• من جهتها، تحذر ساندرا واشتَر من جامعة أوكسفورد من خطر انتشار محتوى مولّد تلقائيًا. فقد تتعلم النماذج من بيانات غير صحيحة وتعيد نشرها على أنها حقائق. وهذا يهدد دقة المعلومات التي يعتمد عليها الناس في حياتهم اليومية.

خلاصة وتوصية

ورقة DeepMind تُعد شاملة بالفعل، إلا أنها لا تبدو كافية لحسم الجدل حول مدى قرب ظهور الذكاء الاصطناعي العام، ولا تحدد بدقة أولويات أبحاث الأمان التي يجب أن تُنفذ على الفور.