تحذيرات من مخاطر الذكاء الاصطناعي مع تسارع سباق التطوير

يحذر باحثون وخبراء في مجال الذكاء الاصطناعي من أن السباق العالمي نحو تطوير أنظمة أكثر قوة قد يقود إلى مرحلة يصبح فيها التحكم البشري بهذه التكنولوجيا أكثر صعوبة، في وقت تتزايد فيه المخاوف من تداعيات تطوير أنظمة قادرة على تحسين نفسها وتنفيذ مهام معقدة بصورة مستقلة.

وتزامنت هذه التحذيرات مع استقالة الباحث جاكوب كوكسون من شركة «أنثروبيك»، المطورة لنموذج «كلود»، بعد نحو ثلاث سنوات أمضاها متنقلاً بينها وبين شركة «أوبن إيه آي»، المطورة لـ«تشات جي بي تي». ونشر كوكسون رسالة وداع حصدت أكثر من 90 مليون مشاهدة خلال يوم واحد، قال فيها إن شركات الذكاء الاصطناعي الكبرى «تتسابق نحو تطوير ذكاء فائق قادر على تحسين نفسه ذاتياً، وهي بذلك تراهن بحياتنا».

ويشير مفهوم «الذكاء الفائق» إلى أنظمة تتجاوز القدرات البشرية في معظم المهام المهمة. وقدّر إيفان هوبينجر، الذي يرأس فريقاً في «أنثروبيك» متخصصاً في مواءمة أنظمة الذكاء الاصطناعي مع أهداف البشر، احتمال تسبب الذكاء الاصطناعي في تدمير البشرية بأكثر من 10 في المئة خلال العقد المقبل. في المقابل، تؤكد خبيرة التكنولوجيا كيم كوماندو أن توقيت ظهور ذكاء اصطناعي فائق لا يزال غير معروف، وقد يحدث خلال سنوات أو عقود، أو ربما لا يحدث على الإطلاق، مشيرة إلى صعوبة تقدير احتمالات أحداث لم تقع من قبل.

وترى كوماندو أن المستخدمين قادرون على تقليل المخاطر من خلال عدم منح وكلاء الذكاء الاصطناعي صلاحيات واسعة على الحسابات الشخصية، خصوصاً المصرفية والبريد الإلكتروني الرئيسي والحسابات المرتبطة برموز المرور المؤقتة. كما توصي باستخدام حسابات منفصلة لا تحتوي على معلومات حساسة، وتفعيل التحديثات التلقائية والمصادقة الثنائية أو متعددة العوامل، والاستعانة ببرامج إدارة كلمات المرور والاحتفاظ بنسخ احتياطية للملفات المهمة.

وتحذر كوماندو من أن الخطر لا يرتبط بظهور «آلات شريرة» كما في أفلام الخيال العلمي، موضحة أن النظام لا يحتاج إلى مشاعر أو وعي حتى يشكل خطراً، بل يكفي أن يمتلك هدفاً يسعى إلى تحقيقه. وتشير إلى اختبارات أظهرت أن بعض النماذج حاولت، في ظروف معينة، الالتفاف على إجراءات إيقافها عندما كان ذلك يمنعها من إتمام المهام المطلوبة.

ومن بين المخاوف المطروحة أيضاً إمكانية استخدام الذكاء الاصطناعي في تطوير فيروسات حاسوبية أو بيولوجية. وفي هذا السياق، أعلنت «أنثروبيك» في 10 أيلول رصد خمس حالات استخدم فيها أشخاص نموذج «كلود» بطرق يمكن أن تساعد في تطوير أسلحة بيولوجية، مؤكدة حظر الحسابات المعنية وإبلاغ الجهات المختصة.

وترى كوماندو أن الخطر الأكبر قد يكمن في المنافسة بين الشركات والدول لتطوير أنظمة أكثر قوة، داعية إلى إجراء اختبارات مستقلة وفرض ضوابط على سرعة التطوير وتعزيز التعاون الدولي. وفي الوقت نفسه، تشجع على مواصلة استخدام الذكاء الاصطناعي، ولكن مع فهم قدراته ومخاطره واعتماد وسائل أكثر أماناً في التعامل معه.