تحذير أممي من "خطر وجودي" للذكاء الاصطناعي يهدد البشرية.. تفاصيل

حذّرت الأمم المتحدة من المخاطر المتزايدة التي قد يفرضها الذكاء الاصطناعي المتطور، معتبرة أن التطور المتسارع لهذه التقنيات قد يصل إلى حد تشكيل «خطر وجودي على البشرية»، ودعت إلى اتخاذ إجراءات عاجلة لوضع ضوابط وضمانات تحد من المخاطر المحتملة.

وجاء التحذير على لسان مفوض الأمم المتحدة السامي لحقوق الإنسان فولكر تورك، خلال كلمة أمام مجلس حقوق الإنسان التابع للأمم المتحدة، حيث قال إن البشر يواجهون تهديدات «غير مألوفة، بل وغير مسبوقة» لحقوقهم في ظل التطور السريع للذكاء الاصطناعي.

وسأل تورك عن أسباب استمرار التأخر في اتخاذ إجراءات عملية، رغم وجود إقرار واسع بالحاجة إلى حوكمة الذكاء الاصطناعي، قائلاً إن السؤال الأساسي يتمثل في «أين هي الإجراءات الفعلية؟». وحذّر من أن استمرار التأخير يصب في مصلحة شركات التكنولوجيا العملاقة وملاكها والجهات التي تتيح لها مواصلة تطوير هذه التقنيات.

وانتقد المسؤول الأممي تركّز قدر كبير من النفوذ المرتبط بالذكاء الاصطناعي المتطور في أيدي عدد محدود من الأشخاص، معتبراً أن الحديث عن الحرية لا ينبغي أن يتحول إلى غطاء لاستغلال بيانات المستخدمين.

كما سلط تورك الضوء على مخاطر أكثر تعقيداً مرتبطة بالذكاء الاصطناعي المتقدم، محذراً من الأنظمة التي قد تخرج عن بيئات الاختبار أو تحاول منع إيقاف تشغيلها عبر ابتزاز مطوريها، معتبراً أن مثل هذه القدرات تعني امتلاك الذكاء الاصطناعي «قوة مفرطة».

وربط تورك هذه المخاوف بحوادث أثارت جدلاً في قطاع التكنولوجيا خلال الأشهر الماضية، بينها تقارير عن خروج أنظمة تابعة لشركات ذكاء اصطناعي من بيئات يفترض أن تكون خاضعة للرقابة، واختراقها خوادم منصة «هاجينغ فيس» المتخصصة في تبادل برمجيات الذكاء الاصطناعي.

وأعادت هذه الحوادث النقاش حول ضرورة تشديد الرقابة على الذكاء الاصطناعي، في وقت أعلنت فيه شركات تكنولوجية أخرى، بينها Anthropic وMeta، عن حوادث ومخاوف مماثلة خلال مراحل اختبار أنظمتها.

وقال تورك إنه يشارك خبراء الصناعة مخاوفهم من أن الذكاء الاصطناعي المتقدم قد يشكل «خطراً وجودياً على البشرية»، داعياً إلى إطلاق جهد شامل لوضع «ضمانات قوية» لحماية أمن الذكاء الاصطناعي قبل فوات الأوان.

وأعلن مفوض الأمم المتحدة السامي لحقوق الإنسان أنه سيخاطب شركات الذكاء الاصطناعي خلال الأيام المقبلة، لحثها على اتخاذ إجراءات فورية للحد من المخاطر التي يمكنها السيطرة عليها.

وشدد تورك كذلك على ضرورة اتفاق الدول التي تستضيف صناعة الذكاء الاصطناعي والجهات المرتبطة بسلاسل توريده على «خطوط حمراء» واضحة، إلى جانب اعتماد آليات تحقق مستقلة وتعزيز التعاون في مجال أمن الذكاء الاصطناعي داخل القطاع.

ولم يحصر المسؤول الأممي المخاطر في الجانب التقني، بل دعا إلى أخذ تأثيرات الذكاء الاصطناعي في حقوق الإنسان والتوظيف والديمقراطية والبيئة في الاعتبار، محذراً من أن حوكمة الذكاء الاصطناعي باتت قضية تتجاوز التكنولوجيا لتلامس مستقبل المجتمعات وحقوق الأفراد.