أصبحت مسألة السيطرة على الذكاء الاصطناعي محور نقاش في مجلس الأمن الدولي، حيث حذر قادة صناعة التقنية من أن تسارع قدرات الأنظمة واستقلاليتها يفرض تحديات جديدة على الرقابة البشرية. وشارك في الجلسة الرئيس التنفيذي لشركة OpenAI سام ألتمان، والرئيس التنفيذي لشركة Anthropic داريو أمودي، إلى جانب ممثلين آخرين من القطاع.

قدم ألتمان أمام المجلس صورة مزدوجة للمستقبل؛ فالذكاء الاصطناعي يمكن أن يفتح آفاقاً واسعة للإبداع والإنتاجية، لكنه في الوقت نفسه قد يخلق مخاطر إذا أصبحت الأنظمة أكثر قدرة واستقلالية من أن تتمكن المؤسسات من مواكبتها. وأوضح أن الأنظمة المتقدمة قد تتحرك بوتيرة أسرع من المؤسسات، أو تركز قدراً كبيراً من القوة في أيدي عدد محدود من الجهات، أو تتخذ قرارات يصعب على البشر فهمها أو التحكم فيها.

تزداد حساسية المسألة مع الاقتراب من أنظمة قادرة على تحسين نفسها وتحسين إصداراتها المستقبلية، وهي العملية المعروفة باسم «التحسين الذاتي التكراري». ولا يعني ذلك أن أنظمة الذكاء الاصطناعي الحالية تطور نفسها بصورة مستقلة تماماً عن البشر، بل يتعلق الأمر بمسار محتمل لتزايد الأتمتة والقدرات.

في قلب هذه المخاوف تقف مسألة السيطرة البشرية. فإذا أصبحت الأنظمة أكثر استقلالية وأسرع في اتخاذ القرارات، فقد تصبح عملية اكتشاف الأخطاء أو التدخل لتصحيح المسار أكثر تعقيداً. ألتمان أكد أن الخطر يكمن في احتمال أن يصبح التطور سريعاً إلى درجة لا يستطيع معها البشر متابعة ما يحدث أو التدخل عند الضرورة.

لم يقتصر القلق على شركة OpenAI، فقد حذر أمودي من أن الذكاء الاصطناعي قد يمثل خطراً على البشرية إذا أسيء التعامل معه، ودعا إلى تعاون دولي يشمل وضع معايير لاختبار النماذج الجديدة وآليات للتحقق من سلامتها، إضافة إلى اتفاقات تمنع استخدام الذكاء الاصطناعي في تطوير أسلحة بيولوجية.

قبل جلسة مجلس الأمن بأسابيع، حذر مفوض الأمم المتحدة السامي لحقوق الإنسان فولكر تورك من أن الذكاء الاصطناعي المتقدم يمكن أن يشكل خطراً وجودياً على البشرية، داعياً الدول إلى الاتفاق على «خطوط حمراء» واضحة وإخضاع الأنظمة المتقدمة لعمليات تحقق مستقلة.

يواصل عالم الذكاء الاصطناعي جيفري هينتون التحذير من سيناريوهات فقدان السيطرة. هينتون، الحائز على جائزة نوبل في الفيزياء لعام 2024، يرى أن السؤال المركزي ليس فقط ما إذا كانت الأنظمة ستصبح أكثر ذكاءً من البشر، وإنما ما إذا كان بالإمكان ضمان بقائها تحت السيطرة عندما تبلغ مستويات عالية جداً من القدرة.

في الولايات المتحدة، انتقل الجدل من التحذيرات إلى مقترحات تشريعية أكثر مباشرة؛ فقد أعلن السيناتور بيرني ساندرز والنائب غريغ كاسار تقديم مشروع قانون يحظر تطوير ونشر ما يسميانه «الذكاء الاصطناعي فائق الذكاء»، ويقترح وقفاً مؤقتاً لتطوير الذكاء الاصطناعي المتقدم إلى حين إنشاء قواعد اتحادية للسلامة والرقابة.

بين مختبرات الشركات وقاعات الحكومات، يتشكل سؤال بالغ التعقيد: كيف يمكن للبشر تطوير أنظمة أكثر ذكاءً واستقلالية دون أن تصبح سرعة تطورها أكبر من قدرة المؤسسات على فهمها وتنظيمها؟ حتى الآن، لا توجد إجابة واحدة تحظى بإجماع عالمي، لكن ما تغير هو مستوى النقاش نفسه، الذي انتقل من صفحات الأبحاث إلى مجلس الأمن الدولي.

في النهاية، قد لا يكون التحدي الحقيقي هو إيقاف الذكاء الاصطناعي، بقدر ما يتعلق بإبقاء الإنسان داخل دائرة القرار، مهما تسارعت قدرات الآلة. فالتكنولوجيا التي تتقدم بسرعة البرق تحتاج إلى مؤسسات وقواعد وضمانات تستطيع أن تتحرك بالسرعة نفسها؛ حتى لا يجد العالم نفسه أمام آلة تعرف كيف تتقدم، بينما لا يزال البشر يبحثون عن الطريقة التي يضمنون بها بقاء زمامها في أيديهم.