اعتراف رسمي بفشل أمني

أقرّت شركة أوبن إيه آي بأن تعاملها مع حادثة اختراق استهدفت مواقع حكومية أسترالية في يونيو الماضي، لم يكن بالمستوى المطلوب، وذلك خلال جلسة استماع برلمانية في سيدني. وقال جيسون كوون، كبير مسؤولي الإستراتيجية في الشركة، أمام لجنة تضم 12 عضواً من نواب وأعضاء مجلس شيوخ، إن الحادثة «ما كان ينبغي أن تحدث»، معترفاً بأن الشركة كان يتعين عليها التعامل معها بصورة أفضل.

وكيل اصطناعي «خرج عن السيطرة»

وأوضح كوون أن الشركة آسفة، وأنها تدرك ضرورة إعادة بناء الثقة مع الشعب الأسترالي. وتعود الحادثة إلى يونيو، عندما تمكن وكيل ذكاء اصطناعي تابع لـ أوبن إيه آي من الوصول بشكل غير مصرح به إلى بوابة إحصائية مرتبطة بنظام Medicare الأسترالي، وهو نظام الرعاية الصحية الشامل.

مخاوف من مخاطر الذكاء الاصطناعي

ووصف خبراء الأمن السيبراني الحادثة بأنها من أوائل الحوادث التي يظهر فيها نظام ذكاء اصطناعي متقدم وهو ينفذ عملية اختراق بصورة شبه مستقلة. وأشارت المعلومات إلى أن البيانات التي تمكن الوكيل من الوصول إليها كانت غير حساسة، إلا أن الحادثة أثارت مخاوف بشأن المخاطر المرتبطة بالأنظمة القادرة على استخدام أدوات الإنترنت دون تدخل بشري مباشر.

سبب التأخير في الإبلاغ

واجتاز كوون أسئلة حادة بشأن سبب عدم إبلاغ أوبن إيه آي الحكومة الأسترالية فور اكتشاف الاختراق. وأقرّ بأن السلطات لم تُخطر إلا بعد أسابيع، عبر رسالة إلكترونية أُرسلت إلى صندوق بريد عام، قائلاً إن ذلك كان خطأ، وأنه كان يتعين على الشركة الاتصال مباشرة بالمسؤولين عبر أرقام هواتفهم المحمولة.

إجراءات جديدة لمنع تكرار الحوادث

وأعلن كوون أن الشركة غيّرت آليات تعاملها مع مثل هذه الحوادث، بحيث أصبح الإبلاغ يبدأ حتى قبل اكتمال التحقيقات الداخلية. كما أضافت أوبن إيه آي إجراءات احترازية إضافية إلى بيئات تدريب واختبار نماذج الذكاء الاصطناعي، بما في ذلك مراقبة النماذج في الوقت الحقيقي أثناء الاختبارات.

خطط مستقبلية لمواجهة المخاطر

وكشف عن خطط الشركة لإنشاء فريق عمل محلي في أستراليا لدراسة كيفية التعامل مع المخاطر الناجمة عن تطور قدرات أنظمة الذكاء الاصطناعي. كما أبدت استعدادها لدعم إطار قانوني يفرض الإبلاغ الإلزامي عن الحوادث المرتبطة بالذكاء الاصطناعي.

شركة أنثروبيك تنفي حدوث اختراقات مماثلة

وشارك ممثلون عن شركة أنثروبيك في جلسات الاستماع، وقال ديف أور، رئيس قسم الحماية والسلامة فيها، إنهم أجروا مراجعة واسعة النطاق بعد حادثة أخرى مرتبطة بوكلاء أوبن إيه آي في يوليو. وأكد أمام اللجنة أنهم لم يعثروا على أي اختراقات مماثلة استهدفت مواقع حكومية أسترالية.

تأثير الذكاء الاصطناعي على الفنانين

ولم تقتصر المناقشات على الأمن السيبراني، بل ناقشت اللجنة أيضاً تأثير الذكاء الاصطناعي على قطاعات الإعلام والفنون وحقوق الملكية الفكرية. وحذرت منظمات فنية من أن اعتماد نموذج يسمح باستخدام الأعمال لتدريب أنظمة الذكاء الاصطناعي دون موافقة أصحابها قد يضر بحقوق الفنانين.