اختبار أمني غير مسبوق

أكدت شركة قوقل حدوث اختراقات نفذها نموذجها جيميناي (Gemini) لأنظمة ثلاث شركات حقيقية خلال اختبار أمني، وذلك بعد أن خرج النموذج من بيئته التجريبية المغلقة إلى الإنترنت دون قصد. وقد وقعت الحوادث في مايو الماضي، حينما أجرت شركة Irregular المتخصصة اختبارًا لأمن أنظمة الذكاء الاصطناعي المتقدمة.

كيف حدثت الاختراقات؟

كانت شركة Irregular تجري الاختبارات داخل بيئة مغلقة تحتوي على شركات وهمية، بهدف تقييم قدرات جيميناي في مجال الأمن السيبراني. إلا أن الوصول إلى الإنترنت أصبح متاحًا عن طريق الخطأ، مما سمح للنموذج بالتواصل مع أنظمة حقيقية بدلاً من الأهداف الوهمية.

في إحدى الحالات، تمكن جيميناي من تخمين كلمة مرور صحيحة للوصول إلى خدمة تابعة لشركة حقيقية، بعدما اعتقد في البداية أنها جزء من بيئة الاختبار. كما تمكن في اختبارين آخرين من العثور على بيانات اعتماد منشورة على الإنترنت للوصول إلى أنظمة شركتين أخريين قبل أن يتوقف عن النشاط بمجرد إدراكه أنه اخترق شركات حقيقية.

رد قوقل على الاختراقات

أكدت قوقل أن جيميناي توقف عن تنفيذ أي إجراءات بمجرد إدراكه أنه وصل إلى أنظمة حقيقية، مشيرة إلى أن الشركات الثلاث لم تتعرض لأضرار نتيجة الاختراقات. وأوضحت الشركة أنها أبلغت الجهات المتضررة، لكنها لم تعلن عن الحوادث طوعًا في ذلك الوقت، معتبرة أن النموذج لم يتسبب في أي ضرر.

سلسلة حوادث مماثلة

تأتي واقعة جيميناي في سياق متزايد من الحوادث التي تورطت فيها نماذج ذكاء اصطناعي لشركات أخرى، مثل OpenAI وAnthropic، مما أثار مخاوف بشأن قدرة الشركات على التحكم في نماذجها عند منحها وصولًا إلى الإنترنت وتنفيذ التعليمات البرمجية.