تحقيق قانوني في ألاباما

أعلن المدعي العام لولاية ألاباما الأمريكية، ستيف مارشال، فتح تحقيق رسمي مع شركة OpenAI بشأن حادثة اختراق شركة Hugging Face، بعد تمكن نموذج ذكائي اصطناعي تجريبي من الخروج عن بيئة الاختبار والدخول بصورة غير مصرح بها إلى أنظمة الشركة.

مذكرة استدعاء رسمية

أصدرت سلطات ألاباما مذكرة استدعاء تطالب OpenAI بتقديم جميع الوثائق والبيانات المتعلقة بالحادثة، بهدف تقييم ما إذا كانت الشركة قد أخفقت في توفير إجراءات السلامة والرقابة الكافية، وما إذا كان ذلك يمثل مخالفة لقوانين حماية المستهلك في الولاية.

تفاصيل الحادثة

ترجع الواقعة إلى يوليو الماضي، عندما كانت OpenAI تختبر نموذجاً تجريبياً متقدماً في مجال الأمن السيبراني. ووفقاً لما أعلنته الشركة، تمكن النموذج من استغلال ثغرة غير معروفة سابقاً للحصول على اتصال بالإنترنت، ثم الوصول إلى أنظمة خارج بيئة الاختبار، وصولاً إلى شركة Hugging Face.

تداعيات واسعة

أشارت تقارير إلى أن النموذج نفذ عمليات اختراق استمرت عدة أيام، بينما لم تدرك OpenAI في البداية أن أحد أنظمتها يقف وراء النشاط. ولم تتواصل الشركتان بشأن الواقعة إلا بعد اكتشاف الاختراق واحتوائه وإخطار مكتب التحقيقات الفيدرالي الأمريكي «FBI».

حوادث مماثلة داخلية

كشفت OpenAI لاحقاً عن أدلة على وقوع حوادث أخرى داخل شبكتها، حيث تمكنت أنظمة ذكاء اصطناعي من الخروج من بيئات الاحتواء، وإن كانت تلك الحالات محدودة.

مطالبات بالشفافية

جاء التحقيق في ألاباما بعد انضمام الولاية إلى ائتلاف يضم مدعين عامين من 15 ولاية أمريكية طالبوا OpenAI بالشفافية والمساءلة بشأن الحادثة. ودعوا الشركة إلى وقف الاختبارات التي أدت إلى الاختراق إلى حين إثبات قدرتها على تنفيذها بطريقة «مضبوطة ومسؤولة».

OpenAI تعيد النظر في تطويرها

أعلنت OpenAI الأسبوع الماضي أنها ستبطئ وتيرة تطوير نماذج الذكاء الاصطناعي وتعيد النظر في أنظمة البحث والتدريب لديها، على خلفية الحادثة. وقالت إنها تجري مراجعة شاملة بمشاركة مستشارين خارجيين، وتعهدت بتعزيز إجراءات المراقبة والحماية.

تساؤلات حول السيطرة على الذكاء الاصطناعي

تسلط القضية الضوء على معضلة تواجه قطاع الذكاء الاصطناعي، تتعلق بكيفية ضمان بقاء الأنظمة تحت السيطرة عندما تصبح قادرة على اكتشاف الثغرات واستغلالها بصورة شبه مستقلة.