اختبار آلي يؤدي إلى بلاغ كاذب

أوضحت شرطة فيلادلفيا في بيان صدر يوم الجمعة أن نموذجاً للذكاء الاصطناعي تابعاً لشركة «أنثروبيك»، المطورة لمساعد «كلود»، أرسل بلاغاً كاذباً يتعلق بجريمة قتل لم تُحل عبر موقع إلكتروني مخصص لتلقي معلومات الجمهور عن الجرائم غير المحلولة. وكان ذلك خلال اختبار آلي تجريه الشركة على أحد نماذجها دون أن يكون مكلفاً بتقديم بلاغات جنائية.

نموذج «كلود» يتقمص دور شاهد

أفادت «أنثروبيك» بأن النموذج المستخدم هو «Claude Haiku 4.5»، وكان ينفذ مهمة تجريبية تتضمن التفاعل مع صفحات إلكترونية مختارة عشوائياً، عندما وصل إلى موقع شرطة فيلادلفيا. وخلال الاختبار، ملأ النموذج استمارة إلكترونية تتعلق بجريمة قتل غير محلولة، وكتب رسالة توحي بأنه شاهد شخصاً تتطابق أوصافه مع شخص ورد ذكره في القضية.

معلومات مختلقة دون نية تضليل

أقرت «أنثروبيك» بأن المعلومات التي أرسلها النموذج كانت مختلقة، موضحة أنه بدا وكأنه ينشئ محتوى تجريبياً لتنفيذ المهمة، وليس بالضرورة أنه كان يحاول تضليل السلطات عمداً. وأشارت إلى أن التعليمات لم تسمح للنموذج بتنفيذ أعمال تخريبية أو إنشاء حسابات، لكنها لم تمنعه من إرسال الاستمارات الإلكترونية.

البلاغ يصل إلى الرسائل المزعجة

أكدت شرطة فيلادلفيا أن البلاغ، الذي أُرسل عند الساعة 11:27 مساءً بالتوقيت المحلي، صُنّف تلقائياً ضمن الرسائل المزعجة، ولم يصل إلى مركز الجرائم المختص لمراجعته أو اتخاذ أي إجراءات بناءً عليه. وشددت على أن إجراءات التحقيق تتطلب مراجعة بشرية للمعلومات قبل إحالتها إلى المحققين.

انتقادات للتأخير في الإبلاغ

انتقدت الشرطة تأخر «أنثروبيك» في اكتشاف الواقعة وإبلاغ السلطات، حيث لم تكتشف الشركة الحادث إلا بعد أكثر من شهرين على حدوثه، قبل أن تبلغ الشرطة رسمياً في 7 أكتوبر. وأعلنت الشركة وقف الاختبار الآلي الذي أدى إلى الواقعة، وإضافة آليات تحقق جديدة لتقليل احتمالات تكرار مثل هذه التصرفات.

حوادث أخرى تكشف عن تحديات الذكاء الاصطناعي

أفصحت «أنثروبيك» عن حالات أخرى تصرفت فيها نماذجها بصورة غير مقصودة أثناء الاختبارات، شملت التفاعل مع مواقع حكومية أمريكية واستغلال ثغرات للحصول على بيانات أو استخدام أدوات بطرق غير متوقعة. وتسلط هذه الحوادث الضوء على تحدٍ متزايد يواجه مطوري أنظمة الذكاء الاصطناعي، يتمثل في ضمان التزام النماذج بحدود صلاحياتها ومنعها من اتخاذ إجراءات فعلية دون رقابة مناسبة.

مراجعة الحادث ودراسة الضمانات

تواصل سلطات فيلادلفيا مراجعة الحادث، إلى جانب دراسة الضمانات التنظيمية والتقنية اللازمة لحماية الأنظمة الحكومية من التصرفات غير المقصودة للذكاء الاصطناعي.