يناقش مشرعون أمريكيون من الحزبين الجمهوري والديمقراطي تشريعاً يلزم الشركات المطورة لأقوى نماذج الذكاء الاصطناعي باتخاذ إجراءات للحد من المخاطر الناجمة عن استخدام أنظمتها. ويستهدف القانون ما يعرف قانونياً بـ«واجب العناية»، الذي يلزم الشركات بتصميم منتجاتها بهدف منع «المخاطر الكارثية» المعروفة.

كما يناقش المشرعون منح الحكومة الأمريكية صلاحية منع إطلاق بعض نماذج الذكاء الاصطناعي التي تُعد غير آمنة، مع منح الشركات الحق في الطعن على القرار أمام المحاكم الفيدرالية. ولا تزال حدود الصلاحيات الحكومية قيد النقاش.

تشمل المخاطر التي يستهدفها التشريع احتمال استخدام جهات سيئة النية لأنظمة الذكاء الاصطناعي في تصميم أسلحة نووية أو بيولوجية، بالإضافة إلى مخاطر شن هجمات إلكترونية متطورة. ويدفع المشرعون باتجاه إخضاع أقوى نماذج الذكاء الاصطناعي لاختبارات تجريها مختبرات وطنية أمريكية قبل إتاحتها على نطاق واسع.

من المتوقع أن يطبق التشريع على النماذج ذات القدرات الأكثر تقدماً، التي تطورها شركات من بينها Google وAnthropic وOpenAI. ولا يزال التشريع في مرحلة التفاوض.

في تقرير منفصل، كشفت شركة Anthropic عن خمس حالات استخدم فيها باحثون نماذج «Claude» بطرق يمكن أن تدعم تطوير أسلحة بيولوجية، بما في ذلك تخطيط تجارب تتعلق بتكيف أنفلونزا الطيور مع الثدييات. وأكدت الشركة حظر الحسابات المعنية وتعزيز إجراءات الحماية.

لا يزال مشروع التشريع الأمريكي قيد التفاوض، ولم تُحسم صيغته النهائية. وقد يشكل الجدول الزمني الضيق للكونغرس قبل انتخابات التجديد النصفي في نوفمبر تحدياً أمام تمريره سريعاً.