أقامت امرأة تُعرف باسم «جين دو» دعوى قضائية جماعية أمام محكمة أمريكية، تزعم فيها أن صوراً تعود لاستغلال جنسي تعرضت له وهي طفلة قد استُخدمت في تدريب نموذج الذكاء الاصطناعي «غروك»، مما أتاح إنتاج محتوى جنسي مزيف يظهرها وضحايا آخرين. وتخضع المدعية لبرنامج مراقبة من مكتب التحقيقات الفيدرالي بسبب تعرضها السابق للاستغلال.

تتهم الدعوى شركة xAI بعدم اتخاذ الإجراءات الكافية لمنع وصول مواد استغلال الأطفال إلى نماذجها أو استخدامها في تدريبها، رغم علمها بمخاطر ذلك. كما تشير إلى أن سياسة الشركة بشأن المحتوى على منصة «إكس» ومنتجات «غروك» لا تمنع بشكل كافٍ استخدام هذه المواد في تطوير النماذج.

توضح المدعية أن حذف الصور أو المقاطع من الإنترنت لا يكفي، لأن المواد قد دخلت بالفعل في بيانات التدريب، مما قد يؤدي إلى إعادة إنتاج مخرجات مسيئة في المستقبل. وتطالب الدعوى بتعويضات للضحايا، وإلزام xAI بإزالة أي مواد استغلال أطفال أنتجها «غروك»، ومنع استخدامها في التدريب مستقبلاً.

قالت المحامية مارغريت إي. مابي، ممثلة المدعية، إن قوانين حماية الأطفال الفيدرالية لا تستثني الذكاء الاصطناعي، مؤكدة أن حيازة أو إنتاج أو توزيع مواد استغلال أطفال يظل جريمة بغض النظر عن التكنولوجيا المستخدمة.

تأتي هذه الدعوى في ظل سلسلة من الانتقادات الموجهة إلى xAI وغروك، بعد اتهامات باستخدامه في إنشاء صور جنسية مزيفة لأشخاص حقيقيين، بينهم قاصرون، وسط مخاوف متزايدة من إساءة استخدام أدوات توليد المحتوى بالذكاء الاصطناعي.