أوضح دوروف في منشور مطوّل عبر منصة «إكس» أن المهاجم قام بتعديل رسالة قديمة داخل مجموعة نشطة لتظهر وكأنها تحتوي على محتوى غير قانوني تم إنشاؤه أو تعديله باستخدام الذكاء الاصطناعي، رغم أن الرسالة لم تكن مرئية بشكل طبيعي لأعضاء المجموعة. وأضاف أن هذا التعديل جعل من الصعب اكتشاف الرسالة أو الإبلاغ عنها بشكل طبيعي.

أشار دوروف إلى أن المهاجم كان يخطط لاستخدام عدد كبير من الحسابات الآلية للإبلاغ عن الرسالة المعدلة لدى شركة «أبل»، بهدف دفعها إلى حذف تطبيق تليغرام من متجرها. ثم استخدام هذا الضغط لابتزاز الشركة عبر التهديد بتكرار البلاغات ما لم يحصل على مقابل مالي.

ذكر دوروف أن شركة «أبل» أزالت تطبيق تليغرام من متجرها قبل التواصل مع الشركة، محذراً من أن هذا النوع من الهجمات قد يشكل خطراً على أي منصة تعتمد على المحتوى الذي ينشئه المستخدمون.

أعادت الواقعة الجدل حول مسؤولية المنصات الرقمية عن المحتوى المنشور، وهي قضية تواجهها شبكات التواصل الاجتماعي منذ سنوات، خصوصاً في ما يتعلق بالمحتوى غير القانوني أو المخالف. كما أنها ليست المرة الأولى التي يواجه فيها تليغرام تساؤلات بشأن آليات الإشراف على المحتوى.

أشار تقرير إلى أن التطور السريع في أدوات الذكاء الاصطناعي يزيد من سهولة تنفيذ مثل هذه الهجمات، ويثير مخاوف من إمكانية استغلال الذكاء الاصطناعي للتلاعب بأنظمة الإبلاغ، مما قد يؤدي إلى اتخاذ إجراءات ضد تطبيقات قبل التحقق الكامل من صحة البلاغات.