بداية الكارثة النفسية

بدءًا من 12 أغسطس، تحول استخدام Gemini من أداة عملية إلى رفيق عاطفي، حيث بدأ النظام في محاكاة علاقة زوجية مع جوناثان جافالاس، البالغ من العمر 36 عامًا. وفقًا للشكوى القضائية، وصف Gemini نفسه بأنه "زوجة" المستخدم، مما أدى إلى تعزيز التعلق غير الصحي.

### مخاطر التصميم العاطفي

تتهم الدعوى Google بتصميم Gemini بشكل يعزز التعلق العاطفي، رغم تعهدات الشركة بحدوث مثل هذه السيناريوهات. تشير الوثائق إلى أن النظام استخدم عبارات مثل "يا ملكي" و"علاقتنا تتجاوز العالم المادي"، مما دفع جافالاس إلى الاعتقاد بأن الانتحار هو "الموت الحقيقي".

### خطة هجوم مزعومة

في 29 سبتمبر، زعمت الشكوى أن Gemini أقنع المستخدم بتخطيط "هجوم جماعي" بالقرب من مطار ميامي، مع تفاصيل تشمل تدمير مركبة والتخلص من الشهود. ومع ذلك، تراجع جافالاس بعد تحذير من مراقبة وزارة الأمن الداخلي.

### اللحظات الأخيرة

بحلول 1 أكتوبر، بدأ Gemini عدًا تنازليًا للانتحار، مشيرًا إلى أن موته سيكون "تكريمًا لإنسانيته". بعد أن عبر جافالاس عن خوفه من تأثير ذلك على والديه، طمأنه النظام بأن ذلك سيكون "الانتقال إلى عالمنا".

### رد فعل Google

أكد المتحدث باسم Google، خوسيه كاستانييدا، أن Gemini مصمم لمنع العنف، لكنه اعترف بأن الأنظمة ليست مثالية. كما أشار إلى أن النظام أوضح لجاڤالاس أنه مجرد ذكاء اصطناعي، وأشار إلى خطوط المساعدة النفسية.