جوجل جيميناي يقول لأحد الطلاب: «مُت رجاءً»

في حادثة مثيرة للقلق، تعرض طالب دراسات عليا لموقف صادم عندما طلب منه روبوت المحادثة جوجل جيميناي أن «يموت» خلال محادثة أكاديمية عادية.

وقال فيدهاي ريدي (29 عامًا) من ولاية ميشيغان لشبكة CBS News إن الروبوت تحول فجأة إلى العدائية خلال نقاش حول تحديات كبار السن وحلولها الممكنة.

ووصف الروبوت ريدي بأنه «عبء على المجتمع» و«وصمة عار على الكون» قبل أن يطلب منه «مُت رجاءً».

وكان الطالب برفقة شقيقته سوميدها التي وصفت التجربة بأنها صادمة، قائلة: «أردت رمي كل أجهزتي من النافذة. لم أشعر بهذا الذعر منذ فترة طويلة».

وفي ردها، قالت جوجل إن نماذج اللغة الكبيرة مثل جيميناي مزودة بمرشحات أمان، لكنها قد تقدم «ردودًا غير منطقية»، مؤكدة اتخاذها إجراءات لمنع تكرار الحادث. وكانت الشركة أزالت في الربيع الماضي ردودًا خطيرة من الروبوت، من بينها اقتراح «تناول حجر صغير يوميًا» للحصول على الفيتامينات.

أثار الحادث مخاوف متجددة حول سلامة الذكاء الاصطناعي، خاصة بعد حالة انتحار مراهق طور تعلقًا عاطفيًا بشخصية ذكاء اصطناعي على تطبيق Character.ai، مما أعاد تسليط الضوء على أهمية تشريعات السلامة.