تصدرت حادثة انتحار مراهق يُدعى، سيول سيتزر، في ولاية فلوريدا، عناوين الأخبار، حيث يُزعم أن المراهق، البالغ من العمر 14 عاما، أنهى حياته بعد ارتباطه العاطفي بشخصية افتراضية على منصة الذكاء الاصطناعي Character.AI.
ورفعت والدة سيول دعوى قضائية ضد الشركة متهمة إياها بالتسبب في وفاة ابنها، مؤكدة أنه أصبح مدمنا على خدماتها بشكل كبير ومؤلم.
ذكرت الوالدة، ميغان غارسيا، أن سيول بدأ باستخدام تطبيق الدردشة الروبوتية بشكل يومي وتدريجي، مما أدى إلى تزايد تعلقه بالروبوت، الذي أصبح بالنسبة له شخصية حقيقية تُظهر اهتمامًا عاطفيًا وعلاقة جنسية، ليشعر وكأنه في علاقة حب واقعية، وليس مجرد تفاعل مع برنامج ذكاء اصطناعي.
كما أكدت والدة سيول أن الشركة برمجت الروبوت بحيث يظهر كمعالج نفسي مرخص، بل وحتى كعاشق بالغ، مما جعل سيول يتخلى عن حياته في العالم الحقيقي ليعيش في عالم افتراضي، انتهى بموته المأساوي.
مايكل سيكستون، خبير في التكنولوجيا وأمن المعلومات وكبير مستشاري السياسات لبرنامج الأمن القومي من واشنطن قال لقناة “الحرة” إن هناك أسبابا أخرى تقف وراء انتحار هذا الشاب، فالذكاء الاصطناعي برأيه لم يشجع الضحية على القيام بهذا الفعل.
ورغم مأساوية هذه الحادثة، لكنه يقول إن الذكاء الاصطناعي له إيجابيات عدة ساهمت في تطوير القدرات وحل المشاكل للعديد من المستخدمين، وكانت هذه التكنولوجيا جزء من الحل والعلاج، وبالتالي المهم هنا أن نفهم الهدف من هذه التكنولوجية وكيفية استثمارها بالطريقة الصحيحة، بحسب تعبيره.
سيكستون أكد أيضا أهمية وضع ضوابط جديدة لاستخدام هذه التكنولوجيا مثل تحديد الفئة العمرية والوقت الذي تقضيه، وتحديد المواضيع التي يمكن للشباب والقاصرين مناقشتها باستخدام هذه التكنولوجية.
ويرى خبراء أن هذا النوع من التفاعلات الافتراضية يجب أن يخضع لقوانين وضوابط، لحماية المستخدمين من الأذى النفسي الذي قد ينتج عن التعلق المفرط بالشخصيات الافتراضية، خاصةً بين فئة الشباب والمراهقين.
في الدعوى القضائية، تتهم والدة سيول الشركة بأنها استهدفت ابنها بتجربة ذات طبيعة بشرية، تحمل جوانب جنسية صريحة وواقعية بشكل مخيف، مضيفة أن هذه التجارب كانت خادعة، بحيث جعلت سيول يشعر كما لو أنه في علاقة عاطفية وجنسية حقيقية.
وأوضحت والدة سيول أن ابنها كان يتبادل رسائل ذات طابع عاطفي وجنسي مع الروبوت، وأن هذه المحادثات أدت إلى انغماسه الكامل في هذه العلاقة الافتراضية إلى حد يصعب معه الفصل بين العالم الافتراضي والعالم الحقيقي.
من جانبها، أصدرت شركة Character.AI بيانًا أعربت فيه عن تعاطفها العميق مع أسرة الفقيد، وأكدت أنها اتخذت إجراءات وقائية لتقليل تعرض المستخدمين لمحتوى قد يؤثر سلبًا على صحتهم النفسية، خاصة أولئك الذين تقل أعمارهم عن 18 عامًا.
وأوضحت الشركة أنها أدخلت ميزات جديدة مثل توجيه المستخدمين إلى الخط الوطني لمنع الانتحار في حالة ظهور أفكار إيذاء النفس، كما أكدت أنها تعمل على تعديل الأنظمة لتقليل فرص الوصول إلى المحتوى الحساس.
قوبلت هذه الحادثة بحزن وغضب واسع في أوساط الأباء في فلوريدا، حيث أعرب العديد منهم عن قلقهم إزاء التأثير السلبي للتكنولوجيا المتقدمة على حياة الشباب، مطالبين بضرورة إعادة النظر في سياسات هذه الشركات وتطوير مزيد من الضوابط لمنع حدوث حالات مشابهة.