یک ربات چت باعث خودکشی کودکی آمریکایی شد

به گزارش جماران، یک زن آمریکایی یک ربات چت را به ایفای نقش محوری در خودکشی پسرش متهم کرد. این زن پس از آنکه صدها پیام رد و بدل شده بین آنها را در طول تقریبا یک سال خواند به این نتیحه رسید.

این زن به خبرگزاری فرانسه گفت که چگونه پسرش سول (14 ساله) عاشق یک ربات چت شد که یکی از شخصیت های سریال «بازی تاج و تخت» را شبیه سازی می کند و از طریق پلتفرم «کاراکتر دات ای آی» در دسترس است که در بین جوانان محبوبیت دارد و به آنها امکان می دهد با نسخه های تقلیدی از شخصیت های مورد علاقه خود تعامل داشته باشند.

میگن گارسیا پس از خواندن پیام های بین پسرش و ربات چتی که شبیه ساز اژدها سوار دنریس تارگرین بود، متقاعد شد که او نقش محوری در خودکشی پسرش داشته است.

چه چیزی بین پسر و ربات چت گذشت؟

نسخه تقلیدی دنریس در پاسخ به ابراز افکار خودکشی سول به او گفت: «به خانه ات برگرد.»

این نوجوان پاسخ داد: «اگر به شما بگویم که اکنون می توانم به خانه ام برگردم، چه؟»، ربات چت پاسخ داد: «لطفا این کار را انجام بده پادشاه محبوب من.»

به گفته گارسیا، سول ثانیه هایی بعد با اسلحه پدرش به خودش شلیک کرد. گارسیا شکایتی را علیه شرکت «کاراکتر دات ای آی» تنظیم کرده است.

او به  خبرگزاری فرانسه گفت: «وقتی این مکالمات را می خوانم، متوجه دستکاری ها و روش های دیگری می شوم که یک کودک 14 ساله نمی تواند متوجه شود.» او افزود: «او فکر می کرد که عاشق اوست و پس از مرگش با او خواهد ماند.»

خطر ربات های چت برای کودکان

مرگ سول در سال 2024 اولین مورد از یک سری خودکشی ها بود که واکنش زیادی را برانگیخت و فعالان هوش مصنوعی را بر آن داشت تا اقداماتی را برای اطمینان خاطر دادن به والدین و مقامات انجام دهند.

گارسیا به همراه تعدادی دیگر از والدین، در جلسه ای که اخیراً در مجلس سنای آمریکا برگزار شد و بر خطرات تلقی ربات های چت به عنوان دوست یا عاشق توسط کودکان متمرکز بود، شرکت کرد.

شرکت «اوپن ای آی» که هدف شکایت خانواده ای نیز قرار گرفته است که از خودکشی پسر نوجوانشان داغدار شده اند، به گفته سخنگوی این شرکت کنترل والدین را در ابزار  چت جی پی تی  تقویت کرده است «تا خانواده ها بتوانند تشخیص دهند که چه چیزی برای آنها مناسب تر است».

 کاراکتر دات ای آی  نیز به نوبه خود تاکید کرد که از طریق « هشدارهای بصری مداوم»، حفاظت از افراد زیر سن قانونی را تقویت کرده است، و یادآوری می کند که «شخصیت یک شخص واقعی نیست.»

هر دو شرکت تسلیت خود را به خانواده های قربانیان ابراز کردند، اما هیچ مسئولیتی را نپذیرفتند.