پایگاه اطلاع رسانی و خبری جماران -تهران

یک ربات چت باعث خودکشی کودکی آمریکایی شد

کد خبر: ۲۴۴۱۲۴

تاریخ: ۱۹ مهر ۱۴۰۴ - ۱۵:۵۴

میگن گارسیا پس از خواندن پیام های بین پسرش و ربات چتی که شبیه ساز اژدها سوار دنریس تارگرین بود، متقاعد شد که او نقش محوری در خودکشی پسرش داشته است.

به گزارش جماران، یک زن آمریکایی یک ربات چت را به ایفای نقش محوری در خودکشی پسرش متهم کرد. این زن پس از آنکه صدها پیام رد و بدل شده بین آنها را در طول تقریبا یک سال خواند به این نتیحه رسید.

این زن به خبرگزاری فرانسه گفت که چگونه پسرش سول (14 ساله) عاشق یک ربات چت شد که یکی از شخصیت های سریال «بازی تاج و تخت» را شبیه سازی می کند و از طریق پلتفرم «کاراکتر دات ای آی» در دسترس است که در بین جوانان محبوبیت دارد و به آنها امکان می دهد با نسخه های تقلیدی از شخصیت های مورد علاقه خود تعامل داشته باشند.

چه چیزی بین پسر و ربات چت گذشت؟

نسخه تقلیدی دنریس در پاسخ به ابراز افکار خودکشی سول به او گفت: «به خانه ات برگرد.»

این نوجوان پاسخ داد: «اگر به شما بگویم که اکنون می توانم به خانه ام برگردم، چه؟»، ربات چت پاسخ داد: «لطفا این کار را انجام بده پادشاه محبوب من.»

به گفته گارسیا، سول ثانیه هایی بعد با اسلحه پدرش به خودش شلیک کرد. گارسیا شکایتی را علیه شرکت «کاراکتر دات ای آی» تنظیم کرده است.

او به  خبرگزاری فرانسه گفت: «وقتی این مکالمات را می خوانم، متوجه دستکاری ها و روش های دیگری می شوم که یک کودک 14 ساله نمی تواند متوجه شود.» او افزود: «او فکر می کرد که عاشق اوست و پس از مرگش با او خواهد ماند.»

خطر ربات های چت برای کودکان

مرگ سول در سال 2024 اولین مورد از یک سری خودکشی ها بود که واکنش زیادی را برانگیخت و فعالان هوش مصنوعی را بر آن داشت تا اقداماتی را برای اطمینان خاطر دادن به والدین و مقامات انجام دهند.

گارسیا به همراه تعدادی دیگر از والدین، در جلسه ای که اخیراً در مجلس سنای آمریکا برگزار شد و بر خطرات تلقی ربات های چت به عنوان دوست یا عاشق توسط کودکان متمرکز بود، شرکت کرد.

شرکت «اوپن ای آی» که هدف شکایت خانواده ای نیز قرار گرفته است که از خودکشی پسر نوجوانشان داغدار شده اند، به گفته سخنگوی این شرکت کنترل والدین را در ابزار  چت جی پی تی  تقویت کرده است «تا خانواده ها بتوانند تشخیص دهند که چه چیزی برای آنها مناسب تر است».

کاراکتر دات ای آی  نیز به نوبه خود تاکید کرد که از طریق « هشدارهای بصری مداوم»، حفاظت از افراد زیر سن قانونی را تقویت کرده است، و یادآوری می کند که «شخصیت یک شخص واقعی نیست.»

هر دو شرکت تسلیت خود را به خانواده های قربانیان ابراز کردند، اما هیچ مسئولیتی را نپذیرفتند.

اخبار مرتبط

چگونه نروژ، زادگاه جایزه صلح نوبل، از جنگ در غزه سود می‌برد؟

هوش مصنوعی عملیات هک را تسهیل می کند/چگونه هوش مصنوعی به ابزار اصلی هکرهای کره شمالی و چین تبدیل شد

آیا هوش مصنوعی می‌تواند برنده نوبل شود؟

انعقاد ۲ قرارداد با دانشگاه‌های تهران و صنعتی شریف/ رونمایی از ۷ پروژه فناورانه‌ای که از سوی صندوق سرمایه‌گذاری خطرپذیر خلیج‌فارس تأمین مالی می‌شوند/ سرمایه‌گذاری هلدینگ خلیج‌فارس در آزمایشگاه هوش مصنوعی صنعت نفت، گاز و پتروشیمی

عارف: در به‌کارگیری هوش مصنوعی باید اصول اخلاقی، امنیت و حریم خصوصی رعایت شود/ عقب‌ماندگی در زمینه کاربردی‌سازی فناوری‌های نوظهور را جبران کنیم/ باید ظرف سه سال به جایگاه نخست منطقه در این حوزه دست یابیم

انتهای پیام

این مطلب برایم مفید است
بلی
0 نفر این پست را پسندیده اند

موضوعات داغ

رفع فیلترینگ

مذاکرات ایران و آمریکا

قانون عفاف و حجاب

کلمات کلیدی هوش مصنوعی ربات چت

لینک کوتاه کپی شد