یک پرونده قتل خانوادگی در ایالت ماساچوست آمریکا بهدلیل ارتباط آن با استفاده متهم از ChatGPT توجه زیادی را به خود جلب کرده است. دادستانها میگویند نوجوان ۱۷ سالهای که به قتل مادر و برادر ۱۴ سالهاش متهم شده، پیش از وقوع حادثه از اینترنت و ChatGPT برای پرداختن به ایدهها و داستانهای خیالی مرتبط با کشتهشدن اعضای خانوادهاش استفاده کرده بود.
طبق بررسی تکراتو و گزارش گاردین، Arjun Aravind، نوجوان ۱۷ ساله اهل Acton ماساچوست، با دو فقره اتهام قتل در ارتباط با مرگ مادر ۴۵ سالهاش، Sudha Venkatesan، و برادر ۱۴ سالهاش، Siddharth Aravind، روبهرو شده است. او در جلسه تفهیم اتهام اعلام بیگناهی کرده و بدون امکان آزادی با وثیقه در بازداشت است.
پرونده زمانی آغاز شد که معلم خصوصی خانواده برای جلسهای از پیش تعیینشده به خانه آنها مراجعه کرد، اما نتوانست با ساکنان ارتباط برقرار کند. پدر خانواده نیز پس از آنکه موفق به تماس با اعضای خانواده نشد، پلیس را در جریان گذاشت.
ماموران پس از ورود به خانه، جسد پسر ۱۴ ساله را در طبقه اول و جسد مادر را در زیرزمین پیدا کردند. دادستانها گفتهاند شواهد اولیه از وقوع یک درگیری فیزیکی و خشونتآمیز حکایت دارند و هر دو قربانی دچار آسیب ناشی از ضربه شده بودند؛ بااینحال تعیین رسمی علت مرگ برعهده پزشکی قانونی است. دادستانها درباره استفاده متهم از ChatGPT چه میگویند؟
بخشی که باعث شده این پرونده در رسانههای فناوری نیز بازتاب گستردهای پیدا کند، فعالیت آنلاین متهم پیش از حادثه است.
دادستان منطقه Middlesex اعلام کرده تحقیقات تا این مرحله نشان داده که نوجوان رفتارهایی نگرانکننده داشته و از اینترنت و ChatGPT برای جستوجو یا ساخت ایدههای نظری و داستانهای فانتزی درباره قتل اعضای خانوادهاش استفاده کرده است.
دادستان Marian Ryan توضیح داده که فعالیت متهم شامل ساخت داستانهایی شبیه رمانهای گوتیک، ایجاد شخصیت و مطرحکردن سناریوهای فرضی بوده که بهگفته مقامهای تحقیق، ظاهراً با تهدید علیه خانواده او ارتباط داشتهاند.
بااینحال، یک تمایز مهم باید در پوشش این خبر رعایت شود: مقامهای قضایی گفتهاند متهم از ChatGPT برای چنین محتوایی استفاده کرده، اما اطلاعات عمومی فعلی بهتنهایی اثبات نمیکنند که ChatGPT او را به ارتکاب قتل ترغیب کرده یا دستورالعملی برای انجام جرم در اختیارش گذاشته است.
بنابراین در شرایط فعلی، دقیقتر است که از «ردپای ChatGPT در تحقیقات پرونده» صحبت کنیم، نه اینکه رابطه علت و معلولی میان استفاده از چتبات و قتل را قطعی بدانیم. دستگیری نوجوان پس از پیدا شدن خودروی مادر
هنگامی که اجساد کشف شدند، متهم و خودروی Honda Accord متعلق به مادر خانواده در محل حضور نداشتند.
ساعاتی بعد، پلیس در شهر Wayland و در فاصله حدود ۲۱ کیلومتری محل حادثه، خودروی موردنظر را پیدا کرد. نوجوان حدود ساعت ۳:۴۰ بامداد داخل خودرو شناسایی و بازداشت شد.
دادستانها میگویند اشیایی نیز داخل خودرو پیدا شدهاند که با صحنه قتل ارتباط داشتهاند. Aravind علاوهبر دو اتهام قتل، با اتهامهای دیگری از جمله ضربوجرح و سرقت یا استفاده غیرمجاز از خودرو روبهرو است. پروندهای که دوباره بحث ایمنی نوجوانان در عصر هوش مصنوعی را مطرح میکند
این اتفاق احتمالاً بحث درباره تعامل نوجوانان با چتباتهای هوش مصنوعی و نحوه برخورد این سرویسها با مکالمات مرتبط با خشونت را دوباره پررنگ خواهد کرد.
OpenAI طی ماههای اخیر تدابیر ویژهای برای حسابهایی که متعلق به کاربران زیر ۱۸ سال تشخیص داده میشوند توسعه داده است. این شرکت میگوید تجربه نوجوانان در ChatGPT دارای محافظتهای اضافه برای کاهش مواجهه با برخی محتوای حساس است.
سیستم کنترل والدین ChatGPT نیز در شرایط مشخص میتواند درباره فعالیتهای بسیار جدی به والد یا سرپرست متصلشده هشدار دهد. براساس مستندات OpenAI، این موضوع از جمله میتواند شامل شرایطی شود که حساب نوجوان بهدلیل مکالمات مرتبط با اعمال خشونتآمیز مسدود شده باشد. البته والدین از طریق این قابلیت امکان خواندن مستقیم مکالمات نوجوان را ندارند.
OpenAI همچنین تأکید کرده هشدارهای مرتبط با خشونت قرار نیست صرفاً بهدلیل داستاننویسی تخیلی، بازی، بحث خبری، ابراز عصبانیت عمومی یا پرسشهای انتزاعی فعال شوند؛ موضوعی که نشان میدهد تشخیص مرز میان محتوای داستانی و نشانههای خطر واقعی یکی از چالشهای پیچیده سیستمهای ایمنی AI است.
پرونده ماساچوست هنوز در مرحله قضایی قرار دارد و متهم نیز اتهامات را نپذیرفته است. به همین دلیل، تا روشنشدن جزئیات بیشتر تحقیقات و محتوای دقیق تعاملات آنلاین او، نمیتوان درباره نقش احتمالی ChatGPT در وقایع پیش از قتل نتیجهگیری قطعی کرد.
