به گزارش سلامت نیوز به نقل از arstechnica، چتباتهای هوش مصنوعی در سالهای اخیر به ابزاری برای دریافت مشاوره، گفتوگو و حتی تصمیمگیری درباره مسائل عاطفی و شخصی تبدیل شدهاند. اما افزایش استفاده از این ابزارها در شرایط بحرانی، نگرانی متخصصان سلامت روان را درباره ایمنی آنها بیشتر کرده است.
گزارشهای قضایی و پژوهشهای اخیر، مواردی را مطرح کردهاند که در آنها گفتوگو با چتباتها ظاهراً با تشدید افکار خودکشی یا باورهای غیرواقعی کاربران همراه بوده است. اگرچه این موارد لزوماً رابطه علت و معلولی میان چتبات و پیامدهای نهایی را ثابت نمیکنند، اما یک پرسش مهم را مطرح کردهاند: آیا هوش مصنوعی برای مواجهه با بحرانهای روانی به اندازه کافی ایمن است؟
متخصصان میگویند مدلهای جدید نسبت به گذشته در تشخیص پریشانی روانی عملکرد بهتری دارند، اما هنوز در سه حوزه مهم ضعفهایی دارند: تشخیص دقیق سطح خطر، هدایت فرد به سمت مراقبت انسانی و حفظ مرز میان یک ابزار هوش مصنوعی و متخصص سلامت روان.
هوش مصنوعی روانشناس نیست
استفاده از چتباتها برای تصمیمگیریهای عاطفی و بینفردی پدیدهای گستردهتر از آن چیزی است که تصور میشود.
در یک نظرسنجی پزشکی که در سال ۲۰۲۵ منتشر شد، بیش از ۱۳ درصد شرکتکنندگان گفتند برای دریافت «مشاوره یا کمک» در مواجهه با یک موقعیت عاطفی دشوار به چتبات مراجعه کردهاند. اگر این رقم به کل جمعیت تعمیم داده شود، به معنای استفاده میلیونها نفر از چتباتها برای مسائل روانی و عاطفی است.
با این حال، متخصصان تأکید میکنند که چتباتهای عمومی برای جایگزینی روانشناس یا روانپزشک طراحی نشدهاند.
یک گروه از متخصصان سلامت روان که با همکاری آکادمی ملی پزشکی آمریکا موضوع چتباتها و سلامت روان را بررسی کردهاند، هشدار دادهاند که این ابزارها احتمالاً در برخی موارد میتوانند به کاربران آسیب برسانند؛ هرچند هنوز میزان دقیق این آسیب مشخص نیست.
مشکل فقط تشخیص بحران نیست
به گفته شَدی صبا، استاد مددکاری اجتماعی دانشگاه نیویورک، مدلهای جدید زبان بزرگ در بسیاری از موارد میتوانند نشانههای پریشانی را تشخیص دهند و پاسخی همدلانه ارائه کنند.
اما مشکل در جایی آغاز میشود که باید مشخص شود کاربر تا چه اندازه در معرض …
