به گزارش رکنا، گسترش استفاده از چتباتهای هوش مصنوعی برای دریافت مشاورههای عاطفی و روانی، نگرانی تازهای را در میان متخصصان ایجاد کرده است. پژوهشگران میگویند مدلهای جدید در تشخیص پریشانی روانی بهتر شدهاند، اما هنوز ممکن است در موقعیتهای حساس مانند افکار خودکشی یا باورهای هذیانی، بهجای هدایت فرد به سمت کمک حرفهای، ناخواسته با او همراه شوند؛ به همین دلیل کارشناسان خواستار شفافیت بیشتر شرکتهای هوش مصنوعی درباره دادهها و آزمونهای ایمنی مدلها هستند.
چتباتهای هوش مصنوعی در سالهای اخیر به ابزاری برای دریافت مشاوره، گفتوگو و حتی تصمیمگیری درباره مسائل عاطفی و شخصی تبدیل شدهاند. اما افزایش استفاده از این ابزارها در شرایط بحرانی، نگرانی متخصصان سلامت روان را درباره ایمنی آنها بیشتر کرده است.
گزارشهای قضایی و پژوهشهای اخیر، مواردی را مطرح کردهاند که در آنها گفتوگو با چتباتها ظاهراً با تشدید افکار خودکشی یا باورهای غیرواقعی کاربران همراه بوده است. اگرچه این موارد لزوماً رابطه علت و معلولی میان چتبات و پیامدهای نهایی را ثابت نمیکنند، اما یک پرسش مهم را مطرح کردهاند: آیا هوش مصنوعی برای مواجهه با بحرانهای روانی به اندازه کافی ایمن است؟
متخصصان میگویند مدلهای جدید نسبت به گذشته در تشخیص پریشانی روانی عملکرد بهتری دارند، اما هنوز در سه حوزه مهم ضعفهایی دارند: تشخیص دقیق سطح خطر، هدایت فرد به سمت مراقبت انسانی و حفظ مرز میان یک ابزار هوش مصنوعی و متخصص سلامت روان. هوش مصنوعی روانشناس نیست
استفاده از چتباتها برای تصمیمگیریهای عاطفی و بینفردی پدیدهای گستردهتر از آن چیزی است که تصور میشود.
در یک نظرسنجی پزشکی که در سال ۲۰۲۵ منتشر شد، بیش از ۱۳ درصد شرکتکنندگان گفتند برای دریافت «مشاوره یا کمک» در مواجهه با یک موقعیت عاطفی دشوار به چتبات مراجعه کردهاند. اگر این رقم به کل جمعیت تعمیم داده شود، به معنای استفاده میلیونها نفر از چتباتها برای مسائل روانی و عاطفی است.
با این حال، متخصصان تأکید میکنند که چتباتهای عمومی برای جایگزینی روانشناس یا روانپزشک طراحی …
