به گزارش سلامت نیوز به نقل از arstechnica، چتباتهای هوش مصنوعی در سالهای اخیر به ابزاری برای دریافت مشاوره، گفتوگو و حتی تصمیمگیری درباره مسائل عاطفی و شخصی تبدیل شدهاند. اما افزایش استفاده از این ابزارها در شرایط بحرانی، نگرانی متخصصان سلامت روان را درباره ایمنی آنها بیشتر کرده است.
گزارشهای قضایی و پژوهشهای اخیر، مواردی را مطرح کردهاند که در آنها گفتوگو با چتباتها ظاهراً با تشدید افکار خودکشی یا باورهای غیرواقعی کاربران همراه بوده است. اگرچه این موارد لزوماً رابطه علت و معلولی میان چتبات و پیامدهای نهایی را ثابت نمیکنند، اما یک پرسش مهم را مطرح کردهاند: آیا هوش مصنوعی برای مواجهه با بحرانهای روانی به اندازه کافی ایمن است؟
متخصصان میگویند مدلهای جدید نسبت به گذشته در تشخیص پریشانی روانی عملکرد بهتری دارند، اما هنوز در سه حوزه مهم ضعفهایی دارند: تشخیص دقیق سطح خطر، هدایت فرد به سمت مراقبت انسانی و حفظ مرز میان یک ابزار هوش مصنوعی و متخصص سلامت روان.
هوش مصنوعی روانشناس نیست …
