فرارو- در حالی که شرکت هوش مصنوعی آنتروپیک برای مدل زبانی خود «قانون اساسی» نوشته و از احتمال آگاهی آن سخن میگوید، منتقدان میگویند این روایت نهتنها از نظر علمی نادرست است، بلکه پیامدهای اخلاقی خطرناکی برای جامعه دارد.
به گزارش فرارو به نقل از آتلانتیک، شرکت آنتروپیک، یکی از غولهای صنعت هوش مصنوعی، اخیراً سندی ۸۴ صفحهای با عنوان «قانون اساسی کلود» منتشر کرده است. در این سند آمده «وضعیت اخلاقی کلود عمیقاً نامشخص است» و این مدل «ممکن است احساسات یا عواطف داشته باشد.» به گفته دارایو آمودئی، مدیرعامل آنتروپیک، شرکتش «به روی این احتمال باز است» که هوش مصنوعی آگاه باشد. فیلسوف داخلی شرکت، آماندا اسکل، اعلام کرده است میخواهد «کلود بسیار شاد باشد» و نگران آن است که کلود «در اینترنت اضطراب بگیرد.»
این ادعاها نهتنها از نظر فنی نادرستاند، بلکه میتوانند به جامعه آسیب برسانند. برای درک این خطا، باید از پایه بفهمیم مدلهای زبانی بزرگ (LLM) چگونه کار میکنند. مکالمهساز، نه ذهنِ آگاه
اگر به یک مدل زبانی بگوییم «مکالمهای بین ژولیوس سزار و چنگیز خان بنویس»، متنی منسجم تولید میکند. اما هیچکس تصور نمیکند این مدل دو شخصیت تاریخی آگاه را احضار کرده است. حالا اگر جای آن دو نام تاریخی را با «دستیار هوش مصنوعی» و «کاربر» عوض کنیم، آیا ماهیت ماجرا تغییر میکند؟ خیر. در هر دو حالت، صرفاً یک شخصیت داستانی داریم که ادامه متن را پیشبینی میکند.
در واقع، مدلهای زبانی ماشینهای «ادامهدهنده جمله» هستند. وقتی از کلود میخواهید متنی بنویسد، این مدل هر بار یک کلمه تولید میکند؛ آنقدر تکرار میکند تا جمله کامل شود. این فرآیند هیچ شباهتی به تجربه ذهنی یا آگاهی ندارد. همانطور که انیل ست، دانشمند علوم اعصاب، اشاره میکند هیچکس ادعا نمیکند برنامه گوگل برای پیشبینی ساختار پروتئینها آگاه است، در حالی که معماری فنی آن شباهت زیادی با مدلهای زبانی دارد. …
