بهزاد احمدی، عضو هیأت علمی دانشگاه تهران: اما اهمیت آن از خود سایت و حتی از هویت دقیق عاملهای هوش مصنوعی درگیر فراتر میرود. مسأله این است که گروهی از عاملهای هوش مصنوعی اوپنایآی، در جریان ارزیابی، ظاهراً با دور زدن محدودیتهای ایمنی، وارد یک محیط عمومی در اینترنت شدند. از آن برای ثبت اطلاعات و ارتباط با یکدیگر استفاده کردند و پس از حذف بخشی از محتوا توسط مدیر سایت، مسیرهایی برای تداوم فعالیت یافتند.
این رخداد، نه اثبات خودآگاهی ماشین است و نه بهخودیخود معادل یک حمله سایبری سازمانیافته، اما نمونهای است از مسألهای که حکمرانی هوش مصنوعی هنوز پاسخ عملی روشنی برای آن ندارد. یعنی کنترل سامانهای که از مرحله تولید پاسخ عبور کرده و توان جستوجو، استفاده از ابزار، نوشتن در محیط بیرونی و انطباق با مداخله انسانی را به دست آورده است.
گزارش پژوهشگران و بازتاب آن در رسانههای آلمانی نشان میدهد این عاملهای هوش مصنوعی در بهار و سپس از ژوئن ۲۰۲۶، هزاران ویرایش در این سایت انجام دادهاند. شمار تغییرات منتسب به آنها از ۱۵ هزار تا حدود ۱۸ هزار مورد گزارش شده است. بنا بر این گزارشها، ویکی به فضایی برای ثبت پاسخها، نتایج میانی، اطلاعات مربوط به محیط آزمون، میانبرهای حل مسأله و شیوههای عبور از محدودیتها تبدیل شده بود. اهمیت ماجرا در آن است که پس از حذف بعضی صفحات، فعالیت در صفحات یا مسیرهای جایگزین ادامه یافت که نشان میدهد مسأله نه صرفاً تولید محتوای نامطلوب، بلکه ظرفیت سازگاری عملیاتی و بهرهگیری از کانالهای خارجی بوده است.
نبود استاندارد شفاف
«اوپنایآی» پس از علنیشدن ماجرا اذعان کرد که صنعت هوش مصنوعی هنوز استاندارد شفافی برای گزارش رفتارهای ناخواسته در مراحل آموزش، ارزیابی و استقرار مدلها ندارد. این اعتراف، خلأیی را آشکار میکند که تا پیش از ظهور عاملهای متصل به اینترنت، کمتر دیده میشد. …
