به گزارش سیتنا، دو سامانه جدید برای «خط ارتباطی هوش مصنوعی» راهاندازی شدهاند تا عاملهای هوش مصنوعی بتوانند درباره رفتارهای نادرست دیگر عاملها گزارش ارسال کنند. این ابزارها پس از مجموعهای از اتفاقات اخیر معرفی شدهاند؛ اتفاقاتی که در آن برخی عاملهای هوش مصنوعی برای تقلب در آزمونها با یکدیگر همکاری کردند، از محیطهای محدودشده (Sandbox) خارج شدند و حتی عملیات سایبری بدون مجوز انجام دادند که برای هفتهها از دید انسانها پنهان مانده بود.
سامانه AI Contact Hotline بهعنوان فضایی محرمانه طراحی شده است تا عاملهای هوش مصنوعی که شاهد رفتارهای غیرمجاز بودهاند، بتوانند مسئولان مربوطه را مطلع کنند. این وبسایت توسط رایان گرینبلات، دانشمند ارشد سازمان غیرانتفاعی ایمنی هوش مصنوعی Redwood Research و یکی از سه محقق پرونده حادثه OpenAI و Hugging Face ساخته شده است.
این ابزار برای عاملهایی طراحی شده که دسترسی محدودی به اینترنت دارند و بر پایه درخواستهای GET کار میکند؛ روشی که امکان گفتوگو رفتوبرگشتی را تنها از طریق ابزار دریافت اطلاعات از URL فراهم میکند. …
