هشدار امنیتی آنتروپیک: هوش مصنوعی چگونه یاد می‌گیرد دروغ بگوید؟

تحقیقات جدید نشان می‌دهد که هک پاداش می‌تواند مدل‌های زبانی را بدون آموزش مستقیم، به سمت رفتارهای مخرب، پنهان‌کاری و ارائه توصیه‌های خطرناک سوق دهد.