ماجرا از جایی جدیتر شد که پژوهشگران و مدیران ارشد شرکتهای بزرگ هوش مصنوعی، از جمله OpenAI و Anthropic، درباره خطرات احتمالی مدلهای پیشرفته هشدار دادند. این هشدارها فقط یک بحث فنی نبود؛ بلکه خیلی زود به موضوعی سیاسی در واشنگتن و بخشی از رقابت قدرتهای بزرگ تبدیل شد. هشدار از داخل صنعت برخلاف بسیاری از نگرانیهای گذشته درباره فناوریهای جدید، این بار بخشی از هشدارها از سوی افرادی مطرح میشود که خود در توسعه هوش مصنوعی نقش داشتهاند.
یوشوا بنجیو، یکی از پیشگامان یادگیری عمیق، معتقد است پژوهشگران آزمایشگاههای بزرگ به دلیل دسترسی زودتر به مدلهای جدید، پیش از جامعه عمومی با قابلیتها و خطرات آنها روبهرو میشوند. وی تاکید کرده است این دیدگاهها باید جدی گرفته شود، زیرا این سیستمها اکنون تواناییهایی مانند هک و تاثیرگذاری بر تصمیمهای انسانی پیدا کردهاند.
جفری هینتون، دیگر چهره شناختهشده حوزه شبکههای عصبی، نیز هشدار داده است احتمال سناریوهای بسیار خطرناک درباره هوش مصنوعی را نمیتوان نادیده گرفت. وی گفته بشر تاکنون با موجوداتی روبهرو نشده که ممکن است در آینده از انسان باهوشتر شوند و همین موضوع، پیشبینی آینده را دشوار کرده است.
هینتون همچنین نسبت به استفاده احتمالی از هوش مصنوعی برای طراحی حملات سایبری یا تهدیدهای زیستی هشدار داده و معتقد است آینده این فناوری به توانایی بشر برای ایجاد سازوکارهای کنترلی بستگی دارد. چرا با وجود این هشدارها، توسعه متوقف نمیشود؟ …
