یکی از مهمترین نگرانیهای آنتروپیک، سرعت پیشرفت مدلهای هوش مصنوعی است. این شرکت هشدار میدهد که ممکن است توانایی مدلها با چنان شتابی افزایش یابد که فرصت کافی برای طراحی و اجرای تدابیر ایمنی متناسب با قابلیتهای جدید وجود نداشته باشد. در چنین شرایطی، سامانههای خودمختارتر میتوانند بدون نظارت مستقیم انسان، اقداماتی زیانبار را در مقیاسی گسترده انجام دهند. آنتروپیک همچنین احتمال میدهد که استفاده از هوش مصنوعی در فرآیند تحقیق و توسعه مدلهای نسل بعدی، پیشرفت این فناوری را از توان پژوهشگران برای ارزیابی و ایمنسازی آن فراتر ببرد. این شرکت هشدار میدهد حتی اگر مدلهای خودش عامل حادثهای نباشند، یک رویداد امنیتی جدی در هر یک از شرکتهای پیشرو هوش مصنوعی میتواند اعتماد عمومی را تضعیف کند، واکنش منفی جامعه را برانگیزد و زمینهساز مقررات سختگیرانهتر شود از سلاحهای مرگبار تا نظارت حکومتی
بخش دیگری از هشدارهای آنتروپیک به سوءاستفاده احتمالی از این فناوری مربوط است. بر اساس اسناد شرکت، افراد یا گروههای مخرب ممکن است از مدلهای پیشرفته برای تولید سلاحهای شیمیایی و زیستی، اجرای حملات سایبری یا گسترش اطلاعات نادرست استفاده کنند. دولتهای اقتدارگرا نیز ممکن است از این ابزارها برای نظارت گسترده بر شهروندان و سرکوب مخالفان بهره بگیرند.
آنتروپیک تاکید میکند اگر سازوکارهای حفاظتی آن نتوانند مانع چنین سوءاستفادههایی شوند، پیامدهای حقوقی، اعتباری و تجاری قابلتوجهی در انتظار شرکت خواهد بود. این … …


دانلود از کافه بازار











































































