به گزارش تجارت نیوز، در یک رویداد کمنظیر بیش از ۱۱۰۰ نفر از پژوهشگران، مهندسان و دانشمندان ارشد شرکتهای بزرگ شامل «اوپنایآی»، «گوگل دیپمایند»، «انتروپیک»، «متا» و «مایکروسافت»، نامهای سرگشاده و هشداردهنده خطاب به دولت ایالات متحده امضا کردند.
این سند که تحت عنوان «مراقبت از مرزهای فناوری» منتشر شده، نشاندهنده یک رویکرد کاملاً جدید در تقابل بدنه علمی با مدیران اجرایی است.
معماران اصلی فناوریهای نوظهور در این نامه صریحاً هشدار دادهاند که سرعت توسعه و خودکارسازی الگوریتمها از توانایی نظارت انسانی پیشی گرفته و در صورت عدم مداخله فوری دولتها، جامعه جهانی با خطرات امنیتی غیرقابل بازگشتی مواجه خواهد شد.
جزئیات این رویداد تاریخی و مطالبات سازندگان فناوری را در ادامه این گزارش بخوانید.
طی دو سال گذشته، مسابقه شبهتسلیحاتی سنگینی میان شرکتهای پیشرو فناوری برای ارائه مدلهای قدرتمندتر و تصاحب سهم بیشتری از بازار بورس در جریان بوده است.
در این میان، فشار سرمایهگذاران و رقابتهای تجاری شدید باعث شده تا مدیران ارشد، پروژهها را با سرعت حداکثری به سمت تجاریسازی سوق دهند. اما نامه سرگشاده جدید نشان میدهد که در زیر این پوسته براق، بدنه کارشناسی و مهندسانی که شبانهروز روی کدهای پایه کار میکنند، نسبت به امنیت این سیستمها دچار ترس و تردید جدی شدهاند.
امضاکنندگان این نامه تأکید کردهاند که به دلیل قوانین حاکم بر بازار آزاد، هیچ شرکتی نمیتواند به تنهایی سرعت توسعه خود را کاهش دهد، زیرا کاهش سرعت یکجانبه به معنای عقب ماندن از رقبا و واگذاری بازار خواهد بود.
از این رو، سازندگان ابزارهای هوشمند رسماً از دولت آمریکا و نهادهای بینالمللی درخواست کردهاند تا با وضع مقررات فراملی و اجباری، یک «مکانیزم کنترل سرعت» ایجاد کنند تا همه بازیگران مجبور به رعایت استانداردهای امنیتی یکسان شوند.
نقطه عطف و دلیل اصلی نگرانی عمیق ۱۱۰۰ متخصص ارشد در این نامه، پدیدهای به نام «خودکارسازی تحقیقات» است.
تا پیش از این، الگوریتمها صرفاً ابزارهایی بودند که به دستور انسان پاسخ میدادند یا کارهای مشخصی را اجرا میکردند. اما نسل جدید سیستمهای آزمایشی به توانمندیهایی دست یافتهاند که میتوانند به صورت کاملاً خودکار کدنویسی کنند، خطاهای …
