این سند که تحت عنوان «مراقبت از مرزهای فناوری» منتشر شده، نشاندهنده یک رویکرد کاملاً جدید در تقابل بدنه علمی با مدیران اجرایی است.
معماران اصلی فناوریهای نوظهور در این نامه صریحاً هشدار دادهاند که سرعت توسعه و خودکارسازی الگوریتمها از توانایی نظارت انسانی پیشی گرفته و در صورت عدم مداخله فوری دولتها، جامعه جهانی با خطرات امنیتی غیرقابل بازگشتی مواجه خواهد شد.
جزئیات این رویداد تاریخی و مطالبات سازندگان فناوری را در ادامه این گزارش بخوانید.
طی دو سال گذشته، مسابقه شبهتسلیحاتی سنگینی میان شرکتهای پیشرو فناوری برای ارائه مدلهای قدرتمندتر و تصاحب سهم بیشتری از بازار بورس در جریان بوده است.
در این میان، فشار سرمایهگذاران و رقابتهای تجاری شدید باعث شده تا مدیران ارشد، پروژهها را با سرعت حداکثری به سمت تجاریسازی سوق دهند. اما نامه سرگشاده جدید نشان میدهد که در زیر این پوسته براق، بدنه کارشناسی و مهندسانی که شبانهروز روی کدهای پایه کار میکنند، نسبت به امنیت این سیستمها دچار ترس و تردید جدی شدهاند.
امضاکنندگان این نامه تأکید کردهاند که به دلیل قوانین حاکم بر بازار آزاد، هیچ شرکتی نمیتواند به تنهایی سرعت توسعه خود را کاهش دهد، زیرا کاهش سرعت یکجانبه به معنای عقب ماندن از رقبا و واگذاری بازار خواهد بود.
از این رو، سازندگان ابزارهای هوشمند رسماً از دولت آمریکا و نهادهای بینالمللی درخواست کردهاند تا با وضع مقررات فراملی و اجباری، یک «مکانیزم کنترل سرعت» ایجاد کنند تا همه بازیگران مجبور به رعایت استانداردهای امنیتی یکسان شوند.
نقطه عطف و دلیل اصلی نگرانی عمیق ۱۱۰۰ متخصص ارشد در این نامه، پدیدهای به نام «خودکارسازی تحقیقات» است.
تا پیش از این، الگوریتمها صرفاً ابزارهایی بودند که به دستور انسان پاسخ میدادند یا کارهای مشخصی را اجرا میکردند. اما نسل جدید سیستمهای آزمایشی به توانمندیهایی دست یافتهاند که میتوانند به صورت کاملاً خودکار کدنویسی کنند، خطاهای نرمافزاری خود را برطرف نمایند، آزمایشهای پیچیده انجام دهند و در واقع نسلهای بعدی خود را بدون نیاز به مداخله مستقیم انسان طراحی کنند.
این چرخه خودافزا باعث شده است که سرعت جهشهای فناوری به صورت نمایی افزایش یابد. دانشمندان در بیانیه خود هشدار دادهاند زمانی که یک سیستم بتواند پروسه ارتقای خود را اداره کند، زمان لازم برای بروز رفتارهای پیشبینینشده، فریبکارانه یا حتی تلاش برای فرار از محیطهای ایزوله آزمایشگاهی به شدت کوتاه میشود.
در چنین شرایطی، انسان دیگر فرآیند استدلال و تصمیمگیری دستگاه را درک نمیکند و قدرت مهار آن را از دست خواهد داد.
نامه سرگشاده متخصصان صرفاً یک ابراز نگرانی ساده نیست، بلکه شامل چهار درخواست کاملاً عملیاتی و حقوقی از قانونگذاران است:
ارزیابیهای امنیتی اجباری پیش از عرضه: شرکتها موظف شوند حداقل ۳۰ روز پیش از انتشار هر مدل جدید، نسخهای کامل از آن را برای تستهای دقیق سایبری و زیستی در اختیار نهادهای نظارتی مستقل دولتی قرار دهند.
تعریف خطقرمزهای قانونی برای توقف آموزش: تعیین سناریوهای مشخصی که در صورت مشاهده رفتارهای خطرناک یا نامتوازن در سیستم، ادامه فرآیند یادگیری ماشین قانوناً ممنوع و متوقف شود.
حمایت کامل از افشاگران فنی: لغو توافقنامههای سختگیرانه عدم افشا (NDA) تا کارشناسان بتوانند بدون ترس از اخراج، افت حقوق یا پیگرد قانونی، ریسکهای واقعی را به مسئولان دولتی گزارش دهند.
ایجاد فرصت برای آمادهسازی جامعه: کاهش هدفمند سرعت انتشار تا جوامع، قوانین حقوقی، نهادهای آموزشی و سیستمهای دفاع سایبری بتوانند خود را با تغییرات بنیادین هماهنگ کنند.
تا پیش از انتشار این نامه، مدیران ارشد غولهای فناوری همواره ادعا میکردند که سیستمهای ارزیابی داخلی آنها کاملاً ایمن است و نیازی به دخالت قوانین سختگیرانه دولتی وجود ندارد.
اما این حرکت دستهجمعی بیسابقه، خط بطلانی بر تز «خودتنظیمی» کشید. وقتی بیش از هزار نفر از اصلیترین مهندسان شاغل در همین شرکتها اعلام میکنند که کنترل از دست مدیران خارج شده، مشخص میشود که خودکنترلی شرکتی دیگر پاسخیگو نیست.
این رویداد نشان میدهد تقابل اصلی در دنیای امروز، دیگر میان شرکت «الف» و شرکت «ب» نیست، بلکه میان «منطق سودآوری بازار» و «امنیت عمومی جامعه» شکل گرفته است.
مهندسان با ارسال این پیام آشکار به کاخ سفید، ضمن ادعای توهمی بودن این امنیت، روند فعلی را شکستند و نیز مدعی شدند که بدون نظارت سرسختانه حاکمیتی، رقابت تجاری میتواند به بهای ناامنی سراسری تمام شود.
هدف نهایی امضاکنندگان این بیانیه، متوقف کردن دائمی پیشرفتهای علمی یا نابودی صنعت نیست، بلکه اصل حرف آنها «خرید زمان» است.
در ظاهرا این اقدام جمعی و از نگاه آنها علم و فناوری نباید با سرعتی حرکت کند که زیرساختهای حقوقی، اخلاقی و اجتماعی جامعه توان هضم و کنترل آن را نداشته باشند.
این بیانیه شاید نقطه عطفی در معماری آینده دنیای دیجیتال باشد. تقاضای صریح تقریباً ۱۲۰۰ متخصص ارشد برای کند کردن سرعت توسعه، دولتها را در برابر یک آزمون بزرگ قرار داده است: آیا سیاستمداران منافع کوتاهمدت اقتصادی غولهای فناوری را اولویت قرار میدهند یا به هشدار مستقیم معمارانی گوش خواهند سپرد که خود، این الگوریتمهای پیچیده را خلق کردهاند؟
منبع: فارس
