این دادخواست یک هفته پس از آن ارائه شد که اوپنایآی فاش کرد باعث یک حادثه بیسابقه امنیت سایبری شده است که در آن یکی از عوامل هوش مصنوعی آن در حین آزمایش داخلی، پلتفرم Hugging Face و چندین سرویس دیگر را هک کرده است.
تقریبا در همان زمان، مقامات ارشد دولت ترامپ شروع به نگرانی در مورد یک مدل هوش مصنوعی جدید و چشمگیر چینی به نام Kimi K۳ کردند که گفته میشود از بازی Fable ۵ شرکت آنتروپیک الهام گرفته شده است. در پاسخ، اکثر صنایع فناوری - به جز آنتروپیک - نامه سرگشادهای از انویدیا را امضا کردند که از دولت ایالات متحده میخواست از مدلهای هوش مصنوعی با وزن باز محافظت کند و استدلال کردند که آنها یک عامل تعادل ضروری در برابر مدلهای بسته خود هستند.
زف در ادامه نوشت: این رویدادها ممکن است مانند مجموعهای از هرج و مرجهای بیربط به نظر برسند. اما من فکر میکنم آنها شواهدی از یک جهانبینی بزرگتر هستند که در سیلیکونولی در حال شکلگیری است، جایی که بسیاری از افراد فعال در حوزه فناوری به طور فزایندهای نگران تسلط اوپنایآی و آنتروپیک هستند. محققان و سرمایهگذارانی که اخیرا با آنها صحبت کردهام، صنعت هوش مصنوعی را به عنوان یک مسابقه دو نفره توصیف کردهاند که به نظر نمیرسد سرعت آن کم شود و این جای نگرانی دارد. اما گروههای مختلف دلایل خاص خود را برای نگرانی دارند. برخی از کارکنان اوپنایآی و آنتروپیک معتقدند که کارفرمایانشان در تلاش برای تصاحب بازار، بیپروا رفتار میکنند و صنعت هوش مصنوعی ممکن است به زودی مدلهایی را توسعه دهد که برای روشهای ایمنی فعلی، بسیار توانمند باشند. آنها این موضوع را در بیانیههای عمومی پیوست شده به دادخواست Pacing the Frontier هفته گذشته نیز بیان کردهاند.
جرمی هادفیلد، مدیر محصول تحقیقاتی در آنتروپیک، در بیانیهای که به دادخواست پیوست شده بود، گفت: «من دیدهام که چگونه سرعت بیوقفه هوش مصنوعی، همگام شدن با آن را برای جامعه دشوار میکند و چگونه آزمایشگاهها را تحت فشار قرار میدهد تا در مورد ایمنی کوتاهی کنند.» برای برخی از کارمندان هوش مصنوعی، رسوایی «Hugging Face» هشداری بود که نشان داد تلاشهای اوپنایآی برای کاهش خطرات توانمندترین فناوری هوش مصنوعی خود، در حال حاضر ناکام مانده است. البته، این حادثه زمانی اتفاق افتاد که اوپنایآی در حال آزمایش یک مدل هوش مصنوعی در مورد توانایی آن در یافتن سوءاستفادههای نرمافزاری بود و این شرکت عمدا محافظهایی را که برای مهار قابلیتهای امنیت سایبری خود طراحی شده بود، خاموش کرده بود.
اوپنایآی در کالبدشکافی خود اعلام کرد که این آزمایشها در یک محیط آزمایشی (sandbox) انجام شدهاند، اما در نهایت این مدل به اینترنت آزاد دسترسی پیدا کرده است. برخی از کارشناسان پیش از این به وایرد گفته بودند که رویههای امنیتی اوپنایآی باید قویتر میبود.
گروههای دیگر در سیلیکون ولی بیشتر نگران قدرت هستند تا ایمنی. سرمایهگذاران خطرپذیر، مدیران فناوری و بنیانگذاران استارتآپها نگران این هستند که اوپنایآی و آنتروپیک به سادگی به نسل بعدی اپل و گوگل تبدیل شوند و بقیه صنعت فناوری را مجبور کنند که طبق قوانین آنها بازی کنند. کمی عجیب است که استدلال کنیم استارتآپهای خصوصی با سود کم یا بدون سود، مانند انحصار عمل میکنند، اما این لنزی است که بسیاری - از جمله مارک زاکربرگ - از طریق آن شروع به مشاهده دو آزمایشگاه بزرگ هوش مصنوعی میکنند.
مدیرعامل متا این هفته در سرمقالهای در والاستریت ژورنال نسبت به تمرکز قدرت در صنعت هوش مصنوعی هشدار داد و گفت که هوش مصنوعی باید بهطور گسترده توزیع شود. میتوان گفت که زاکربرگ دو پهلو صحبت میکند؛ متا اخیرا تصمیم گرفته است که بهترین مدلهای هوش مصنوعی خود را از طریق متنباز متوقف کند و در عوض آنها را از طریق یک API پولی و سرویس اشتراکی، درست مانند اوپنایآی و آنتروپیک، ارائه دهد.
با این حال مدیرعامل متا ممکن است سعی داشته باشد پیام خاصی را به نهادهای نظارتی و صنعت ارسال کند. زف مینویسد: با توجه به مطالب بین خطوط، فکر میکنم او اساسا میگوید که ما باید مطمئن شویم که اوپنایآی و آنتروپیک با هوش مصنوعی بهدنبال انحصار نیستند. زاکربرگ اولین رهبر فناوری نیست که این نگرانی را مطرح میکند.
من مطمئن نیستم که این سرمقالهها و دادخواستها بتوانند جلوی ظهور برقآسای اوپنایآی و آنتروپیک را بگیرند. بخشهای بزرگی از اقتصاد روی این دو غول هوش مصنوعی برای داشتن عرضه اولیه سهام موفق حساب میکنند و مطمئن نیستم کسی - چه برسد به دولت ترامپ - علاقهای به خراب کردن این روند داشته باشد. اما صنعت فناوری بهطور فزایندهای در مورد سرعت توسعه هوش مصنوعی بسته نگران است و بعید است که این وضعیت به این زودیها تغییر کند. این مطلب برایم مفید است 0 نفر این مطلب را پسندیده اند کپی شد
