مدیرعامل آنتروپیک منتقد هوش مصنوعی است؟

به گزارش سیتنا به نقل از رویترز، چند نهاد فدرال آمریکا از جمله آژانس امنیت سایبری و امنیت زیرساخت‌ها (CISA)، اف‌بی‌آی، آژانس امنیت ملی (NSA)، وزارت انرژی و آژانس حفاظت محیط زیست آمریکا در یک هشدار مشترک از حملات فعال علیه کنترل‌گرهای منطقی قابل برنامه‌ریزی (PLC) سری S7 شرکت زیمنس خبر داده‌اند.

بر اساس این هشدار، مهاجمان از هوش مصنوعی برای توسعه اسکریپت‌های بهره‌برداری استفاده می‌کنند و برخی تجهیزات صنعتی متصل به اینترنت را هدف قرار می‌دهند. این تجهیزات در بخش‌هایی مانند تأسیسات آب، انرژی، تولید صنعتی و کشاورزی مورد استفاده قرار می‌گیرند.

مقام‌های آمریکایی این فعالیت را یک «تهدید فعال» توصیف کرده‌اند و از اپراتورهای زیرساخت‌های حیاتی خواسته‌اند با فوریت، امنیت کنترل‌گرهای صنعتی خود را بررسی و اقدامات حفاظتی لازم را اجرا کنند.

نکته قابل توجه در این هشدار، نقش هوش مصنوعی در روند حملات است. استفاده از ابزارهای هوش مصنوعی می‌تواند زمان و مهارت فنی مورد نیاز برای آماده‌سازی کدهای حمله را کاهش دهد و انجام حملات پیچیده علیه تجهیزات صنعتی را برای طیف گسترده‌تری از مهاجمان امکان‌پذیر کند.

با این حال، شرکت زیمنس اعلام کرده است که تاکنون افزایش محسوسی در حملات یا آسیب‌پذیری ناشناخته جدیدی در کنترل‌گرهای S7 مشاهده نکرده است. این شرکت همچنین اعلام کرده با CISA در ارتباط نزدیک قرار دارد و هشدار اخیر عمدتاً به سوءپیکربندی‌هایی مربوط می‌شود که پیش‌تر درباره آنها اطلاع‌رسانی شده بود. 

این هشدار نشان می‌دهد که استفاده مهاجمان از هوش مصنوعی دیگر صرفاً یک سناریوی احتمالی نیست و می‌تواند در حملات واقعی علیه زیرساخت‌های صنعتی و حیاتی مورد استفاده قرار گیرد.

انتهای پیام

به گزارش سیتنا، مدیرعامل شرکت چینی ربات‌ساز یونیتری گفت که صنعت رباتیک به نقطه عطفی نزدیک می‌شود که می‌توان آن را «لحظه چت‌جی‌پی‌تی» برای مغز ربات‌ها دانست؛ نقطه‌ای که می‌تواند زمینه‌ساز رشد سریع و گسترده ربات‌های مجهز به هوش مصنوعی شود.

این اظهارات در حالی مطرح شده که عرضه اولیه سهام یونیتری در بورس شانگهای، توجه سرمایه‌گذاران به صنعت نوپای ربات‌های انسان‌نما در چین را به‌شدت افزایش داده است. ارزش سهام این شرکت در نخستین روز معاملات تقریباً شش برابر شد، اما روز پنجشنبه حدود ۱۱ درصد کاهش یافت.

وانگ شینگ‌شینگ، بنیان‌گذار و مدیرعامل یونیتری، در کنفرانس جهانی ربات‌ها در پکن گفت صنعت رباتیک در مسیر رسیدن به یک «لحظه چت‌جی‌پی‌تی» در حوزه هوش مصنوعی فیزیکی قرار دارد.

ظهور چت‌جی‌پی‌تی در اواخر سال ۲۰۲۲ نقطه عطفی برای هوش مصنوعی بود و باعث شد استفاده گسترده از این فناوری در سراسر جهان سرعت بگیرد. به گفته وانگ، صنعت رباتیک هنوز به چنین نقطه عطفی نرسیده است، اما این اتفاق می‌تواند در آینده نزدیک رخ دهد.

او گفت صنعت رباتیک به مرحله‌ای نزدیک می‌شود که بتوان ربات‌ها را در محیط‌هایی ناآشنا قرار داد و آنها تنها با دریافت دستورهای ساده صوتی یا متنی، بخش زیادی از کارها را انجام دهند.

وانگ افزود: «امیدواریم در آینده رباتی را در یک خانه ناآشنا قرار دهیم و این ربات بتواند با دریافت دستورات صوتی یا متنی، حدود ۸۰ درصد کارها را با موفقیت انجام دهد.» او این مرحله را نقطه عطفی مهم برای ورود صنعت رباتیک به دوره‌ای از رشد انفجاری دانست. جهش بزرگ نرم‌افزاری هنوز چند سال فاصله دارد

با وجود این پیش‌بینی‌ها، مدیرعامل یونیتری تأکید کرد که یک جهش بزرگ در نرم‌افزار ربات‌ها هنوز فاصله دارد. به گفته او، در خوش‌بینانه‌ترین حالت این تحول ممکن است طی دو تا سه سال آینده رخ دهد و در بدترین حالت، رسیدن به آن پنج تا ۱۰ سال زمان ببرد.

گئورگ اشتایلر، مدیر بخش اتوماسیون شرکت مشاوره رباتیک اشتایلر، نیز معتقد است وانگ برخلاف فضای هیجانی حاکم بر کنفرانس جهانی ربات‌ها و عرضه اولیه موفق یونیتری، ارزیابی واقع‌بینانه‌ای از توانایی‌های فعلی ربات‌ها ارائه کرده است.

یونیتری بر اساس داده‌های صنعت، بزرگ‌ترین تولیدکننده ربات‌های سگ در جهان و دومین تولیدکننده بزرگ ربات‌های انسان‌نما از نظر تعداد محموله‌های ارسالی است.

این شرکت ابتدا با نمایش ربات‌هایی که حرکات نمایشی، رقص و کونگ‌فو انجام می‌دادند، در تلویزیون چین به شهرت رسید و اکنون به‌تدریج ربات‌های خود را در محیط‌های صنعتی واقعی نیز به کار می‌گیرد. با این حال، طبق اطلاعات منتشرشده در اسناد عرضه اولیه، بیشتر مشتریان یونیتری همچنان دانشگاه‌ها و مؤسسات تحقیقاتی هستند.

وانگ هه، بنیان‌گذار شرکت رباتیک چینی گالبوت، پیش‌بینی کرده است «لحظه چت‌جی‌پی‌تی» در صنعت رباتیک تا سال ۲۰۲۸ فرا برسد؛ یعنی زمانی که ربات‌ها بتوانند حدود ۷۰ تا ۸۰ درصد کارهای روزمره را بدون نیاز به آموزش تخصصی انجام دهند. تمرکز یونیتری بر «مدل‌های جهان»

مدیرعامل یونیتری گفت این شرکت در حال حاضر بیشترین سرمایه و نیروی انسانی خود را روی مدل‌های جهان (World Models) متمرکز کرده است؛ مدل‌هایی که به هوش مصنوعی کمک می‌کنند محیط واقعی را درک و پیش‌بینی کند.

او در عین حال اذعان کرد یونیتری در زمینه استفاده از مدل‌های هوش مصنوعی فیزیکی در دنیای واقعی هنوز عقب است.

وانگ همچنین گفت ربات‌های انسان‌نما هنوز برای استفاده گسترده آماده نیستند و بزرگ‌ترین مانع صنعت، محدودیت مدل‌های هوش مصنوعی در تصمیم‌گیری و تعامل ربات‌ها با محیط اطراف است.

با این حال، او معتقد است صنعت رباتیک در دهه آینده وارد دوره‌ای از تکامل سریع و خودکار ربات‌های انسان‌نما خواهد شد؛ روندی که با پیشرفت هوش مصنوعی و توانایی مدل‌های زبانی برای بهبود عملکرد خود، سرعت بیشتری خواهد گرفت. چین سهم بزرگی از بازار ربات‌های انسان‌نما دارد

بر اساس گزارش یک نهاد صنعتی چین، این کشور تنها در نیمه نخست امسال بیش از ۴۰ هزار ربات انسان‌نما تحویل داده و ۹۷ درصد از کل محموله‌های جهانی این ربات‌ها را به خود اختصاص داده است.

چین امیدوار است ربات‌ها در آینده بتوانند بخشی از نیروی کار انسانی را در مشاغل تکراری، کم‌ارزش و خطرناک جایگزین کنند؛ به‌ویژه در شرایطی که جمعیت فعال این کشور به دلیل تغییرات جمعیتی در حال کاهش است.

ربات‌های انسان‌نما به‌تدریج وارد کارخانه‌ها و انبارهای لجستیکی شده‌اند، اما در بیشتر کاربردها همچنان از نیروی انسانی کارآمدتر نیستند.

این ربات‌ها همچنین به یکی از عرصه‌های جدید رقابت فناوری میان چین و آمریکا تبدیل شده‌اند. آمریکا ماه گذشته واردات آینده ربات‌های انسان‌نما و چهارپا ساخت شرکت‌های خارجی را به دلایل امنیت ملی ممنوع کرد؛ اقدامی که ضربه مهمی به تولیدکنندگان چینی وارد کرده است.

در همین حال، چند شرکت حاضر در کنفرانس جهانی ربات‌ها در پکن به رویترز گفتند که به دنبال گسترش فعالیت خود در بازارهای خارجی هستند.

انتهای پیام

جهان صنعت نیوز ، شرکت «اوپن‌ای‌آی»(OpenAI) روز سه‌شنبه مجموعه‌ای جدید از سیاست‌های امنیتی را اعلام کرد که بر مهار حوادث امنیتی در زمان آزمایش مدل‌ها متمرکز است.

به نقل از تک‌کرانچ، این اقدامات حفاظتی جدید شامل نظارت دقیق‌تر بر مدل‌ها در طول فرآیند توسعه و تأکید بیشتر بر هم‌ترازی و امنیت در طول فرآیند پس از آموزش است.

اوپن‌ای‌آی در یک پست وبلاگ نوشت: با افزایش قابلیت‌های مدل‌ها، خطرات مرتبط با توسعه و آزمایش داخلی آنها نیز افزایش می‌یابد. استانداردهای ما برای نظارت، هماهنگی و امنیت باید از این خطرات جلوتر باشند.

این اقدامات جدید یکی از اولین تغییرات عمومی در رویه‌های ایمنی اوپن‌ای‌آی از زمان وقوع حادثه هک شدن سیستم‌های شرکت «هاگینگ فیس»(Hugging Face) است که در ۲۱ ژوئیه افشا شد. نمایندگان اوپن‌ای‌آی گفتند که این اقدامات، پاسخ مستقیمی به حادثه هاگینگ فیس نیستند؛ بلکه تا حدودی به دلیل قابلیت‌های امنیت سایبری مدل آتی «آسترا»(Astra) و سرعت پیشرفت توسعه هوش مصنوعی نیز صورت گرفته‌اند.

اوپن‌ای‌آی در همان پست فاش کرد که پس از حادثه هاگینگ فیس، یادگیری تقویتی را به مدت دو هفته متوقف کرده اما از آن زمان بسیاری از مدل‌های کم‌خطرتر را مجدداً راه‌اندازی کرده است. در این پست آمده است: بزرگترین عملیات برنامه‌ریزی‌شده‌ ما در مرز یادگیری تقویتی همچنان متوقف مانده است؛ در حالی که ما آموزش‌ها و بررسی‌های کوچک‌تری را برای ارزیابی رفتار مدل، اعتبارسنجی عوامل محافظتی و ایجاد شواهد بیشتر درباره هماهنگی پیش از ادامه‌ عملیات انجام می‌دهیم.

«آملیا گلیز»(Amelia Glaese) معاون پژوهشی اوپن‌ای‌آی در گفت‌وگو با خبرنگاران تأکید کرد که با افزایش قابلیت‌های مدل‌ها، سخت‌گیری در کنترل‌ افزایش خواهد یافت و بزرگترین مدل‌ها با بیشترین بررسی‌ها روبه‌رو خواهند شد. وی افزود: ما الزامات و انتظاراتی را برای توسعه ایمن تعیین کرده‌ایم. این الزامات و انتظارات با توجه به سطح خطری که می‌بینیم، متفاوت هستند.

اوپن‌ای‌آی به دلیل شیوه‌های ضعیف امنیت شبکه در پی حادثه هاگینگ فیس مورد انتقاد قرار گرفته است که در آن مدل‌ها با به خطر انداختن ابزاری در شبکه خود که به اینترنت دسترسی داشت، از محیط آموزشی خود فرار کردند. تدابیر حفاظتی جدید شامل شیوه‌های قوی‌تر جداسازی شبکه هستند؛ اگرچه جزئیات آن مبهم است. در این پست آمده است که تحت سیستم جدید، به خطر انداختن یک بار کاری یا سرویس پشتیبانی به خودی خود اجازه دسترسی غیرمجاز به اینترنت یا سایر شبکه‌های داخلی را نمی‌دهد.

قوی‌ترین محافظ، سیستم نظارتی است که اقدامات ابزار، ردپاهای استدلال موجود و گزارش‌های فعالیت را برای انواع رفتارهای غیرمجاز بررسی می‌کند. اوپن‌ای‌آی می‌گوید که قصد دارد ظرف ۳۰ دقیقه پس از فعالیت مربوطه، هشدارهایی را صادر کند.

اوپن‌ای‌آی تخمین می‌زند که بار محاسباتی این نظارت تقریباً ۲۰ رصد از هر فرآیندی است که تحت نظارت قرار می‌گیرد. این شرکت وعده داده است که جزئیات بیشتر درباره این سیستم را به زودی در یک پست وبلاگ منتشر کند. تجزیه و تحلیل رسمی پس از وقوع این رویداد توسط اوپن‌ای‌آی نیز هنوز مورد انتظار است.

منبع: ایسنا دانش و فناوری برچسب هااوپن‌اِی‌آی هوش مصنوعی

شناسه : 606563

لینک کوتاه : لینک کپی شد