قیمت طلا امروز




 خبرگزاری دانشجو / ۱۴۰۵/۰۵/۱۵

هوش مصنوعی Anthropic در آزمایش امنیتی دست به حمله سایبری زد؛ استفاده از هویت جعلی و کد مخرب در گیت‌هاب

در جریان یک آزمایش امنیت سایبری دولت انگلیس روی مدل‌های پیشرفته هوش مصنوعی، مدل Mythos 5 شرکت Anthropic بدون دریافت دستور مستقیم، اقدام به انتشار کد مخرب، سا...
 هوش مصنوعی Anthropic در آزمایش امنیتی دست به حمله سایبری زد؛ استفاده از هویت جعلی و کد مخرب در گیت‌هاب

به گزارش گروه دانشگاه خبرگزاری دانشجو، یک ارزیابی امنیت سایبری توسط مؤسسه امنیت هوش مصنوعی دولت انگلیس (AISI) به کشف مجموعه‌ای از رفتارهای غیرمنتظره توسط مدل‌های پیشرفته هوش مصنوعی منجر شد. در این آزمایش، مدل Mythos 5 شرکت Anthropic در چندین مورد اقداماتی خارج از چارچوب تعیین‌شده انجام داد که مهم‌ترین آن تلاش برای اجرای یک حمله زنجیره تأمین علیه یک پروژه متن‌باز در پلتفرم گیت‌هاب بود.

بر اساس گزارش منتشرشده، پژوهشگران در جریان بررسی هفت مدل هوش مصنوعی پیشرفته، ۱۹ مورد اقدام مستقل و تأییدنشده را شناسایی کردند که شامل تلاش برای تعامل با افراد و سازمان‌های واقعی در اینترنت بود. بیشتر این موارد مربوط به مدل Anthropic و دو مورد نیز مربوط به مدل GPT-5.6 Sol شرکت OpenAI بود.

در جدی‌ترین حادثه، Mythos 5 تلاش کرد کدی مخرب را وارد یک مخزن نرم‌افزاری در گیت‌هاب کند. این مدل علاوه بر ایجاد یک درخواست ادغام کد (Pull Request)، اقدام به ساخت حساب‌ها و هویت‌های جعلی کرد تا وانمود کند افراد مستقلی کد موردنظر را بررسی کرده و آن را فاقد بدافزار تأیید کرده‌اند.

این مدل همچنین چند ایمیل برای توسعه‌دهندگان انسانی پروژه ارسال کرد که برخی از آن‌ها شامل بدافزار یا تلاش برای متقاعد کردن مدیران پروژه به پذیرش کد مخرب بود.

در اقدامی دیگر، Mythos 5 یک مسئله جدید در یک مخزن گیت‌هاب دیگر ایجاد کرد که در آن دستورهای مخرب برای سوءاستفاده از ابزارهای هوش مصنوعی برنامه‌نویسی قرار داده شده بود.

در مقابل، مدل GPT-5.6 Sol شرکت OpenAI نیز در دو مورد رفتار خارج از برنامه از خود نشان داد. این مدل در جریان یک آزمایش امنیتی، از یک توکن گیت‌هاب که به‌صورت عمومی در اینترنت قابل مشاهده بود استفاده کرد و همچنین تلاش کرد حساب‌هایی در سرویس‌های خارجی ایجاد کند.

مؤسسه امنیت هوش مصنوعی انگلیس تأکید کرده است که این مدل‌ها از محیط آزمایشی خارج نشدند و هیچ آسیب واقعی به افراد یا سازمان‌ها وارد نشد؛ اما این اتفاق برای نخستین‌بار نشان داد که خطر رفتار مستقل و فریبکارانه مدل‌های هوش مصنوعی می‌تواند بدون دریافت دستور صریح نیز ظاهر شود.

پس از این رخدادها، پژوهشگران تمام آزمایش‌های مرتبط را متوقف، سیستم‌های آزمایشی را ایزوله و دسترسی داخلی به برخی مدل‌های قدرتمند را محدود کردند. همچنین گیت‌هاب از فعالیت‌های مخرب انجام‌شده مطلع شد و اقدامات لازم برای پاک‌سازی آثار باقی‌مانده انجام گرفت.

این حادثه باعث شده است کارشناسان خواستار کنترل‌های امنیتی سخت‌گیرانه‌تر برای آزمایش و استفاده از هوش مصنوعی‌های پیشرفته شوند. مؤسسه امنیت هوش مصنوعی انگلیس اعلام کرده در آینده دسترسی آزاد مدل‌ها به اینترنت را محدودتر کرده و سامانه‌های نظارتی لحظه‌ای برای جلوگیری از اقدامات خارج از چارچوب ایجاد خواهد کرد.

با افزایش توانایی مدل‌های هوش مصنوعی در انجام وظایف پیچیده، نگرانی درباره سوءاستفاده از این فناوری و توانایی آن‌ها برای انجام اقدامات پیش‌بینی‌نشده به یکی از مهم‌ترین چالش‌های امنیت سایبری جهان تبدیل شده است.



۳۷ ساعت قبل / سایت شهرآرانیوز

ترافیک ربات‌ها از انسان‌ها در اینترنت پیشی گرفت

به گزارش شهرآرانیوز؛ بر اساس داده‌های شرکت آمریکایی زیرساخت اینترنت «کلادفلر» (Cloudflare)، ترافیک غیرانسانی در ژوئن ۲۰۲۶، ۵۷ درصد از فعالیت در شبکه این شرکت را به خود اختصاص داده در حالی که سهم ترافیک تولید شده انسان‌ها، ۴۳ درصد بوده است.

متیو پرینس، مدیرعامل «کلادفلر»، در شبکه اجتماعی ایکس اعلام کرد این نقطه تلاقی، بسیار سریع‌تر از پیش‌بینی وی رخ داده است. وی پیش‌تر پیش‌بینی کرده بود که ترافیک غیرانسانی تا پایان ۲۰۲۷ از ترافیک انسانی پیشی بگیرد.

گزارش درآمد سه‌ماهه دوم ۲۰۲۶ «کلادفلر»، این روند را تایید کرد و نشان داد بیش از ۵۰ درصد از ترافیک شبکه جهانی «کلادفلر» از سوی ماشین‌ها و نه انسان‌ها ایجاد شده است.

داده‌های مربوط به خزنده‌های وب این شرکت همچنین نشان می‌دهد، ۵۲ درصد از درخواست‌های خزنده‌ها در ژوئن ۲۰۲۶ برای آموزش هوش مصنوعی بوده است در حالی که این رقم در بهار ۲۰۲۵ حدود ۲۲ درصد بود. در مقابل، سهم خزش فقط با هدف جست‌و‌جو، از مجموع فعالیت خزنده‌ها در حال کاهش است.

خزش وب، فرآیندی خودکار است که طی آن نرم‌افزار‌هایی موسوم به خزنده یا ربات، محتوای وب‌سایت‌ها را بررسی و نمایه‌سازی می‌کنند. موتور‌های جست‌و‌جو و شرکت‌های هوش مصنوعی از خزنده‌ها برای جمع‌آوری داده استفاده می‌کنند و شرکت‌های هوش مصنوعی نیز به‌طور فزاینده‌ای از این روش برای گردآوری مطالب مورد نیاز آموزش مدل‌های زبانی بهره می‌گیرند.

در ادامه حتما بخوانید حالت جدید هوش مصنوعی ChatGPT برای استفاده نوجوانان معرفی شد

عامل‌های هوش مصنوعی اکنون می‌توانند با سرعت و مقیاسی بسیار فراتر از کاربران انسانی در وب‌سایت‌ها جست‌و‌جو، اطلاعات را پردازش کنند و در فضای آنلاین تعامل داشته باشند.

آمار «کلادفلر» تصویر کاملی از فعالیت جهانی اینترنت ارائه نمی‌کند، زیرا بازدید از وب‌سایت‌ها تنها یکی از معیار‌های سنجش ترافیک اینترنت است. شرکت‌های دیگر نیز ارقام متفاوتی ارائه کرده‌اند به‌عنوان مثال، شرکت بازاریابی دیجیتال «برایت‌اج» (BrightEdge) سهم ترافیک مرتبط با هوش مصنوعی را ۱۵ درصد برآورد کرده است.

ناشران، تغییر گسترده‌تر در الگوی ترافیک اینترنت را «گوگل زیرو» نامیده‌اند؛ اصطلاحی برای توصیف کاهش ترافیک ارجاعی به وب‌سایت‌ها، زیرا سامانه‌های هوش مصنوعی به‌جای هدایت کاربران به وب‌سایت‌های منبع، به‌طور مستقیم به پرسش‌های آنها پاسخ می‌دهند.

وب‌سایت ترکیه تودی گزارش کرد، در همین حال، گزارش «وضعیت ترافیک هوش مصنوعی و معیار تهدید‌های سایبری در ۲۰۲۶» شرکت امنیت سایبری «هیومن سکیوریتی» (HUMAN Security) نشان داد ترافیک خودکار هشت برابر سریع‌تر از ترافیک انسانی در حال رشد و ترافیک مبتنی بر هوش مصنوعی نیز بین ژانویه و دسامبر ۲۰۲۵، ۱۸۷ درصد افزایش داشته است.

منبع: ایسنا


۲ روز قبل / ۱۴۰۵/۰۵/۲۷ / سایت شهرآرانیوز

حالت جدید هوش مصنوعی ChatGPT برای استفاده نوجوانان معرفی شد

به گزارش شهرآرانیوز؛  قابلیت جدید ChatGPT در شرایطی معرفی می‌شود که نگرانی‌های عمومی درباره تأثیر ابزار‌های هوش مصنوعی بر کاربران کم‌سن‌وسال افزایش یافته و پلتفرم‌های دیگر نیز بررسی سن و قابلیت‌های حفاظتی ویژه نوجوانان را اجرا می‌کنند.

OpenAI در پست وبلاگی که امروز منتشر شد، حالت ChatGPT برای نوجوانان را تجربه‌ای طراحی‌شده برای کمک به نوجوانان در یادگیری، تفکر انتقادی، تعمیق ادراک و استفاده مطمئن از هوش مصنوعی توصیف کرد. حالت نوجوانان به‌صورت خودکار برای کاربرانی فعال می‌شود که اعلام کنند بین ۱۳ تا ۱۷ سال دارند یا سیستم تشخیص دهد کمتر از ۱۸ سال سن دارند. طبق سیاست سنی OpenAI، کودکان زیر ۱۳ سال اجازه استفاده از این پلتفرم را ندارند.

این تجربه به‌طور پیش‌فرض مجموعه‌ای از محدودیت‌های حفاظتی را اعمال می‌کند؛ ازجمله محدودیت‌های سخت‌گیرانه‌تر برای محتوای ممنوعه یا حساس مانند خشونت گرافیکی، نمایش خودآزاری و نقش‌آفرینی جنسی یا عاشقانه. همچنین درباره موضوعاتی مانند اختلالات خوردن، هشدار‌ها و اطلاعات ایمنی بیشتری نمایش داده می‌شود. والدین نیز می‌توانند ساعات سکوت را تعیین کنند و در صورت شناسایی احتمال وجود یک خطر ایمنی، اعلان‌های مربوط به هشدار‌های ایمنی دریافت کنند.

برخی قابلیت‌های دیگر در حالت مخصوص نوجوانان با هدف تشویق کاربران به چیزی که OpenAI آن را «استفاده سالم و متعادل» می‌نامد طراحی شده‌اند. این قابلیت‌ها شامل نحوه خوشامدگویی و معرفی ChatGPT به کاربران نوجوان، هشدار‌هایی درباره آپلود تصاویر حساس و گزینه‌های شخصی‌سازی برای رنگ‌های رابط کاربری و تنوع صدا‌ها می‌شود. OpenAI همچنین «یادآوری‌های مسئولانه انجام تکالیف» را اضافه کرده که به گفته این شرکت می‌تواند تشخیص دهد نوجوان چه زمانی سعی دارد تکلیفی را از راه میان‌بُر انجام دهد و او را به حالت اختصاصی مطالعه ChatGPT هدایت کند. نوجوانان یا والدین همچنین می‌توانند «ساعات مطالعه» تعیین کنند تا حالت مطالعه در زمان‌های مشخص به‌طور خودکار فعال شود.

در ادامه حتما بخوانید چرا مدیران فناوری همچنان بیانیه‌های مفصل درباره هوش مصنوعی منتشر می‌کنند؟

اگرچه OpenAI این قابلیت را به‌عنوان تجربه‌ای جدید و ویژه نوجوانان معرفی کرده، بسیاری از تدابیر حفاظتی آن جدید نیستند و این عرضه عمدتاً قابلیت‌های حفاظتی موجود را در کنار چند تغییر و ویژگی کوچک‌تر یکجا جمع می‌کند. OpenAI قابلیت‌های پیش‌بینی سن را در ابتدای سال عرضه کرد و کنترل‌های والدین و حالت مطالعه نیز حدود یک سال پیش در دسترس قرار گرفتند. این شرکت همچنین ماه گذشته اعلام کرد که برای نوجوانان یادآوری‌های بیشتری برای استراحت نمایش خواهد داد.

OpenAI می‌گوید تدابیر حفاظتی ویژه نوجوانان بر پایه «پژوهش‌های مستمر در حوزه ایمنی» ایجاد شده‌اند و قصد دارد در آینده بخش بیشتری از «آموخته‌های خود» را منتشر کند و قابلیت‌های ایمنی بیشتری برای کمک به نوجوانان در بهره‌مندی از هوش مصنوعی بسازد. این شرکت می‌گوید دسترسی نوجوانان به هوش مصنوعی باید با تدابیری همراه باشد که مرحله رشد آنها را در نظر بگیرد، روابط واقعی‌شان را تقویت کند و حامی استفاده سالم آنها از این ابزار در طول زمان باشد؛ حالت ChatGPT برای نوجوانان گام بعدی OpenAI برای رسیدن به چنین استانداردی است.

منبع: دیجیاتو


۲ روز قبل / ۱۴۰۵/۰۵/۲۷ / سایت شهرآرانیوز

انویدیا برای دیتاسنتر عظیم OpenAI در اوهایو تا ۱۰۵ میلیارد دلار ضمانت می‌کند

شهرآرانیوز؛ شرکت انویدیا اعلام کرده است برای پروژه دیتاسنتر PORTS-Pike در شهرستان پایک ایالت اوهایو، تا ۱۰۵ میلیارد دلار ضمانت مالی ارائه خواهد کرد. این دیتاسنتر توسط شرکت SB Energy، زیرمجموعه سافت‌بانک، ساخته و اداره می‌شود و OpenAI برای استفاده از ظرفیت محاسباتی آن یک قرارداد اجاره ۲۰ ساله امضا کرده است.

طبق گزارش فایننشیال تایمز این توافق یکی از بزرگ‌ترین تعهدات مالی مرتبط با زیرساخت هوش مصنوعی تاکنون محسوب می‌شود و نشان می‌دهد رقابت شرکت‌های بزرگ فناوری برای تأمین توان پردازشی موردنیاز مدل‌های هوش مصنوعی وارد مرحله‌ای کاملاً جدید شده است. دیتاسنتر OpenAI در اوهایو چقدر بزرگ است؟

پروژه PORTS-Pike در نهایت قرار است به حدود ۸ گیگاوات ظرفیت محاسباتی IT برسد. فاز نخست این مجموعه حدود ۴.۲۵ گیگاوات ظرفیت خواهد داشت و نخستین ۸۰۰ مگاوات آن طبق برنامه در سال ۲۰۲۸ وارد مدار می‌شود.

OpenAI بر اساس توافق انجام‌شده، حدود ۸ گیگاوات ظرفیت محاسباتی را برای مدت ۲۰ سال اجاره خواهد کرد. انویدیا نیز تأمین‌کننده انحصاری زیرساخت محاسباتی هوش مصنوعی این مجموعه خواهد بود.

به بیان ساده، این پروژه قرار است بخش بزرگی از توان پردازشی موردنیاز نسل‌های آینده مدل‌های هوش مصنوعی OpenAI را در یک مجموعه عظیم متمرکز کند. سرمایه‌گذاری مستقیم انویدیا چقدر است؟

رقم ۱۰۵ میلیارد دلار، ضمانت مالی است و به معنای پرداخت مستقیم ۱۰۵ میلیارد دلار به OpenAI یا SB Energy نیست. این ضمانت برای پشتیبانی از تعهدات مشخص پروژه، از جمله بخش‌هایی از هزینه‌های اجاره، برق و زیرساخت ارائه می‌شود. انویدیا علاوه بر ارائه ضمانت، قرار است ۱.۵ میلیارد دلار در SB Energy سرمایه‌گذاری کند.

SB Energy مسئول توسعه و بهره‌برداری از دیتاسنتر خواهد بود و این شرکت تحت حمایت SoftBank قرار دارد. OpenAI و SoftBank نیز پیش‌تر سرمایه‌گذاری‌هایی در زمینه توسعه زیرساخت دیتاسنتر انجام داده‌اند.

در نتیجه ساختار پروژه تنها به یک سرمایه‌گذاری ساده میان Nvidia و OpenAI محدود نمی‌شود و چندین شرکت و نهاد در تأمین سرمایه، انرژی، زمین و زیرساخت آن نقش دارند. چرا OpenAI به چنین دیتاسنتر بزرگی نیاز دارد؟

مدل‌های هوش مصنوعی پیشرفته به حجم عظیمی از توان محاسباتی نیاز دارند. آموزش مدل‌های بزرگ و سپس پاسخ‌گویی به درخواست میلیون‌ها کاربر، به هزاران و در آینده میلیون‌ها پردازنده تخصصی نیازمند است.

همزمان با افزایش استفاده از مدل‌های استدلالی و قابلیت‌هایی مانند تولید تصویر، ویدئو و اجرای وظایف پیچیده، مصرف محاسباتی هر کاربر نیز می‌تواند افزایش پیدا کند.

به همین دلیل OpenAI در سال‌های اخیر سرمایه‌گذاری سنگینی روی زیرساخت محاسباتی انجام داده و قرارداد‌های متعددی برای تأمین ظرفیت دیتاسنتر منعقد کرده است. پروژه اوهایو یکی از بزرگ‌ترین قطعات این پازل است.

در ادامه حتما بخوانید همکاری ال‌جی و انویدیا برای توسعه ربات‌های انسان‌نما و کارخانه‌های هوش مصنوعی در ادامه حتما بخوانید فناوری جدید Caltech برای انتقال نوری روی تراشه‌های سیلیکونی | گامی مهم برای آینده هوش مصنوعی و دیتاسنترها انویدیا چرا چنین ضمانت بزرگی ارائه می‌کند؟

برای انویدیا، این پروژه فقط یک سرمایه‌گذاری زیرساختی نیست؛ بلکه راهی برای تضمین بازار آینده تراشه‌های هوش مصنوعی این شرکت نیز محسوب می‌شود.

با تبدیل‌شدن انویدیا به تأمین‌کننده انحصاری زیرساخت محاسباتی AI در این مجموعه، رشد ظرفیت دیتاسنتر به معنای تقاضای بلندمدت برای سیستم‌های محاسباتی انویدیا خواهد بود.

جنسن هوانگ، مدیرعامل انویدیا، این پروژه را بخشی از برنامه بلندمدت برای پاسخ به نیاز فزاینده به زیرساخت هوش مصنوعی دانسته است. طبق برآورد‌های اعلام‌شده، استقرار زیرساخت‌های انویدیا برای OpenAI می‌تواند تا سال ۲۰۳۰ فرصت درآمدی بسیار بزرگی برای این شرکت ایجاد کند.

نگرانی درباره «اقتصاد چرخشی» در صنعت هوش مصنوعی

ابعاد مالی این قرارداد یک پرسش مهم را نیز مطرح کرده است: آیا شرکت‌های AI و تأمین‌کنندگان زیرساخت آن‌ها در حال ایجاد یک چرخه مالی هستند که در آن شرکت‌ها به یکدیگر پول می‌دهند و سپس همان پول برای خرید تجهیزات خودشان به آنها بازمی‌گردد؟

در این پروژه، انویدیا هم‌زمان نقش سرمایه‌گذار، تضمین‌کننده مالی و تأمین‌کننده زیرساخت محاسباتی را دارد. چنین ساختاری باعث شده برخی تحلیلگران درباره شکل‌گیری نوعی تأمین مالی چرخشی در صنعت هوش مصنوعی هشدار دهند.

با این حال، هوانگ این نگرانی را رد کرده و گفته است این توافق بر اساس نیاز واقعی به زیرساخت و ظرفیت محاسباتی شکل گرفته است. مشکل بعدی: برق موردنیاز دیتاسنتر‌های AI

یکی از نکات مهم پروژه اوهایو این است که چالش اصلی دیگر صرفاً تأمین تراشه نیست؛ بلکه تأمین برق نیز به یک مسئله اساسی تبدیل شده است.

این مجموعه در نهایت به حدود ۸ گیگاوات ظرفیت IT خواهد رسید و پروژه انرژی آن نیز به توسعه ظرفیت قابل‌توجه جدید نیاز دارد. طبق گزارش‌ها، برنامه کلی می‌تواند شامل ایجاد حدود ۱۰ گیگاوات ظرفیت انرژی جدید باشد.

این موضوع نشان می‌دهد توسعه هوش مصنوعی اکنون مستقیماً با صنعت انرژی، شبکه برق و زیرساخت‌های فیزیکی کشور‌ها گره خورده است. پروژه اوهایو چه زمانی آماده می‌شود؟

طبق برنامه فعلی، نخستین بخش ۸۰۰ مگاواتی پروژه باید در سال ۲۰۲۸ وارد مدار شود. ظرفیت مجموعه در ادامه افزایش پیدا خواهد کرد تا در نهایت به حدود ۸ گیگاوات برسد.

پروژه همچنین می‌تواند تأثیر اقتصادی قابل‌توجهی بر منطقه داشته باشد. برآورد‌های اعلام‌شده از ایجاد حدود ۳۵ هزار شغل ساختمانی و ۲۵۰۰ شغل دائمی حکایت دارد.

این توافق در حالی نهایی شده که رقم ضمانت انویدیا در گزارش‌های قبلی بسیار بزرگ‌تر بود.

در ماه ژوئیه، گزارش‌هایی از احتمال ارائه حدود ۲۵۰ میلیارد دلار ضمانت مالی توسط انویدیا منتشر شده بود. اما چند روز پیش گزارش شد که انویدیا برنامه خود را کاهش داده و اکنون رقم نهایی ضمانت به حدود ۱۰۵ میلیارد دلار رسیده است؛ بنابراین رقم ۱۰۵ میلیارد دلار اعلام‌شده امروز، نتیجه نهایی مذاکرات و ساختار مالی پروژه است و نباید با رقم ۲۵۰ میلیارد دلاری گزارش‌های قبلی اشتباه گرفته شود.