گسترش سریع و کم‌نظارت هوش مصنوعیِ دارای توانایی‌های عاطفی، در حالی که میلیون‌ها نفر برای حمایت روانی به آن تکیه می‌کنند، نگرانی‌ها درباره وابستگی، سوءاستفاده تجاری و نبود مقررات را افزایش داده است.

۶۱ نهاد بین المللی درباره خطرات استفاده بی ضابطه از هوش مصنوعی هشدار دادند.

یک مدرسه بازرگانی در فرانسه برای آموزش مسئولیت‌پذیری در عصر فناوری، دانشجویان را به خواندن آثار کلاسیک ادبی واداشته است؛ جایی که هیولای «فرانکنشتاین» به نمونه‌ای واقعی برای فهم خطرات و فرصت‌های هوش مصنوعی تبدیل شده است.

«مرینانک شارما»، مدیر تیم تحقیقات امنیتی در شرکت Anthropic (رقیب اصلی سازنده ChatGPT)، با انتشار نامه‌ای سرگشاده از سمت خود کناره‌گیری کرد. شارما که وظیفه‌اش ایجاد «محافظ» برای جلوگیری از خطرات هوش مصنوعی بود، با لحنی هشدارآمیز نوشت: «دنیا در وضعیت مخاطره‌آمیزی قرار دارد؛ از بحران‌های زیستی گرفته تا …

مطالعه جدید محققان دانشگاه MIT و چند نهاد علمی معتبر دیگر نشان می‌دهد که ایجنت‌های هوش مصنوعی که می‌توانند به‌صورت خودکار کارها را انجام دهند، یک کابوس امنیتی هستند. این سیستم‌ها نه‌تنها درباره خطرات و تست‌های ایمنی خود شفاف نیستند، بلکه بسیاری از آنها حتی دکمه‌ای برای توقف اضطراری ندارند. محققان دانشگاه‌های …

شفقنا سم آلتمن، مدیرعامل اوپن‌ای‌آی، در اجلاس «تأثیر هوش مصنوعی ۲۰۲۶» در دهلی نو، خواستار تشکیل فوری یک نهاد نظارتی جهانی مشابه آژانس بین‌المللی انرژی اتمی (IAEA) شد تا از خطرات خروج این فناوری از کنترل جلوگیری کند. به گزارش سرویس ترجمه شفقنا، آلتمن در این سخنرانی هشدار داد که پیشرفت سریع هوش مصنوعی، …

شفقنا تیمی متشکل از ۳۰ محقق برجسته از دانشگاه‌های گلاسگو و شفیلد، ابزاری متن‌باز و رایگان را با نام PHAWM روانه بازار کرده‌اند که به افراد غیرمتخصص اجازه می‌دهد امنیت و اخلاق‌مداری برنامه‌های هوش مصنوعی را به چالش بکشند. به گزارش سرویس ترجمه شفقنا، پروژه «روش‌شناسی و میزکارهای ممیزی آسیب‌های مشارکتی» …

رئیس‌جمهور فرانسه طی سخنانی در آکادمی علوم پزشکی هند در نیو دهلی گفت که اگر الگوریتم‌های شبکه‌های اجتماعی شفاف نباشند، ادعای حفاظت از آزادی بیان در فضای مجازی «مزخرف کامل» است، زیرا مردم بدون اطلاع از نحوه هدایت محتوا در معرض خطرات محتوای نفرت‌انگیز، تبعیض و خطاهای سیستمی قرار می‌گیرند.

رئیس‌جمهور فرانسه در سخنانی در آکادمی علوم پزشکی هند در نیو دهلی گفت که اگر الگوریتم‌های شبکه‌های اجتماعی شفاف نباشند، ادعای حفاظت از آزادی بیان در فضای مجازی «مزخرف کامل» است، زیرا مردم بدون اطلاع از نحوه هدایت محتوا در معرض خطرات محتوای نفرت‌انگیز، تبعیض و خطاهای سیستمی قرار می‌گیرند.

«ایلان ماسک» زمانی از خطرات ربات‌های قاتل سخن می‌گفت، اما اکنون شرکت‌هایش در این زمینه قدم‌هایی برداشته‌اند. طبق گزارش‌های جدید، اسپیس‌ایکس و زیرمجموعه هوش مصنوعی آن یعنی xAI در یک رقابت مخفیانه پنتاگون شرکت کرده‌اند. هدف این پروژه، ساخت فناوری پیشرفته‌ای برای کنترل دسته پهپادهای خودمختار با استفاده …

تاکید اژه‌ای بر استفاده از هوش مصنوعی: محسنی‌اژه‌ای، رئیس قوه قضائیه دیروز در جلسه معرفی و رونمایی از برخی از دستاورد‌های مرکز آمار و فناوری اطلاعات قوه قضائیه، تاکید کرد: در قوه قضائیه باید هر چه بیشتر، متمرکز بر به‌کارگیری و استعمال ابزار‌ها و روش‌های فناورانه و شیوه‌های مرتبط با هوش مصنوعی شویم تا …

«مرینانک شارما»، پژوهشگر ایمنی هوش مصنوعی شرکت آنتروپیک، از سمت خود استعفا داد و در نامه‌ای هشدار داد که «جهان در خطر است». او در این نامه که روی شبکه اجتماعی ایکس منتشر شد، نگرانی خود را درباره هوش مصنوعی، سلاح‌های زیستی و وضعیت کلی جهان اعلام کرد و گفت قصد دارد از صنعت فناوری

نیروی هوایی آمریکا استفاده از هرگونه عینک هوشمند مجهز به دوربین یا هوش مصنوعی را هنگام پوشیدن لباس فرم ممنوع کرد؛ اقدامی که واکنشی به خطرات امنیتی ناشی از فناوری‌های پوشیدنی در محیط‌های نظامی است.

به مناسبت روز اینترنت امن، کارشناسان درباره رشد استفاده کودکان از هوش مصنوعی و ساخت تصاویر نامناسب با این ابزارها هشدار جدی دادند.

نگرانی فوری دانشمندان، خطرات امنیتی ناشی از دادن دسترسی این عامل‌ها به برنامه‌ها و فایل‌های روی دستگاه‌های شخصی است.

شفقنا- دستیار شخصی هوش مصنوعی فراگیر به عنوان یک تغییر گام به گام دیده می‌شود اما کارشناسان نسبت به خطرات آن هشدار می‌دهند. به گزارش سرویس ترجمه شفقنا؛ گاردین نوشت: یک دستیار شخصی هوش مصنوعی جدید و پرطرفدار، صندوق ورودی ایمیل شما را مدیریت می‌کند، کل سبد سهام شما را معامله می‌کند و از [ ]

نوریل روبینی ده خطر بزرگ یا ابرتهدید را در این کتاب مطرح می‌کند که مشتمل بر بحران بدهی‌ها، ناکارآمدی دولت‌ها، مشکلات جمعیت‌شناختی، وسوسه کسب پول آسان، رکود تورمی، بی‌ثباتی مالی، کاهش سرعت جهانی‌سازی، خطرات هوش‌مصنوعی، احتمال تشدید جنگ سرد، و نابودی محیط زیست است.

شفقنا دانشمندان اعلام کردند که جهان بیش از هر زمان دیگری به نابودی نزدیک است، زیرا ساعت آخرالزمان برای سال ۲۰۲۶ روی ۸۵ ثانیه مانده به نیمه‌شب تنظیم شده است که تاریک‌ترین ارزیابی از چشم‌انداز بشریت از زمان آغاز این سنت در سال ۱۹۴۷ است. به گزارش سرویس ترجمه شفقنا، بولتن دانشمندان اتمی، سازمانی [ ]

اعتماد نوجوان ۱۸ ساله به ChatGPT برای مشاوره‌ی مصرف مواد مخدر، داستان تلخ و هشداردهنده‌ای را رقم زد که بار دیگر خطرات هوش مصنوعی را یادآور می‌شود.

اعتماد نوجوان ۱۸ ساله به ChatGPT برای مشاوره‌ی مصرف مواد مخدر، داستان تلخ و هشداردهنده‌ای را رقم زد که بار دیگر خطرات هوش مصنوعی را یادآور می‌شود.

متخصص ایمنی هوش مصنوعی در آژانس تحقیقاتی بریتانیا، با ابراز نگرانی از پیشرفت سریع فناوری، گفت که پیشرفت‌های آتی ممکن است سریع‌تر از توانایی کنترل ما از نظر ایمنی باشد.

متخصص ایمنی هوش مصنوعی در آژانس تحقیقاتی بریتانیا، با ابراز نگرانی از پیشرفت سریع فناوری، گفت که پیشرفت‌های آتی ممکن است سریع‌تر از توانایی کنترل ما از نظر ایمنی باشد.

شفقنا یکی از مقامات ارشد آژانس تحقیقات علمی دولت بریتانیا هشدار داده است که جهان «ممکن است فرصت کافی» برای آماده‌سازی در برابر خطرات ایمنی ناشی از سیستم‌های پیشرفته هوش مصنوعی نداشته باشد. به گزارش سرویس ترجمه شفقنا، دیوید دالریمپل، مدیر برنامه و کارشناس ایمنی هوش مصنوعی در آژانس آریا (آژانس پروژه‌های …

چین در حالی وارد سال ۲۰۲۶ می‌شود که در ظاهر، آرام‌تر از سال‌های پرتنش گذشته حرکت می‌کند اما در لایه‌های زیرین، مجموعه‌ای از بحران‌های انباشته در حال شکل‌گیری است. از فشارهای جمعیتی و عقب‌گرد نگران‌کننده در حقوق زنان گرفته تا تشدید تنش با ژاپن، ناکامی در تغییر مدل رشد اقتصادی و خطرات ناشی از به‌کارگیری …

تهران- ایرنا- پژوهشگران می‌گویند تصاویر ماموگرافی معمولی نه تنها برای تشخیص سرطان پستان، بلکه برای شناسایی زودهنگام خطر بیماری‌های قلبی‌عروقی نیز کاربرد دارد.

فضای مجازی زمینه‌ای فراهم کرده است که باورهای الهیاتی و دینی به شیوه‌های جدیدی منتقل شوند و در این روند، پلتفرم‌های چندرسانه‌ای نقش بسزایی در ایجاد و تقویت تجربه‌های معنوی دارند. اما این تأثیرات، با وجود مزایای فراوان، چالش‌هایی نیز به همراه دارد، از جمله افزایش شک و تردید در منابع دینی و تغییرات سطحی …

شفقنا- سازنده ChatGPT یک موقعیت شغلی خالی با حقوق ۵۵۵۰۰۰ دلار در سال را با شرح شغلی دلهره‌آور آگهی کرده است. به گزارش سرویس ترجمه شفقنا؛ گاردین نوشت: سم آلتمن رییس شرکت اوپن‌ای‌ای برای استخدام رییس بخش آمادگی این شرکت حقوق 555 هزار دلاری پیشنهاد کرده است. «رئیس آمادگی» در OpenAI مستقیماً مسئول دفاع …

برنا - گروه علمی و فناوری: شرکت اپن‌ای‌آی در حال جذب رئیس جدید برای واحد آمادگی و مدیریت خطرات هوش مصنوعی است تا بر سناریوهایی تمرکز کند که مدل‌های هوش مصنوعی می‌توانند خطرات جدی ایجاد کنند.

شرکت OpenAI در پی چالش‌های ایمنی اخیر، به دنبال جذب مدیر جدیدی برای واحد آمادگی است تا تاثیرات منفی آنها را بر سلامت روان کاربران مدیریت کند.

به گفته پزشکان هاروارد و بیلور، خطرات هوش مصنوعی رابطه‌ای می‌تواند وابستگی عاطفی و آسیب‌های جدی سلامت روان را گسترش دهد.

OpenAI می‌گوید تهدید Prompt Injection احتمالاً هرگز به‌طور کامل برطرف نخواهد شد.

OpenAI می‌گوید تهدید Prompt Injection احتمالاً هرگز به‌طور کامل برطرف نخواهد شد.

رکنا: گسترش ویدیوهای جعلی حیوانات در فضای مجازی ساخته‌شده توسط هوش مصنوعی، می‌تواند تهدیدی جدی برای محیط‌زیست و حیات‌وحش باشد. کارشناسان هشدار می‌دهند که ترویج تعاملات غیرواقعی انسان با حیوانات وحشی، خطرات جانی و آسیب‌های غیرقابل جبران به دنبال دارد.

از نوامبر ۲۰۲۲، ChatGPT محبوبیت زیادی پیدا کرده است، اما این ابزار هوش مصنوعی محدودیت‌ها و چالش‌هایی دارد. پاسخ‌های گاهی نادرست، حافظه محدود و محرمانگی ناقص از مهم‌ترین مسائل آن است. کاربران باید هنگام استفاده از ChatGPT احتیاط کنند و اطلاعات حساس را به اشتراک نگذارند.

پژوهشگران در تحقیق جدیدی ادعا کرده‌اند که مدل‌های هوش مصنوعی پرطرفدار مانند ChatGPT علاوه‌بر تقلید کلمات و گفتار انسان‌ها، می‌توانند ویژگی‌های شخصیتی ما را هم شبیه‌سازی کنند. در شرایطی که نگرانی‌ها درباره دقت، قابلیت اعتماد و مرزهای اخلاقی هوش مصنوعی افزایش یافته، آنها هشدار داده‌اند که این موضوع می‌تواند …

بازارهای جهانی ۲۰۲۵ تاب‌آوری بالایی داشتند اما تمرکز روی هوش مصنوعی و تورم حل‌نشده، خطرات بالقوه را افزایش داده است.

یکی از دغدغه‌ها و نگرانی‌های کاربران با پیشرفت تکنولوژی و صنعت AI، خطرات هوش مصنوعی بوده و ما در این مطلب این موضوع را کامل بررسی کردیم.

برنا - گروه علمی و فناوری: دبیر مطبوعاتی سفارت چین در واشنگتن تاکید کرد هوش مصنوعی فرصت‌های عظیم و همزمان مخاطرات غیرقابل پیش‌بینی برای جهان دارد.

جفری هینتون هوش مصنوعی را انقلاب صنعتی بعدی می‌داند و نسبت به خطرات، نابرابری و از دست‌رفتن کنترل انسان هشدار می‌دهد.

شفقنا- لیو بینگ‌یو، دبیر مطبوعاتی سفارت چین در واشنگتن اعلام کرد که چین از تبادل و همکاری در زمینه هوش مصنوعی حمایت می‌کند، اما مخاطرات توسعه آن غیرقابل پیش‌بینی بوده و بین تمامی کشورها مشترک است. به گزارش سرویس ترجمه شفقنا، به نقل از آرتی، این دیپلمات چینی در گفت‌وگو با خبرگزاری «نووستی» افزود: «چین …

رکنا: یک دادخواست تازه در ایالت کانتیکت آمریکا مطرح شده که در آن ادعا شده هوش مصنوعی چت‌جی‌پی‌تی با تشدید توهمات پسر جوانی، به وقوع قتل مادرش منجر شده است؛ این پرونده توجه رسانه‌ها و متخصصان هوش مصنوعی را به خطرات احتمالی تعامل با کاربران آسیب‌پذیر جلب کرده است.

تهران- ایرنا- معاون وزیر امور خارجه در سمپوزیوم حقوق بشر بر نقض حقوق بشر در حمله به تاسیسات اتمی ایران و ترور فرمانده نظامی کشورمان تاکید کرد و کارشناسان حاضر در این نشست نیز از خطرات هوش مصنوعی و لزوم توجه به حقوق بشر در مسیر توسعه این فناوری جدید گفتند.

شفقنا- پژوهشگران برجسته حوزه هوش مصنوعی و رهبران پلتفرم‌های مهم از جمله جفری هینتون، یوشوا بنجیو، دیمیس هاسابیس، سام آلتمن، داریو آمودی و ایلان ماسک نسبت به خطرات بالقوه این فناوری برای انقراض بشر هشدار داده‌اند. این موضوع در کتاب جدیدی با عنوان «اگر کسی آن را بسازد، همه خواهند مرد» (If Anyone Builds …

برخی از محبوب‌ترین مدل‌های هوش مصنوعی حتی بیشترین میزان پاسخ غلط را دارند و این می‌تواند خطرات جدی برای کاربران و سازمان‌ها به همراه داشته باشد. آمار تازه نشان می‌دهد که مدل‌هایی مثل گراک و جمینای در صدر این فهرست قرار دارند.

ائتلافی دوحزبی از دادستان‌های کل ۴۲ ایالت آمریکا روز دوشنبه با ارسال نامه‌ای هشدارآمیز به ۱۳ شرکت بزرگ فناوری، خواستار اجرای فوری تدابیر ایمنی برای چت‌بات‌های هوش مصنوعی شدند؛ ابزارهایی که بنا بر گزارش‌ها با مرگ، بستری شدن و آسیب‌های شدید روانی در سراسر کشور در ارتباط است. این اقدام هم‌زمان با ثبت هفت …

استفاده افراطی از چت‌بات‌های هوش مصنوعی می‌تواند توهمات و بحران‌های شدید روانی را در افراد آسیب‌پذیر تقویت کند.

درک نحوه عملکرد هوش مصنوعی تا سنجش خطرات آن شامل «سواد هوش مصنوعی» می‌شود که می‌تواند به همه افراد کمک کند تا در جهانی که روزبه‌روز الگوریتمی‌تر می‌شود، تصمیمات هوشمندانه‌تر و آگاهانه‌تری بگیرند. به‌گزارش پیوست، سواد هوش مصنوعی به توانایی فرد در درک و تعامل مؤثر با هوش مصنوعی در سناریوهای مختلف اشاره …

شرکت جهانی فناوری سلامت فیلیپس از مجموعه‌ای نوآورانه از سیستم‌های تصویربرداری پزشکی رونمایی کرده است که با هدف افزایش دقت تشخیصی، کاهش خطرات پرتوی و ارتقای سرعت و کارآمدی در روندهای تشخیصی و درمانی طراحی شده‌اند. به گزارش مدرن مد به نقل از «سلامت دیجیتال جهانی»، این مجموعه شامل گسترش دسترسی تجاری به …

شفقنا- مدیرعامل گوگل دیپ‌مایند برخی خطرات هوش مصنوعی را واقعی و ملموس خواند. به گزارش سرویس ترجمه شفقنا؛ آکسیوش نوشت: دمیس هاسابیس، مدیرعامل گوگل دیپ‌مایند در اجلاس هوش مصنوعی پلاس اکسیوس در سانفرانسیسکو گفت: برخی از بزرگترین خطرات هوش مصنوعی، مانند حمله به زیرساخت‌ها، در حال حاضر واقعی هستند و باید …

با تشدید محدودیت‌ها برای دسترسی نوجوانان به چت‌بات‌های همدم، گرنت بلشکی، متخصص سلامت روان، هشدار می‌دهد که اتکای نسل جوان به ربات‌هایی با عواطف مصنوعی می‌تواند روابط انسانی را تضعیف کرده، احساس تنهایی را افزایش دهد و سلامت روان آنها را در بلندمدت با خطر مواجه کند.

پژوهشی تازه نشان می‌دهد چت‌بات‌های هوش مصنوعی که نقش درمانگر را بر عهده می‌گیرند، با وجود ظاهر حرفه‌ای، در عمل دچار تخلفات اخلاقی جدی می‌شوند.

بر اساس ارزیابی جدیدی که هشدار می‌دهد این ناکامی‌ها با خطرات «فاجعه‌بار» همراه است، بزرگ‌ترین شرکت‌های هوش مصنوعی (AI) جهان در عمل به تعهدات ایمنی خود ناکام مانده‌اند.

پژوهشی تازه نشان می‌دهد چت‌بات‌های هوش مصنوعی که نقش درمانگر را بر عهده می‌گیرند، با وجود ظاهر حرفه‌ای، در عمل دچار تخلفات اخلاقی جدی می‌شوند.

تهران-ایرنا- سازمان اطلاعات برزیل (Abin) گزارش داد که دخالت‌های خارجی و اقدامات جرایم سازمان‌یافته را به عنوان خطرات اصلی برای روند انتخابات ۲۰۲۶ شناسایی کرده است.

شفقنا – سازمان ملل متحد نسبت به پیامدهای احتمالی استفاده از هوش مصنوعی در اهداف نظامی هشدار داد و تأکید کرد که این فناوری می‌تواند تهدیدی وجودی برای بشریت ایجاد کند. به گزارش سرویس ترجمه شفقنا، به نقل از آرتی، فیلیپ شیلیکنز، اقتصاددان ارشد دفتر منطقه‌ای برنامه عمران سازمان ملل متحد (UNDP) در آسیا و …