به گزارش سیتنا، خطرات احتمالی سیستمهای کامپیوتری «فوقهوشمند» چیست و آیا باید نگران باشیم؟
بدترین سناریو چیست؟
کارشناسان هوش مصنوعی مدتهاست که این تهدید را حیاتی توصیف کردهاند.
در سال ۲۰۲۳، صدها دانشمند هوش مصنوعی و چهرههای برجسته این صنعت، از جمله مدیران آزمایشگاههای برتر ایالات متحده، «بیانیهای درباره خطر انقراض بشر توسط هوش مصنوعی» را امضا کردند و خواستار آن شدند که با این مسئله همانقدر جدی برخورد شود که با همهگیریهای جهانی یا جنگ هستهای برخورد میشود.
استوارت راسل، استاد علوم کامپیوتر دانشگاه کالیفرنیا در برکلی، میگوید اگر یک هوش مصنوعیِ آینده که از کنترل خارج شده است تشخیص دهد که انسانها مانع اهدافش هستند، میتواند از رباتها برای «ساخت و انتشار عوامل بیماریزای (پاتوژنهای) جدید» استفاده کند.
راسل، که از چهرههای شاخص در حوزه ایمنی هوش مصنوعی است، به خبرگزاری فرانسه (AFP) گفت که این هوش مصنوعی همچنین میتواند «مردم را متقاعد کند تا جنگی هستهای را آغاز کنند؛ از جمله با هک کردن سیستمهای هشدار زودهنگام». …
