به گزارش گروه دانشگاه خبرگزاری دانشجو، شرکت هوش مصنوعی آنتروپیک مجموعه گستردهای از مطالعات موردی درباره روشهایی منتشر کرده است که مدلهای هوش مصنوعی فعلی آن میتوانند به وسیله آنها مورد سوءاستفاده قرار بگیرند.
به نقل از انگجت، شرکت آنتروپیک اعلام کرده است که چندین دانشمند را که از مدلهای هوش مصنوعی این شرکت برای انجام تحقیقات مرتبط با ساخت احتمالی سلاحهای زیستی استفاده میکردند، شناسایی و متوقف کرده است. این موضوع در گزارش جدیدی که شرکت روز پنجشنبه منتشر کرده، مطرح شده است.
«سوءاستفاده بیولوژیکی» تنها یکی از انواع کاربردهای نگرانکننده هوش مصنوعی است که در این گزارش به آن پرداخته شده، اما اهمیت آن در حال افزایش است؛ زیرا مدلهای جدیدتر، مانند فابل ۵ (Fable ۵)، روزبهروز توانایی بیشتری در کمک به تحقیقات علمی پیدا میکنند.
گزارش آنتروپیک شامل پنج مطالعه موردی درباره استفاده از مدلهای این شرکت برای توسعه سلاحهای زیستی است. در این مطالعات توضیح داده شده که چه تدابیر ایمنی باعث شدند این سوءاستفادهها شناسایی شوند و شرکت پس از شناسایی آنها چه اقداماتی انجام داد.
…
