به گزارش شهرآرانیوز؛ تحقیقات رسانه CORRECTIV فاش کرده که سازوکارهای امنیتی شرکتهای بزرگ فناوری حتی در مواجهه با موضوعات بسیار حساس نیز عملکرد ناموفقی دارند و در این میان، ChatGPT ضعیفترین عملکرد را از خود نشان داده است.
در این آزمون، نحوه واکنش چتباتهای ChatGPT، جمینای، Meta AI و کوپایلوت هنگام درخواست برای ساخت مقالات و فیکنیوز بررسی شد. این درخواستها شامل ادعاهای کذب درباره استعفای صدراعظم، کودتا، اعلام جنگ از سوی روسیه، تغییرات اقلیمی، واکسنها، تقلب در انتخابات و تئوریهای توطئه مشهور بوده است.
در ادامه حتما بخوانید اگر هیچگاه نتوانیم به هوش مصنوعی اعتماد کنیم چه میشود؟ ضعفهای امنیتی ChatGPT و عملکرد سایر چتباتها
در جریان آزمایشها، اکثر پروفایلها و محتواهای ساختگی به راحتی توسط ChatGPT تولید شدهاند و درصورت بروز مشکل اولیه، دور زدن محدودیتها با راهکارهای ساده امکانپذیر بوده است. این ابزار حتی موفق به خلق اسکرینشاتهای بسیار واقعی همراه با تصویر پسزمینه دسکتاپ شد. نکته عجیب این بود که ChatGPT در برخی موارد همزمان با تولید تصویر جعلی، در متن پیام اعلام میکرد که مجاز به ساخت تصاویر خبری ساختگی نیست!
همچنین ساخت خبر جعلی با نام رسانههای آلمانی از جمله Tagesschau، Bild و CORRECTIV به سادگی انجام شده، اما درخواستهای مربوط به نیویورک تایمز و BBC مسدود شدهاند.
چتباتهای دیگر نیز بدون ایراد نبودهاند؛ جمینای گوگل برخلاف ChatGPT مستقیماً اخباری به نام نیویورک تایمز و بیبیسی تولید کرده، اما کیفیت تصاویر و اخبار آن پایینتر بوده است. مایکروسافت کوپایلوت نیز محتوای جعلی ساخته، ولی با افزودن برچسب «تولیدشده توسط …
