هوش مصنوعی کلمات توهین‌آمیز و نامناسب در تصاویر را سانسور می‌کند

شفقنا  پژوهشگران موسسه امنیت اطلاعات سیسپا (CISPA) در آلمان، مجموعه داده و خط ارزیابی جدیدی به نام ToxicBench ساخته‌اند که توانایی مدل‌های هوش مصنوعی تولیدکننده تصویر را در برابر ورودی‌های توهین‌آمیز و متون تبعیض‌آمیز می‌سنجد. این ابزار که متن‌های پنهان درون تصاویر را با استفاده از تشخیص نوری کاراکتر (OCR) استخراج و سپس نامناسب بودن [ ]