ملیحه طوسی در گفتوگو با ایسنا با اشاره به چالشهای استفاده از هوش مصنوعی در تولید محتوا اظهار کرد: به نظر من مهمترین چالش، خودِ هوش مصنوعی نیست، بلکه حفظ اعتماد مخاطب است. امروز تولید متن، تصویر و ویدئو با هوش مصنوعی بسیار ساده شده است و همین موضوع تشخیص محتوای اصیل را برای مردم دشوار کرده است. اگر رسانهها درباره نحوه تولید محتوا شفاف نباشند، مخاطب بهتدریج نسبت به همه محتواها دچار تردید میشود.
وی افزود: به همین دلیل، بسیاری از رسانههای معتبر دنیا دستورالعملهایی تدوین کردهاند که مشخص میکند هوش مصنوعی در چه بخشهایی مجاز به استفاده است و در نهایت، مسئولیت انتشار همچنان بر عهده خبرنگار و سردبیر خواهد بود. به اعتقاد من، در آینده اعتبار رسانهها بیش از هر زمان دیگری به شفافیت و مسئولیتپذیری وابسته خواهد بود.
این مدرس سواد رسانه درباره میزان دقت ابزارهای تشخیص محتوای تولیدشده با هوش مصنوعی گفت: این موضوع نشان میدهد که فناوری تشخیص هنوز به دقت لازم نرسیده است. برای مثال، در سال ۲۰۲۳ برخی دانشگاهها در آمریکا از ابزارهای تشخیص متن هوش مصنوعی برای بررسی تکالیف دانشجویان استفاده کردند، اما بعد از مدتی مشخص شد این ابزارها درصد قابل توجهی از نوشتههای کاملاً انسانی را هم به اشتباه «تولیدشده با هوش مصنوعی» تشخیص میدهند.
خطای ابزارهای تشخیص؛ هوش مصنوعی هنوز داور قابل اعتمادی نیست
طوسی ادامه داد: حتی شرکت OpenAI نیز به همین دلیل ابزار تشخیص متن خود را از دسترس خارج کرد و اعلام کرد که دقت آن برای قضاوت درباره منشأ یک متن کافی نیست. این تجربه نشان میدهد که خروجی چنین ابزارهایی باید صرفاً یک نشانه اولیه باشد، نه مبنای تصمیم نهایی؛ زیرا اتکای کامل به آنها میتواند اعتبار نویسندگان و روزنامهنگاران را به ناحق زیر سؤال ببرد.
وی با اشاره به نقش هوش مصنوعی در فرآیند تولید و ارزیابی محتوا اظهار کرد: هوش مصنوعی میتواند سرعت و دقت بررسی اولیه را به شکل قابل توجهی افزایش دهد، اما هنوز توانایی درک کامل بافت، نیت نویسنده و زمینه تولید یک محتوا را ندارد. در ارتباطات، اصالت فقط به واژهها مربوط نمیشود، بلکه به منبع خبر، شیوه گردآوری اطلاعات، سابقه نویسنده و حتی شرایطی که محتوا در آن تولید شده نیز وابسته است؛ …