به گزارش ایسنا، ابزارهای تشخیص متن تولید شده توسط هوش مصنوعی در سالهای اخیر پیشرفت قابلتوجهی داشتهاند و اکنون شرکتهایی مانند پانگرام (Pangram) و جیپیتی زیرو (GPTZero) ادعا میکنند میتوانند با دقت بسیار بالا متنهای نوشته شده توسط انسان و هوش مصنوعی را از یکدیگر تشخیص دهند. دانشمندان، دانشگاهها، ناشران و کنفرانسهای علمی نیز به تدریج از این ابزارها برای بررسی مقالات، گزارشهای داوری و تکالیف دانشجویان استفاده میکنند.
دنیل اوانکو از انجمن آمریکایی تحقیقات سرطان از پانگرام برای بررسی گزارشهای داوری همتا استفاده میکند، زیرا برخی پژوهشگران بدون اعلام استفاده از هوش مصنوعی از مدلهای زبانی بزرگ کمک میگیرند. در یکی از موارد، یک داور پس از اینکه پانگرام استفاده او از هوش مصنوعی را شناسایی کرد، اعتراف کرد که به دلیل کمبود وقت از یک مدل زبانی بزرگ استفاده کرده است.
شرکت سازنده پانگرام، ادعا میکند این ابزار میتواند محتوای تولید شده توسط هوش مصنوعی را با دقت ۹۹.۹۸ درصد شناسایی کند. این ابزار اکنون توسط پژوهشگران و سازمانهای علمی استفاده میشود. طبق یک مطالعه، حدود یک مقاله از هر هشت مقاله زیست پزشکی در سال گذشته شامل مقداری متن تولید شده توسط هوش مصنوعی بوده است. کنفرانس NeurIPS نیز اعلام کرده که پس از غربالگری با پانگرام، ۱۸ درصد از ارسالهای خود را رد کرده است. جیپیتی زیرو نیز دقت ۹۹ درصدی را اعلام کرده و توسط چندین کنفرانس و دانشگاه مورد استفاده قرار گرفته است.
نسلهای قدیمیتر ابزارهای تشخیص هوش مصنوعی عمدتا بر ویژگیهای آماری متن، مانند پریپلکسیتی، تکیه میکردند. این روشها اغلب متن انسانی را به اشتباه هوش مصنوعی تشخیص میدادند و به همین دلیل برخی دانشگاهها استفاده از چنین ابزارهایی را محدود یا ممنوع کردند.
روش جدید پانگرام بر پایه یادگیری ماشین است. سازندگان آن میلیونها متن انسانی را جمعآوری کردند و از مدلهای زبانی خواستند نسخههایی مشابه با همان عنوان، طول و لحن تولید کنند. سپس مدلهای یادگیری ماشین برای تشخیص تفاوت میان متن انسانی و نسخه هوش مصنوعی آموزش داده شدند. این روش توانست نرخ مثبت کاذب بسیار پایینی داشته باشد.
مطالعات مستقل نیز عملکرد این ابزارها را تایید کردهاند. Epoch AI در آزمایشی روی ۴۹۵ …
