به گزارش فرارو به نقل از techrepublic، مدلهای جدید هوش مصنوعی کلود سیگنالهای نامرئی را در خود تعبیه خواهند کرد که میتوانند به شناسایی متن تولید شده توسط این چتبات پس از کپی کردن کمک کنند.
کپی کردن پاسخی از کلود در برنامه دیگری، ممکن است ردپای دخالت ابزار هوش مصنوعی را در متن نشان دهد.
سیستم علامتگذاری جدید آنتروپیک از ۲ آگوست، همزمان با لازمالاجرا شدن الزامات شفافیت قانون هوش مصنوعی اتحادیه اروپا برای محتوای تولید شده توسط هوش مصنوعی، اجرایی شد. مقررات اروپایی باعث این تغییر شد، اما این شرکت میگوید مدلهای پشتیبانیشده از این علامتگذاریها در سراسر جهان استفاده میکنند.
خروجیهای متن و فایل به روشهای مختلفی علامتگذاری میشوند و بر آنچه سیستمهای دیگر میتوانند بعداً تشخیص دهند، تأثیر میگذارند.
مدلهای جدید کلود که از آن تاریخ عرضه میشوند، محتوای تولید شده را در سطح مدل علامتگذاری خواهند کرد. شرکت آنتروپیک میگوید این علامتگذاریها نه تنها برای کاربران اروپایی، بلکه در سراسر جهان اعمال خواهد شد.
این سیستم از روشهای مختلفی برای متن و فایلهای پشتیبانیشده استفاده خواهد کرد. متنها واترمارکهای نامرئی دریافت میکنند، در حالی که فایلها احتمالا اطلاعات منشأ را خواهند داشت.
واترمارکهای متنی و منشأ فایل از روشهای جداگانهای استفاده میکنند.
طبق گفتهی آنتروپیک، مدلهای پشتیبانیشده یک واترمارک نامحسوس به متن تولیدشده اضافه میکنند. خوانندگان نمیتوانند آن را ببینند، اما سیستمهای سازگار میتوانند الگوی پنهان را بهطور بالقوه تشخیص دهند.
خروجیهای فایل پشتیبانیشده میتوانند در عوض، فرادادههای C2PA امضاشدهی دیجیتالی را حمل کنند و بدون نیاز به برچسب قابل مشاهده، یک رکورد منشأ ایجاد کنند.
در سراسر API شرکت و سرویسهایی مانند Claude Tag در Slack، مدلهای پشتیبانیشده میتوانند نشانهها را خارج از چتبات اصلی حمل کنند. روشهای آسانتری برای بررسی آنها هنوز در راه است، و این شرکت هوش مصنوعی میگوید ابزارهای تشخیص و راهنماییهای فنی اضافی در حال توسعه هستند.
نشانههای هوش مصنوعی میتوانند در خارج از چتبات ضعیف شوند.
کپی کردن متن علامتگذاریشده در برنامهی دیگر ممکن است واترمارک را دستنخورده باقی بگذارد، اما با تغییر متن، دوام آن کاهش مییابد. آنتروپیک میگوید بازنویسی یا ترجمهی قابل توجه میتواند تشخیص را دشوارتر یا غیرممکن کند. منشأ مبتنی بر فایل به فرادادههای پیوستشده بستگی دارد که ممکن است در حین ویرایش یا تبدیل یا زمانی که نرمافزار آن را حذف میکند، ناپدید شوند.
حتی یک تشخیص موفقیتآمیز، حق تألیف را ثابت نمیکند. مطالب نوشته شده توسط انسان که از طریق ابزار هوش مصنوعی برای ویرایش یا ترجمه ارسال میشوند، میتوانند علامتگذاری شده برگردند، در حالی که متن تولید شده توسط هوش مصنوعی که به شدت اصلاح شده است، ممکن است دیگر قابل تشخیص نباشد. نتیجه مثبت میتواند نشان دهد که کلود محتوا را بدون اثبات نوشتن هر کلمه توسط خود پردازش کرده است، در حالی که یک سند بدون علامت را نمیتوان به عنوان مدرکی برای تألیف انسانی در نظر گرفت. منشأ هوش مصنوعی، بررسی و افشا را پیچیده میکند
افرادی که کار حرفهای یا دانشگاهی ارائه میدهند باید سابقهای از محل ورود هوش مصنوعی به گردش کار خود داشته باشند و هرگونه الزامات افشای اطلاعات مرتبط با کار را رعایت کنند. نگهداری اسناد به آنها چیزی میدهد که اگر سازمانی بعداً در مورد نحوه تولید مطالب سوال کند، بتوانند به آن اشاره کنند.
سازمانهایی که محتوای ارسالی یا منتشر شده را بررسی میکنند، به سیاستهایی نیاز دارند که استفاده جزئی از هوش مصنوعی و تشخیص بینتیجه را در نظر بگیرند. یک نشانگر شناسایی شده باید بررسی دقیقتری از نحوه استفاده از ابزار را ایجاد کند، در حالی که سیاستهای استفاده از هوش مصنوعی باید مشخص کند که چه چیزی نیاز به افشا دارد و چگونه با یافتههای مورد اختلاف برخورد خواهد شد.
کسب و کارهایی که خروجی هوش مصنوعی را بین برنامهها جابجا میکنند باید آزمایش کنند که آیا ادغام مدل، منشأ و مراحل پردازش اسناد را که میتواند آن را حذف کند، حفظ میکند یا خیر. تیمهای چندملیتی همچنین باید الزامات شفافیت اتحادیه اروپا را زیر نظر داشته باشند زیرا تغییرات فروشندگان ایجاد شده برای اروپا میتواند به گردشهای کاری در جاهای دیگر نیز برسد.
با بهبود ابزارهای بررسی، سازمانها باید تصمیم بگیرند که وقتی نویسندگی یا افشا مورد اختلاف است، یک نشانگر چقدر وزن دارد.
