هوش مصنوعی در چه بنگاه‌هایی توسعه می‌یابد؟

بهزاد احمدی، عضوهیأت علمی دانشگاه تهران: دونالد ترامپ در ۲۹ سپتامبر ۲۰۲۶ توافقی با مدیران شش شرکت بزرگ فناوری آمریکا شامل گوگل، متا، اوپن‌ای‌آی، آنتروپیک، انویدیا و ایکس‌ای‌آی امضا کرد. این سند باعنوان «توافق کاخ سفید درباره ابرهوش»، مسئولیت اصلی نظارت بر ایمنی مدل‌های پیشرفته هوش مصنوعی را برعهده شرکت‌ها قرار می‌دهد. براساس آن، شرکت‌ها متعهد شده‌اند خطرات احتمالی مدل‌های خود را شناسایی کنند، سازوکارهای نظارت داخلی داشته باشند، از ارزیابان مستقل بیرونی کمک بگیرند و نتایج ارزیابی‌ها را در سطح هیأت‌مدیره بررسی کنند. با این حال، این تعهدات ضمانت اجرای قانونی مشخصی ندارند و بر مسئولیت‌پذیری داوطلبانه شرکت‌ها استوارند.

از تعهد داوطلبانه تا نظارت حقوقی؛ پیشنهاد آنتروپیک چیست؟

کمتر از سه هفته بعد، در ۱۶ اکتبر، جزئیات پیش نویس پیشنهادی آنتروپیک، سازنده مدل هوش مصنوعی کلود منتشر شد. این شرکت پیشنهاد کرده است که توسعه‌دهندگان پیشرفته‌ترین مدل‌های هوش مصنوعی، ملزم به ارزیابی دوره‌ای و مستقل خطرات شوند.همچنین ارزیابان باید نزد وزارت بازرگانی آمریکا ثبت شوند و خطرات فوری و مشخص را حداکثر ظرف ۷۲ ساعت پس از تکمیل ارزیابی، گزارش دهند. هزینه ارزیابی را شرکت‌ها می‌پردازند، اما پرداخت نباید به نتیجه آن وابسته باشد.

بخش مهم‌تر پیشنهاد آنتروپیک، به حدود اختیار دولت مربوط می‌شود. تأکید این شرکت بر محدودکردن اختیار دولت نیز بی‌سابقه نیست و به مناقشه اخیرش بر سر حدود استفاده دولتی و نظامی از مدل‌هایش با دولت آمریکا و پنتاگون بازمی‌گردد. براساس پیشنهاد آنتروپیک، دولت تنها در شرایطی می‌تواند خواستار توقف انتشار یا استفاده از یک مدل شود که خطر فوری و قابل پیش‌بینی آن، احتمال خسارت بیش از یک میلیارد دلار یا مرگ و آسیب شدید به بیش از پنجاه نفر باشد. البته حتی در چنین شرایطی نیز وزارت بازرگانی باید از دادگاه فدرال، درخواست صدور حکم کند. …