این قابلیت به کاربران اجازه میداد با استفاده از دستورهای متنی، نمایی جدید از نقاط مختلف جهان ایجاد کنند. اما مدت کوتاهی پس از عرضه، کاربران تصاویری از رویدادها و تأسیسات ساختگی در مناطق حساس جهان، از جمله اردوگاههای پناهجویان در مرز آمریکا و مکزیک، انفجار در نزدیکی یک بیمارستان در غزه و یک نیروگاه هستهای در ایران تولید و در شبکههای اجتماعی منتشر کردند.
گوگل اعلام کرد تصاویر تولیدشده با این قابلیت دارای واترمارک هوش مصنوعی بودند و در نسخه عمومی گوگل ارث نمایش داده نمیشدند، اما کاربران با ثبت اسکرینشات از آنها، تصاویر را خارج از محیط سرویس منتشر کردند. این شرکت در نهایت تصمیم گرفت قابلیت مذکور را موقتاً غیرفعال کند تا پیش از بازگرداندن آن، سازوکارهای ایمنی و محدودیتهای بیشتری برای جلوگیری از سوءاستفاده طراحی شود.
این عقبنشینی یکی از سریعترین بازگشتهای گوگل از یک قابلیت مبتنی بر هوش مصنوعی در سالهای اخیر به شمار میرود و بار دیگر چالش شرکتهای فناوری در ایجاد تعادل میان نوآوری و جلوگیری از تولید محتوای گمراهکننده را برجسته کرده است.
منبع: فارس
