به گزارش رکنا، پژوهشگران درباره یکی از خطرهای کمتر دیدهشده هوش مصنوعی مولد در تحقیقات زیستی هشدار میدهند؛ فناوریای که میتواند در کشف دارو و درک سازوکارهای بیماری به دانشمندان کمک کند، اما در شرایطی ممکن است یک پدیدهی زیستیِ غیرواقعی را شبیه یک کشف علمی واقعی جلوه دهد.
هوش مصنوعی مولد با یادگیری الگوها و روابط موجود در دادهها، میتواند محتوای جدید تولید کند. این فناوری که بیشتر با تولید متن و تصویر شناخته میشود، اکنون به حوزههایی مانند طراحی پروتئین، شبیهسازی سلول، تحلیل دادههای اُمیکس و تولید دادههای زیستی مصنوعی نیز راه یافته است.
اما همین توانایی تولید الگوهای جدید، یک خطر جدی به همراه دارد: هوش مصنوعی ممکن است چیزی را تولید کند که از نظر علمی کاملاً plausible و منطقی به نظر برسد، اما در زیستشناسی واقعی وجود نداشته باشد. وقتی «توهم» هوش مصنوعی وارد علم میشود
توهم در سامانههای هوش مصنوعی معمولاً به تولید اطلاعات نادرست اما ظاهراً معتبر گفته میشود. در پژوهشهای زیستی، این مسئله میتواند شکل پیچیدهتری پیدا کند؛ برای مثال، مدل ممکن است یک الگوی مولکولی، رابطه میان ژنها یا ساختار پروتئینی را پیشنهاد کند که در دنیای واقعی وجود ندارد.
اگر پژوهشگر چنین خروجیای را صرفاً یک فرضیه برای آزمایش در نظر بگیرد، خطا احتمالاً در مرحله آزمایش مشخص خواهد شد. اما اگر دادهی تولیدشده توسط AI مستقیماً بهعنوان شواهد علمی مورد استفاده قرار گیرد، خطر بسیار بزرگتر میشود.
این موضوع در مقالهای از توماس برگر (Thomas Burger)، زیستشناس محاسباتی از دانشگاه گرنوبل آلپ فرانسه، در مجله Patterns بررسی شده است. او ۱۰ کاربرد بالقوه هوش مصنوعی مولد در زیستشناسی را از نظر خطر ایجاد نتایج گمراهکننده بررسی کرده است. خطر فقط ساختن دادههای جعلی نیست
یکی از نکات مهم این پژوهش آن است که مشکل لزوماً تولید یک نتیجهی کاملاً ساختگی نیست.
در بسیاری از پروژههای زیستی، ابتدا دادههای خام و بسیار پیچیدهای از ژنها، پروتئینها و سایر مولکولها جمعآوری میشود. سپس الگوریتمهای مختلف برای پردازش و تفسیر این دادهها به کار میروند.
اگر هوش مصنوعی در این مسیر بعضی سیگنالها را تقویت، تضعیف یا به شکل دیگری تغییر دهد، ممکن است نتیجهی نهایی با واقعیت زیستی متفاوت شود؛ آن هم بدون اینکه یک «دادهی جعلی» آشکار در اختیار پژوهشگر قرار گرفته باشد.
برگر معتقد است تشخیص چنین تغییراتی برای پژوهشگری که درک عمیقی از نحوه عملکرد مدل ندارد، میتواند بسیار دشوار باشد. از دست دادن یک داروی مؤثر یا ساختن یک درمان خیالی
کاربردهایی مانند غربالگری داروها یا شناسایی پروتئینهای بالقوه، در مقایسه با استفاده مستقیم از دادههای مصنوعی، ریسک کمتری دارند.
یک مدل هوش مصنوعی میتواند هزاران یا میلیونها گزینه را بررسی کند و تعداد محدودی از نامزدهای امیدوارکننده را برای آزمایش آزمایشگاهی پیشنهاد دهد.
اگر مدل اشتباه کند، ممکن است یک داروی مؤثر کنار گذاشته شود یا پژوهشگران زمان و هزینه خود را روی گزینهای صرف کنند که در نهایت شکست میخورد. با این حال، در نهایت آزمایش واقعی مشخص میکند که کدام گزینه واقعاً مؤثر است.
مشکل زمانی جدیتر میشود که دادهی تولیدشده توسط AI جایگزین اندازهگیری تجربی شود. دادههای مصنوعی؛ مفید اما پرریسک
دادههای زیستی مصنوعی میتوانند کاربردهای مهمی داشته باشند؛ از جمله پر کردن دادههای ناقص، کاهش هزینههای تحقیق، حفاظت از حریم خصوصی بیماران، ایجاد گروههای مقایسه و حتی کاهش تعداد حیوانات مورد استفاده در برخی آزمایشها.
اما اگر مدل ویژگیای را به داده اضافه کند که در واقعیت وجود ندارد، ممکن است پژوهشگر تصور کند یک اثر زیستی جدید را کشف کرده است.
در این حالت، هوش مصنوعی دیگر صرفاً یک پیشبینی اشتباه ارائه نکرده است؛ بلکه خودِ شواهدی را تولید کرده که میتواند از یک ادعای علمی نادرست پشتیبانی کند. آیا توهم هوش مصنوعی میتواند به کشف واقعی منجر شود؟
نکته جالب دیگری که برگر مطرح میکند، احتمال تبدیل یک خطای هوش مصنوعی به یک کشف واقعی است.
او این وضعیت را با «سرندیپیتی» یا یافتن تصادفی یک نتیجه مفید و غیرمنتظره مقایسه میکند؛ پدیدهای که در تاریخ علم بارها اتفاق افتاده است.
ممکن است هوش مصنوعی یک الگوی غیرمنتظره پیشنهاد کند که در نگاه اول اشتباه به نظر برسد، اما پژوهشگر تصمیم بگیرد آن را آزمایش کند و در نهایت مشخص شود که پشت آن، یک پدیده واقعی و ناشناخته وجود دارد.
بنابراین یک توهم AI میتواند، در شرایطی، نقطه شروع یک کشف واقعی باشد؛ اما تنها زمانی که نتیجه در دنیای واقعی و بهصورت مستقل آزمایش و تأیید شود. AlphaFold 3؛ هشداری از دنیای واقعی
یکی از نمونههای مرتبط با این بحث، AlphaFold 3 است؛ سامانهای که برای پیشبینی ساختار و برهمکنش مولکولهای زیستی طراحی شده است.
در مقالهای که در سال ۲۰۲۴ در مجله Nature منتشر شد، توسعهدهندگان AlphaFold 3 به امکان ایجاد ساختارهای غیرواقعی یا «توهمی» در برخی نواحی نامنظم پروتئین اشاره کردند. امتیازهای اطمینان پایین مدل میتوانند در چنین شرایطی به پژوهشگران هشدار دهند که باید با احتیاط بیشتری نتیجه را تفسیر کنند.
این نمونه نشان میدهد که حتی مدلهای بسیار پیشرفته نیز مصون از تولید خروجیهای گمراهکننده نیستند. معیار اصلی: فرضیه یا شاهد؟
در نهایت، مسئله اصلی خودِ استفاده از هوش مصنوعی نیست؛ بلکه نحوه برخورد پژوهشگر با خروجی آن است.
اگر خروجی AI بهعنوان یک ایده، فرضیه یا ابزاری برای انتخاب گزینههای مناسب جهت آزمایش استفاده شود، خطاهای آن قابل کنترلتر هستند.
اما اگر همان خروجی بهعنوان یک مشاهده واقعی یا جایگزین دادههای تجربی پذیرفته شود، احتمال ورود یک «واقعیت خیالی» به ادبیات علمی افزایش پیدا میکند. هوش مصنوعی جایگزین آزمایش علمی نیست
هیجانانگیزترین نتیجهای که یک مدل هوش مصنوعی پیشنهاد میکند، تا زمانی که در یک آزمایش واقعی و مستقل تأیید نشده باشد، کشف علمی محسوب نمیشود.
هوش مصنوعی میتواند سرعت و دامنهی جستوجوی علمی را به شکل چشمگیری افزایش دهد؛ اما در زیستشناسی، مرز میان «پیشبینی»، «فرضیه» و «شواهد» باید همیشه روشن باقی بماند.
در علم، یک نتیجه زمانی ارزش کشف پیدا میکند که واقعیت، آن را تأیید کند؛ نه صرفاً زمانی که یک الگوریتم آن را باورپذیر ساخته باشد. پایان خبر / رکنا / کدخبر 1238127
اخبار وبگردی را در اینجا بخوانید: فیلم/ مهار تاریخی بیرانوند/ خاطرهانگیزترین ایران و پرتغال مشاهده خبر
اخبار تاپ حوادث جزئیات تازه و اختصاصی رکنا از گروگانگیری پارک ساعی تهران / زن جوان چرا به خانه مرد مسلح رفته بود؟ فیلم لحظه سرقت و عکس چهره باز 2 زن که دزدان سریالی طلافروشی های تهران هستند / آنها را می شناسید ؟! گزارش اولیه پلیس از گروگانگیری یک زن در پارک ساعی / گروگان پرستار خانگی بود فوری / گروگانگیری در پارک ساعی تهران فیلم/ قتل فقط با چند کلیک عکس / قاتل فراری مبینا زارع کجاست ؟! / این مرد تحت تعقیب پلیس اینترپل باورهای نادرست درباره هپاتیت؛ از دست دادن منتقل نمی شود تا موثرترین راه مقابله تبلیغات تبلیغات
