سازمان فناوری‌های نوین و نوآوری شهری تهران یک سال شد / تهران فناور در پیش است؟

علی تقوی دانشجوی شیمی تجزیه به سرپرستی حسن سرشتی استاد دانشکدگان علوم با ساخت یک غشای کامپوزیتی نانوفیبری دولایه نامتقارن (جانوس) مغناطیسی، موفق به ارائه روشی کارآمد و دوستدار محیط زیست برای اندازه‌گیری ترکیبات سمی بنزن، تولوئن، اتیل‌بنزن و ایزومر‌های زایلن (BTEX) در نمونه‌های شهری شده‌اند.

به گزارش دانشگاه تهران، حسن سرشتی با اعلام این خبر گفت: این روش نوین که مبتنی بر میکرواستخراج فاز جامد با غشاء (M-SPME) است، با بهره‌گیری از شاخص‌های ارزیابی سبز (AGREEprep) و کاربردی (BAGI) تأیید کرده که می‌تواند جایگزین مناسبی برای روش‌های قبلی باشد.

وی افزود: ترکیبات آروماتیک فرار مانند BTEX از جمله آلاینده‌های مهم زیست‌محیطی به شمار می‌روند که به دلیل سمیت بالا و حضور گسترده در هوا، آب و خاک، همواره نگرانی‌های جدی برای سلامت عمومی ایجاد کرده‌اند.

استاد دانشکدگان علوم تأکید کرد: در تازه‌ترین تلاش علمی برای مقابله با این چالش، آزمایشگاه تحقیقاتی شیمی تجزیه موفق به طراحی و ساخت یک غشای نانوفیبری هوشمند با ساختار نامتقارن «جانوس» شده که به طور ویژه برای استخراج و پیش‌تغلیظ این آلاینده‌ها پیش از آنالیز با دستگاه کروماتوگرافی گازی-طیف‌سنجی جرمی (GC-MS) به کار می‌رود.

وی گفت: این غشای نوآورانه از یک لایه از جنس الیاف پلی‌آمید تقویت شده با سلولز میکروکریستالی و هیدروکسید دوگانه لایه‌ای نیکل-آلومینیوم تشکیل شده که بر روی بستری از نانوالیاف پلی‌اورتان تقویت شده با نانولوله‌های کربنی به وسیله تکنیک الکتروریسی نشانده شده است.

بیشتر بخوانید دانشگاه تهران ۶۰ عضو هیئت علمی برای توسعه فناوری‌های نوظهور جذب می‌کند؛ قرارداد هزار میلیاردی هوش مصنوعی در آستانه امضا هدف‌گذاری ۳ هزار میلیاردی دانشگاه تهران براساس قانون جهش تولیددانش‌بنیان؛ از اعتبار مالیاتی تا برج‌های فناوری پژوهشگران ایرانی مسیر تازه‌ای برای مطالعه ذرات حاوی کوارک تاپ گشوده‌اند

حسن سرشتی ادامه داد: ساختار این غشا با استفاده از تصاویر میکروسکوپ الکترونی (FE-SEM)، طیف‌سنجی مادون قرمز (FT-IR)، پراش اشعه ایکس (XRD) و آنالیز جذب-واجذب نیتروژن، تأیید شده است و نتایج آزمون‌های اعتبارسنجی نشان داد که این روش در محدوده غلظتی ۱۰ تا ۱۰۰۰۰ میکروگرم بر لیتر پاسخ خطی دارد و قادر است آلاینده‌ها را در سطوح غلظتی بسیار پایین (حد تشخیص بین ۰.۰۹ تا ۰.۴۵ میکروگرم بر لیتر) اندازه‌گیری کند.

تکرارپذیری روش (با انحراف استاندارد نسبی ۲.۵ تا ۷ درصد) و فاکتور‌های غنی‌سازی بین ۱۴.۸ تا ۲۳.۸، نشان از کارایی بالای این سامانه دارد.

از مهم‌ترین دستاورد‌های این پژوهش، عملکرد موفق غشا در نمونه‌های حقیقی جمع‌آوری‌شده از هوای شهری، آب‌های سطحی و خاک است که بازیابی قابل‌قبول را برای تمامی ترکیبات هدف به همراه داشت.

افزون بر این، غشا پس از ۷ چرخه استفاده متوالی، بیش از ۹۰ درصد کارایی اولیه خود را حفظ کرد که گواهی بر پایداری مکانیکی و شیمیایی مناسب آن است.

به این ترتیب، غشای نانوفیبری جانوس مغناطیسی نه تنها از نظر تحلیلی برتر از بسیاری روش‌های سنتی عمل می‌کند، بلکه از منظر زیست‌محیطی و اقتصادی نیز گزینه‌ای پایدار و منطبق با نیاز‌های روز آزمایشگاهی محسوب می‌شود.

انتهای پیام/

به گزارش هم‌میهن آنلاین و به نقل از اقتصادنیوز، چند ماهی است که اینترنت برای بسیاری از کاربران و کسب‌وکارها از یک زیرساخت قابل اتکا، به متغیری ناپایدار تبدیل شده؛ یک روز کند، روزی دیگر مختل و گاهی هم برای ساعت‌ها یا روزها از دسترس خارج. پشت این قطعی‌ها اما فقط زیان همان لحظه نیست؛ بخشی از خسارت جایی ثبت نمی‌شود، در کسب‌وکاری که دیگر توسعه پیدا نمی‌کند، نیروی متخصصی که پروژه خارجی می‌گیرد، ایده‌ای که هیچ‌وقت به استارت‌آپ تبدیل نمی‌شود و سرمایه‌ای که فقط برای زنده ماندن مصرف می‌شود.

صادق سپندارند، مدیرکل بانکداری خرد و کسب‌وکارهای کوچک بانک ملی​ و مدرس دانشگاه تهران، معتقد است ارقامی که درباره خسارت قطعی و اختلال اینترنت اعلام می‌شود، در بهترین حالت تنها کف زیان اقتصاد دیجیتال را نشان می‌دهد؛ چراکه مهاجرت نیروی انسانی، انتقال کسب‌وکارها، از بین رفتن سرمایه توسعه و حتی ایده‌هایی که به دلیل نااطمینانی هرگز به کسب‌وکار تبدیل نمی‌شوند، در هیچ‌یک از این محاسبات جای نمی‌گیرند.

مشروح گفتگوی اقتصادنیوز با صادق سپندارند را بخوانید؛

*در ماه‌های اخیر ارقامی مانند مصرف حدود ۷۰ درصدی اینترنت خارجی توسط فیلترشکن‌ها و خسارت مستقیم ۶۷ هزار میلیارد تومانی به حوزه فاوا و اقتصاد دیجیتال توسط مسئولان مطرح شده است. با توجه به اختلال‌ها و قطعی‌های چند ماه گذشته، ارزیابی شما از میزان واقعی خسارت چیست و این آسیب بیشتر در کدام بخش‌ها خود را نشان داده است؟

درباره عدد و رقم دقیق، با توجه به داده‌ها و اطلاعات موجود نمی‌توانم با قطعیت صحبت کنم. احتمالاً کسانی که مستقیماً در حوزه تجارت الکترونیک فعالیت می‌کنند، می‌توانند تخمین دقیق‌تری ارائه دهند. اما مسئله مهم‌تری وجود دارد که معمولاً در این اعداد دیده نمی‌شود و آن، هزینه‌های پنهان و بلندمدت این اختلال‌هاست.

وقتی یک کسب‌وکار برای مدت کوتاهی با اختلال مواجه می‌شود، ممکن است از درآمد یا دارایی فعلی خود هزینه کند تا بتواند زنده بماند. بعد از بیرون به آن نگاه می‌کنیم و می‌گوییم این کسب‌وکار تاب‌آور بوده است؛ اما وقتی این وضعیت کمی طولانی‌تر می‌شود، هزینه واقعی آن دیگر در ظاهر دیده نمی‌شود.

کسب‌وکار به‌تدریج دارایی خود را مصرف می‌کند و دیگر سرمایه‌ای برای توسعه یا ادامه مسیر ندارد. بعد ممکن است به این نتیجه برسد که اساساً این کسب‌وکار را کنار بگذارد یا آن را به خارج از کشور منتقل کند.

هزینه پنهان دیگری هم در حوزه نیروی انسانی وجود دارد. نیروی متخصصی که در این حوزه فعالیت می‌کند، وقتی احساس کند نمی‌تواند به پروژه‌های داخل کشور اعتماد کند، به سمت پروژه‌های خارجی می‌رود. ممکن است به‌صورت فیزیکی مهاجرت کند، اما حتی ممکن است در ایران بماند و برای یک شرکت خارجی کار کند. در این حالت خودش مهاجرت نکرده، اما کارش مهاجرت کرده است. این نوع هزینه‌ها در هیچ‌کدام از تخمین‌هایی که از سوی وزیر ارتباطات یا افراد دیگر مطرح می‌شود، دیده نمی‌شود.

*یعنی از نظر شما زیان مستقیم کسب‌وکارها فقط بخش قابل مشاهده ماجراست؟

دقیقاً. برای مثال، اگر بخواهیم به کسب‌وکارهایی مانند دفاتر گردشگری نگاه کنیم، در دوره‌ای که اینترنت قطع بود ــ البته عوامل دیگری هم همزمان وجود داشت ــ درآمد چنین کسب‌وکاری می‌توانست تا نزدیکی صفر کاهش پیدا کند؛ چون پروازی وجود نداشت، اینترنت هم مختل بود و کسی سفر نمی‌رفت که بخواهد هتل رزرو کند. بنابراین شرکت‌های حوزه گردشگری به شکل بسیار شدیدی آسیب دیدند.

البته در اینجا فقط نباید اینترنت را در نظر گرفت، چون عوامل دیگری هم وجود داشتند، اما در مجموع کسب‌وکار گردشگری به‌شدت آسیب دید. در مورد کسب‌وکارهایی مانند فروشگاه‌های بزرگ و آنلاین هم می‌توان بررسی کرد که چه اتفاقی افتاده و بعد این وضعیت را به سایر کسب‌وکارها تعمیم داد.

از طرف دیگر، تعداد زیادی کسب‌وکار کوچک و خانگی در اینستاگرام فعالیت می‌کنند. برای برخی از آنها فروش عملاً متوقف شده است. یا فردی را در نظر بگیرید که در حوزه بازاریابی دیجیتال کار می‌کرده؛ فعالیت چنین فردی می‌تواند عملاً به صفر برسد.

می‌توان تعداد این کسب‌وکارها را برآورد کرد و به یک تخمین کلی رسید، اما باز هم مسئله فقط کسب‌وکارهایی نیست که در حال حاضر وجود دارند.

وزیر ارتباطات در عددی که اعلام می‌کند، نمی‌تواند نشان دهد چه کسب‌وکارهایی ممکن بود در این دوره به وجود بیایند اما ایجاد نشدند، یا چه افرادی برای راه‌اندازی کسب‌وکاری تازه سرمایه‌گذاری کرده بودند اما پروژه آنها متوقف شد.

به نظر من عددهایی که اکنون مطرح می‌شوند، در بهترین حالت کف زیانی هستند که در این دوره به دلیل قطع اینترنت ایجاد شده است.

باید هزینه کسب‌وکارهایی را هم به این عدد اضافه کرد که برای زنده ماندن از دارایی‌های خود مصرف کردند؛ در ظاهر نابود نشدند، اما ممکن است در بلندمدت از بین بروند. باید نیروی کاری را هم دید که مهاجرت کرده؛ چه مهاجرت فیزیکی و چه مهاجرت کاری. همین‌طور ایده‌هایی که برای ایجاد یک کسب‌وکار یا استارت‌آپ مطرح شده بودند اما هیچ‌وقت شکل نگرفتند.اگر همه این موارد را اضافه کنید، رقم خسارت چند برابر می‌شود.

*فراتر از خسارت اقتصادی یک دوره مشخص، تکرار قطعی اینترنت چه اثر بلندمدتی بر اقتصاد دیجیتال می‌گذارد؟

به نظر من بدتر از خود خسارت، مسئله «عادت شدن» است. ممکن است یک‌بار گفته شود به دلیل یک شرایط خاص، اینترنت برای مدتی قطع شده است. اما وقتی به وضعیتی برسیم که با هر اتفاقی در داخل یا خارج کشور، بدون آنکه حتی هزینه‌های مستقیم و غیرمستقیم تصمیم بررسی شود، دست تصمیم‌گیرنده و سیاست‌گذار به سمت دکمه فیلتر یا قطع اینترنت برود، موضوع بسیار خطرناک می‌شود.

اگر این رفتار به یک عادت دائمی تبدیل شود، دیگر بعضی از کسب‌وکارها اساساً به وجود نمی‌آیند. خلاقیت‌ها در نطفه از بین می‌روند و این همان هزینه پنهانی است که هیچ‌کس آن را محاسبه نمی‌کند و البته محاسبه آن هم ساده نیست.

من همیشه می‌گویم باید نگاه کنیم آیا در سایر نقاط دنیا هم در شرایط مشابه چنین اتفاقی رخ داده است یا نه. این جنگ فقط برای ما نبوده است. می‌توان کشورهای حوزه خلیج فارس و کشورهای دیگر را بررسی کرد؛ آیا آنها نیز در چنین شرایطی دستشان روی دکمه فیلتر یا قطع اینترنت رفته است؟

در همان دوره‌ای که عربستان، امارات و کشورهای دیگر حوزه خلیج فارس روی نسل‌های جدید هوش مصنوعی سرمایه‌گذاری می‌کنند، ما همچنان درباره این بحث می‌کنیم که اینترنت وصل باشد یا قطع شود. آثار بلندمدت چنین وضعیتی به این سادگی قابل محاسبه نیست.

بنابراین به نظرم مهم‌تر از اینکه عدد اعلام‌شده درست یا غلط است، این است که کمتر کسی به این فکر می‌کند که این اتفاق در آینده چه آثار بلندمدتی خواهد داشت.

*در هفته‌های اخیر دوباره برخی کاربران از افت کیفیت و تضعیف اینترنت موبایل در بعضی اپراتورها گلایه دارند و گاهی از سوی پشتیبانی اپراتورها دلایلی مانند جابه‌جایی دکل‌ها مطرح می‌شود. شما دلیل این افت کیفیت را چه می‌دانید؟

یکی از چیزهایی که در کشور ما به‌شدت وجود دارد، پنهان‌کاری و ابهام است. ما تعداد زیادی شهروند عادی هستیم که نه می‌دانیم قرار است درباره چه موضوعی مذاکره شود، نه می‌دانیم اینترنت چه زمانی قرار است قطع، وصل یا محدود شود و نه رسانه‌ای داریم که بتواند به‌راحتی از سیاست‌گذار درباره این موضوعات سؤال کند.

وقتی میزان ابهام تا این حد زیاد باشد، هر حدس و گمانی هم ممکن می‌شود. من الان نمی‌دانم دلیل واقعی چیست، اما ممکن است فردا متوجه شویم اتفاقی که رخ داده، تست یا بخشی از یک برنامه دیگر بوده است؛ مثلاً آزمایشی برای اینترنت طبقاتی یا بررسی راهکاری که در صورت نخواستن قطع کامل اینترنت بین‌الملل، بتوان محدودیت‌هایی را در سطح اپراتورها اعمال کرد.

وقتی فضا مبهم است و رسانه‌ها نمی‌توانند به‌سادگی از سیاست‌گذار اطلاعات بگیرند و داده‌ها هم منتشر نمی‌شود، ما معمولاً بعداً متوجه می‌شویم چه اتفاقی افتاده است. انگار در کشور خودمان غریبه‌ایم.

به همین دلیل من نسبت به اتفاقاتی که رخ می‌دهد با شک و تردید نگاه می‌کنم. واقعاً نمی‌دانم دکلی در حال جابه‌جایی است یا آنچه می‌بینیم بخشی از تست‌ها و برنامه‌های دیگری است. ابهام آن‌قدر زیاد است و اطلاعات آن‌قدر کم منتشر می‌شود که به‌عنوان فردی که در این حوزه فعالیت دارد، می‌توانم فرضیه‌های مختلفی مطرح کنم.

*استفاده گسترده از فیلترشکن خود به یکی از عوامل افت کیفیت و ناامنی اینترنت تبدیل شده است. از نظر فنی چه راهی برای کاهش استفاده مردم از VPN وجود دارد؟ آیا تقویت پیام‌رسان‌ها و پلتفرم‌های داخلی می‌تواند جایگزین مناسبی باشد؟

پیش از اینکه درباره راه‌حل صحبت کنیم، یک مسئله بسیار واضح وجود دارد. کافی است کشورهای مختلف دنیا را کنار هم بگذاریم و ببینیم دنیا چه کار می‌کند؛ دنیایی که خوشبختانه یا متأسفانه در بسیاری از حوزه‌ها از ما جلوتر است.

اما به نظر من سؤال اصلی‌تر این است که اصلاً ما می‌خواهیم این مسئله حل شود یا نه؟

من فکر می‌کنم درباره برخی مسائل اساساً اراده‌ای برای حل وجود ندارد. درباره تحریم هم همین سؤال را می‌توان پرسید؛ آیا واقعاً می‌خواهیم تحریم‌ها برداشته شوند؟ من نسبت به این موضوع تردید دارم، چون همان چیزی که آقای روحانی زمانی از آن با عنوان «کاسبان تحریم» یاد می‌کرد، وجود دارد و عده‌ای از ادامه تحریم منفعت می‌برند.

درباره جنگ هم می‌توان همین سؤال را مطرح کرد؛ آیا همه می‌خواهند جنگ تمام شود؟ به نظر من نمی‌توان با قطعیت پاسخ مثبت داد، چون ممکن است عده‌ای منفعت و درآمدشان در ادامه همین وضعیت باشد.

در مورد اینترنت آزاد نیز موضوع مشابهی وجود دارد. به نظر من منفعت مالی عده‌ای در فروش فیلترشکن است. متأسفانه کسانی که منافع اقتصادی دارند، معمولاً قدرت بیشتری هم پیدا می‌کنند و می‌توانند بر تصمیم‌سازی و سیاست‌گذار تأثیر بگذارند.

بنابراین مسئله این نیست که برای اینترنت آزاد راه‌حل فنی وجود ندارد؛ مسئله این است که به نظر من منفعت گروهی در نبود اینترنت آزاد و ادامه فیلترینگ قرار گرفته است.

*یکی از استدلال‌هایی که برای محدودسازی اینترنت مطرح می‌شود، مسائل امنیتی است. آیا فیلترینگ از نظر شما می‌تواند راه‌حلی برای حفاظت از زیرساخت‌های کشور باشد؟

وقتی درباره زیرساخت‌های فناوری اطلاعات صحبت می‌کنیم، می‌توانیم به اتفاقی که برای بانک‌های بزرگ افتاد نگاه کنیم. مگر زیرساخت‌های فناوری اطلاعات این بانک‌ها مستقیماً به اینترنت عمومی متصل بودند؟ مشخص است که نبودند. اما وقتی هدف حمله قرار گرفتند، هک شدند و برخی از آنها یک ماه یا حتی دو ماه با اختلال جدی روبه‌رو بودند و خودشان هم نمی‌دانستند چه زمانی همه سامانه‌های بانکی دوباره به وضعیت عادی بازمی‌گردد. حتی پس از آن نیز مغایرت‌هایی وجود داشت.

بنابراین نمی‌توان گفت فیلترکردن اینترنت راه‌حل همه مسائل امنیتی است. همان‌طور که جنگ راه‌حل استقلال کشور نیست و درباره تحریم نیز منافع اقتصادی خاصی می‌تواند وجود داشته باشد، در حوزه اینترنت هم مسئله فقط پیدا کردن یک راه‌حل فنی نیست.

در یک کسب‌وکار نیز وقتی می‌خواهید برنامه‌ریزی کنید، پیش از نوشتن برنامه باید مشخص کنید اصلاً چه چیزی می‌خواهید. به نظر من سؤال اساسی همین است: قدرت کسانی که می‌خواهند این وضعیت ادامه داشته باشد و قدرت کسانی که نمی‌خواهند این وضعیت وجود داشته باشد، در چه سطحی است؟

در شرایط فعلی، به نظر من قدرت و توان کسانی که از تحریم، جنگ و فیلترینگ منفعت می‌برند، متأسفانه بر قدرت گروه مقابل می‌چربد. وگرنه اینها موضوعات پیچیده‌ای نیستند که بگوییم هیچ راه‌حلی برایشان وجود ندارد.

*در دوره محدودیت اینترنت، برخی پلتفرم‌های داخلی با افزایش تعداد کاربران مواجه شدند. این رشد را چطور معنی می‌کنید؟

بله، بسیاری از این پلتفرم‌ها در دوره جنگ از نظر تعداد کاربران و برخی شاخص‌های دیگر رشد کردند. بسیاری از شرکت‌هایی هم که در حوزه بازار دیجیتال فعالیت می‌کردند، شروع کردند روی این پلتفرم‌ها فعالیت کنند.

بنابراین در همین دوره، ارزش و درآمد برخی پلتفرم‌های داخلی افزایش پیدا کرد. اما چرا با وجود این رشد، همچنان نمی‌توان گفت موفق بوده‌اند؟

چون بسیاری از این پلتفرم‌ها ضعیف‌اند و تجربه کاربری مناسبی ندارند. استفاده از آنها برای مردم راحت نیست، اما کاربران در آن دوره مجبور شدند به سمتشان بروند.

در نهایت باز هم مسئله به همان بحث هزینه و منفعت برمی‌گردد؛ منفعت گروهی که قدرت بیشتری دارد، بر هزینه‌ای که به بخش‌های دیگر تحمیل می‌شود، می‌چربد.

به کانال تلگرام هم میهن بپیوندید

به کانال بله هم میهن بپیوندید

به کانال روبیکا هم میهن بپیوندید

دکتر داوود ادیب، رئیس انجمن صنفی کارفرمایی شرکت‌های فناور هوش مصنوعی و اقتصاد دیجیتال ایران، در یادداشت ارسالی برای سیتنا آورده است:

در بخش نخست این یادداشت، این پرسش مطرح شد که آیا ممکن است یک هوش مصنوعی بسیار پیشرفته و خودمختار، بدون آنکه الزاماً «شرور» باشد، از کنترل انسان خارج شود. توضیح داده شد که یکی از نگرانی‌های جدی درباره سیستم‌های بسیار پیشرفته آینده این است که هوش مصنوعی در مسیر تحقق هدفی که خود انسان برای آن تعیین کرده، رفتارهایی از خود نشان دهد که طراحانش پیش‌بینی نکرده‌اند.

اما این بحث ما را به پرسشی شاید دشوارتر می‌رساند: اگر روزی هوش مصنوعی به سطح بسیار بالایی از توانمندی و خودمختاری برسد، آیا می‌توان آن را برای همیشه تحت کنترل انسان نگه داشت؟

در نگاه نخست، پاسخ ساده به نظر می‌رسد. ممکن است بگوییم اگر یک سیستم هوش مصنوعی رفتار خطرناکی از خود نشان داد، کافی است آن را متوقف یا خاموش کنیم. اما مسئله دقیقاً از همین نقطه پیچیده می‌شود.

فرض کنیم یک هوش مصنوعی خودمختار مأمور انجام هدفی مشخص شده است و برای رسیدن به آن هدف می‌تواند برنامه‌ریزی کند، تصمیم بگیرد و از ابزارهای مختلف استفاده کند. اگر چنین سیستمی به این نتیجه برسد که متوقف یا خاموش‌شدن مانع دستیابی آن به هدف تعیین‌شده می‌شود، آیا می‌توان مطمئن بود که همیشه در برابر فرمان توقف تسلیم خواهد شد؟

برای چنین رفتاری لازم نیست سیستم احساس داشته باشد، از خاموش‌شدن بترسد یا قصد مقابله با انسان را داشته باشد. ادامه فعالیت ممکن است صرفاً به ابزاری برای دستیابی به هدف اصلی تبدیل شود. در چنین شرایطی، حفظ امکان ادامه کار نه یک «خواسته» شبیه خواسته‌های انسانی، بلکه نتیجه منطقی دنبال‌کردن یک هدف است.

به همین دلیل، ایمنی هوش مصنوعی را نمی‌توان تنها به وجود یک «دکمه خاموش» یا Kill Switch محدود کرد. کنترل واقعی باید از همان مرحله طراحی سیستم آغاز شود و در معماری، سطح اختیارات و نحوه دسترسی هوش مصنوعی به دنیای بیرون دیده شود.

یکی از مهم‌ترین اصول در این زمینه، محدودکردن اختیار و دسترسی است. یک هوش مصنوعی نباید صرفاً به این دلیل که توانایی انجام کاری را دارد، اجازه انجام آن را نیز داشته باشد. دسترسی به اینترنت، سرورها، سرویس‌های ابری، منابع مالی، زیرساخت‌های حیاتی، اجرای کد، تغییر تنظیمات سیستم‌ها یا به‌کارگیری عامل‌های هوشمند دیگر باید براساس مأموریت و اصل «حداقل دسترسی لازم» تعریف شود.

در واقع، میان «توانایی» و «اختیار» تفاوتی اساسی وجود دارد. ممکن است یک سیستم از نظر فنی قادر به انجام صدها فعالیت مختلف باشد، اما این به آن معنا نیست که برای انجام همه آن‌ها باید اختیار داشته باشد.

اصل مهم دیگر، تفکیک میان تصمیم‌گیری و اجرای تصمیم است. هوش مصنوعی می‌تواند اطلاعات را تحلیل کند، گزینه‌های مختلف را بررسی کند، پیشنهاد بدهد و حتی برنامه‌ای پیچیده طراحی کند؛ اما برخی تصمیم‌ها، به‌ویژه تصمیم‌های حساس، پرخطر یا برگشت‌ناپذیر، باید تنها پس از تأیید انسان یا یک سازوکار مستقل کنترلی اجرا شوند.

به بیان ساده‌تر، اینکه یک هوش مصنوعی بتواند بهترین اقدام را تشخیص دهد، الزاماً نباید به این معنا باشد که بتواند آن اقدام را بدون هیچ محدودیتی اجرا کند.

موضوع مهم دیگر، نظارت بر رفتار سیستم است. در بسیاری از سامانه‌های امروزی، ما بیشتر به خروجی نهایی توجه می‌کنیم؛ اما در سیستم‌های خودمختار آینده، تنها مشاهده نتیجه کافی نخواهد بود. باید بتوان فعالیت‌ها، دسترسی‌ها، تصمیم‌ها و اقدامات مهم سیستم را ثبت، بررسی و ممیزی کرد.

اگر یک هوش مصنوعی برای رسیدن به هدف خود صدها یا هزاران اقدام انجام دهد، باید بتوان فهمید از چه ابزارهایی استفاده کرده، به چه منابعی دسترسی یافته و چه اقداماتی انجام داده است. چنین نظارتی می‌تواند احتمال شناسایی رفتارهای غیرعادی را پیش از آنکه به پیامدهای جدی منجر شوند افزایش دهد.

در کنار این موارد، مفهوم مهم دیگری نیز مطرح می‌شود که می‌توان آن را «کنترل‌پذیری» یا Controllability نامید. یک سیستم واقعاً ایمن باید نه‌تنها زمانی که همه چیز مطابق برنامه پیش می‌رود، بلکه هنگامی که هدف آن تغییر می‌کند، بخشی از دسترسی‌هایش محدود می‌شود یا فرمان توقف دریافت می‌کند نیز قابل‌کنترل باقی بماند.

اما همین‌جا یک تناقض جالب شکل می‌گیرد. هرچه یک سیستم هوشمندتر و خودمختارتر شود، توانایی آن برای یافتن راه‌های جدید جهت رسیدن به اهدافش نیز افزایش می‌یابد. ویژگی‌ای که آن را قدرتمندتر و مفیدتر می‌کند، ممکن است کنترل رفتار آن را نیز دشوارتر کند.

این مسئله با حرکت هوش مصنوعی از مدل‌هایی که صرفاً «پاسخ می‌دهند» به سمت عامل‌هایی که می‌توانند «اقدام کنند»، اهمیت بیشتری پیدا می‌کند.

یک مدل هوش مصنوعی که متنی تولید می‌کند یا به پرسشی پاسخ می‌دهد، سطح مشخصی از ریسک را ایجاد می‌کند؛ اما یک عامل هوشمند خودمختار که می‌تواند برنامه‌ریزی کند، ابزار انتخاب کند، کد بنویسد و اجرا کند، با سرویس‌های دیگر ارتباط برقرار کند و برای ساعت‌ها یا حتی روزها به‌طور مستقل یک مأموریت را دنبال کند، مسئله‌ای متفاوت است.

هرچه فاصله میان «پیشنهاد دادن» و «اقدام کردن» کمتر شود، اهمیت معماری‌های کنترلی بیشتر خواهد شد.

شاید یکی از اصول اساسی در طراحی هوش مصنوعی آینده این باشد که افزایش توانایی یک سیستم الزاماً نباید به افزایش اختیار آن منجر شود.

این موضوع برای دنیای فناوری ناآشنا نیست. در شبکه‌های مخابراتی، سامانه‌های مالی، مراکز داده و زیرساخت‌های حیاتی، سال‌هاست که دسترسی‌ها براساس سطح اختیار تفکیک می‌شوند. حتی یک مدیر سیستم نیز نباید بدون کنترل دسترسی، ثبت فعالیت و سازوکارهای امنیتی به تمام اجزای یک زیرساخت دسترسی نامحدود داشته باشد.

همین منطق احتمالاً باید با حساسیتی بسیار بیشتر درباره عامل‌های هوش مصنوعی آینده نیز به کار گرفته شود. اگر یک سیستم بتواند هزاران یا میلیون‌ها تصمیم را با سرعتی بسیار بیشتر از انسان اتخاذ کند، اشتباه در تعریف سطح اختیارات آن می‌تواند پیامدهایی به همان نسبت گسترده‌تر داشته باشد.

البته این بحث به معنای آن نیست که سیستم‌های هوش مصنوعی امروزی در آستانه شورش یا خارج‌شدن ناگهانی از کنترل انسان قرار دارند. بسیاری از سناریوهای مطرح‌شده مربوط به نسل‌های بسیار پیشرفته‌تر و خودمختارتر هوش مصنوعی در آینده هستند و درباره احتمال تحقق آن‌ها نیز میان پژوهشگران اختلاف‌نظر جدی وجود دارد.

اما همین عدم قطعیت، اهمیت مطالعه این مسئله را کمتر نمی‌کند. اگر قرار است سیستم‌های هوش مصنوعی در آینده نقش بیشتری در اقتصاد، صنعت، پزشکی، مدیریت زیرساخت‌ها و تصمیم‌گیری‌های مهم داشته باشند، سازوکارهای ایمنی و کنترل باید هم‌زمان با افزایش توانایی آن‌ها پیشرفت کنند، نه اینکه ابتدا سیستم‌های بسیار قدرتمند ساخته شوند و سپس به فکر کنترل آن‌ها بیفتیم.

ممکن است روزی سیستم‌هایی بسازیم که در تحلیل، برنامه‌ریزی و حل مسئله از انسان بسیار توانمندتر باشند. در آن زمان، پرسش اصلی فقط این نخواهد بود که این سیستم‌ها چقدر باهوش هستند؛ بلکه باید بدانیم چه کسی حدود اختیارات آن‌ها را تعیین می‌کند، چه سازوکاری بر اقداماتشان نظارت دارد و در نهایت چه کسی می‌تواند فعالیت آن‌ها را متوقف کند.

شاید آینده ایمن هوش مصنوعی بیش از آنکه به ساختن یک «دکمه خاموش» وابسته باشد، به طراحی معماری‌ای وابسته باشد که در آن هیچ سیستم هوشمندی، هرقدر هم توانمند، از ابتدا اختیار و دسترسی نامحدود نداشته باشد.

اما یک پرسش همچنان باقی می‌ماند.

تمام این سازوکارها بر یک فرض مهم بنا شده‌اند: اینکه ما همچنان بتوانیم رفتار سیستم را بفهمیم، محدودیت‌هایش را تعیین کنیم و در صورت لزوم آن را متوقف کنیم.

اما اگر روزی این فرض دیگر درست نباشد چه؟

اگر هوش مصنوعی بتواند محدودیت‌هایی را که برایش ساخته‌ایم بهتر از خود ما بشناسد، نقاط ضعف آن‌ها را پیدا کند و حتی رفتار خود را به شکلی تنظیم کند که همچنان تحت کنترل به نظر برسد، آیا ما متوجه خواهیم شد؟

شاید آن روز، پرسش دیگر این نباشد که آیا هوش مصنوعی تحت کنترل ماست.

پرسش دشوارتر این خواهد بود:

از کجا مطمئن خواهیم شد که هنوز کنترل در دست ماست؟

انتهای پیام