به گفته او، آزمون معروف تورینگ که برای سنجش هوشمندی ماشینها طراحی شده، هوش مصنوعی را به مسیری اشتباه کشانده است.
در سال ۱۹۵۰، آلن تورینگ (Alan Turing)، پدر علم رایانه نظری، آزمونی را پیشنهاد کرد که به آزمون تورینگ معروف شد. در این آزمایش، یک انسان باید تشخیص دهد که با یک ماشین یا یک انسان دیگر صحبت میکند. اگر نتواند تشخیص دهد، گفته میشود که ماشین هوشمند است. این آزمون، مسیر چندین دهه تحقیقات هوش مصنوعی را تعیین کرد.
اما اکنون پیتر جِی. دِنینگ (Peter J. Denning)، دانشمند برجسته رایانه، در تحلیلی با عنوان اشتباه تورینگ: فرار از سلطه ماشینهای بیهوش استدلال میکند که این آزمون، هوش مصنوعی را در مسیر اشتباهی قرار داده است.
به گفته دنینگ، دو باور اصلی تورینگ پایهگذار تحقیقات هوش مصنوعی شدند: اول اینکه هوش انسان میتواند جدا از بدن وجود داشته باشد و دوم اینکه میتوان هوش ماشین را با بازی تقلید (همان آزمون تورینگ) سنجید. اما به باور دنینگ، همین دو باور، هوش مصنوعی را به بنبست امروزی کشانده است.
دانش پنهان؛ کلید اصلی تفاوت انسان و ماشین
دنینگ در مرکز استدلال خود به مفهوم دانش پنهان اشاره میکند؛ یعنی انبوهی از دانستههایی که هر انسان دارد، اما نمیتواند آنها را بهطور کامل با کلمات توضیح دهد یا به شکلی درآورد که ماشین بتواند بفهمد. بسیاری از چیزهایی که ما میدانیم، از راه تجربه، تعامل با دیگران و احساسات به دست آمدهاند، نه از طریق خواندن یا شنیدن.
به گفته دنینگ، پنج نوع دانش پنهان وجود دارد که ماشینها هرگز نمیتوانند آنها را بیاموزند: حس مشترک (همان چیزهایی که همه میدانیم)، تعاملات روزمره با مردم و محیط، احساسات و ادراکات، مهارتهای عملی و پیشینه فرهنگی و تاریخی که هر جامعهای دارد.
دانشمندان دههها تلاش کردهاند حس مشترک را به شکلی ثبت کنند که رایانهها بتوانند از آن استفاده کنند. در دهه ۱۹۸۰ میلادی، طرحی به نام سایک (Cyc) آغاز شد تا همه حقایق سادهای را که هر انسانی میداند، جمعآوری کند؛ نمونههایی مثل آتش داغ است یا مادرها از فرزندان خود بزرگترند. بعد از ۴۰ سال، این طرح ۲۵ میلیون مدخل از این حقایق را گردآوری کرد، اما حتی این گنجینه عظیم هم نتوانست زمینهای از حس مشترک ایجاد کند که رایانهها را به اندازه کافی هوشمند کند.
دانستن یک چیز، با توانایی انجام آن فرق دارد
مهارت عملی، مانع بزرگ دیگری در راه هوش مصنوعی است. دنینگ توضیح میدهد: ما در هزاران زمینه مهارت داریم که نمیتوانیم آنها را به ماشینها منتقل کنیم. میتوانیم نتیجه یک کار ماهرانه را توصیف کنیم (مثلاً بگوییم فلان نوازنده چه نتهایی را نواخته است)، اما نمیدانیم چگونه خودِ مهارت و دانش جسمانی پشت آن کار را به ماشین آموزش دهیم.
موسیقی مثال سادهای از این تفاوت است. دنینگ میگوید: یک نوازنده چیرهدست ویولن میتواند موسیقی زیبایی بنوازد، اما نمیتواند به شاگردش توضیح دهد که چطور این کار را میکند. حتی اگر یک ربات بتواند حرکتهای او را ببیند و تقلید کند، چون بدن زنده ندارد، هرگز نمیتواند درک کند که نوازنده هنگام نواختن چه حسی دارد یا تماشاگران چه احساسی پیدا میکنند.
مشکل کدگذاری دانش؛ چرا نمیتوان هوش را به ماشین منتقل کرد؟
دنینگ مانع اصلی را مشکل کدگذاری دانش مینامد. رایانهها فقط زمانی میتوانند کاری انجام دهند که اطلاعات و دستورالعملها به شکلی تبدیل شوند که برایشان قابل خواندن باشد. اما دانش پنهان به سادگی به چنین قالبی در نمیآید.
او توضیح میدهد: پشت هر کلمهای، دنیایی از دانش پنهان وجود دارد که به آن معنا میبخشد. واژهها فقط نشانههایی از معنا هستند، نه خود معنا. مدلهای زبانی بزرگی مانند چتجیپیتی، کلود و جمنای فقط کلمات را کنار هم میچینند، اما هرگز نمیتوانند معنای واقعی آنچه را میگویند، درک کنند.
شرایط پیرامونی و فرهنگ؛ چالشهای بزرگ دیگر
دنینگ بر اهمیت شرایط پیرامونی (همان بافت و موقعیت) تأکید میکند. یک جمله بسته به اینکه گوینده صمیمی، عصبانی یا شوخ باشد، میتواند معانی کاملاً متفاوتی داشته باشد. این شرایط به ما کمک میکند بفهمیم چه زمانی شوخی کنیم، چه زمانی ملاحظهکاری نشان دهیم و چگونه حرفهای ناگفته را تفسیر کنیم.
فرهنگ نیز چالش دیگری است. دنینگ معتقد است که فقط بزرگترکردن مدلهای زبانی این مشکل را حل نمیکند: فقط با بزرگتر کردن حجم دادهها و پیچیدهترکردن شبکههای عصبی، نمیتوان به ماشینها آن دانش انسانی را داد که ما آن را فرهنگ مینامیم.
خطر ایمنی هوش مصنوعی؛ تهدیدی از جنس ماشینهای کمهوش، نه اَبَرهوش
این شکاف پیامدهای بزرگی برای ایمنی هوش مصنوعی دارد. دنینگ هشدار میدهد که اگر ماشینها نتوانند شرایط ناگفته پشت دستورهای انسانی را درک کنند، نمیتوانیم مطمئن باشیم که رفتارشان با خواستههای ما هماهنگ است.
به گفته او، خطر بزرگ، یک ماشین فوقهوشمند نیست که از انسان پیشی بگیرد، بلکه شبکهای از ماشینهای کمهوشتر است که میتوانند به روشهای قدرتمند، پیشبینیناپذیر و آسیبزا عمل کنند.
دنینگ در پایان میگوید: هوش ماشین دغدغههای متفاوتی با ما دارد و به نظر نمیرسد به ما اهمیت دهد. روش تفکر و حل مسئلهاش برای ما بیگانه است و ما هنوز نمیدانیم چگونه با این ماشینها در امنیت زندگی کنیم.
