کاربران ایمن یا اینترنت آزاد؟

به گزارش خبرگزاری مهر، روزنامه آگاه نوشت: در میانه این تحول، تمایز میان دو مفهوم «حکمرانی» (Governance) و «کنترل» (Control) به نقطه عطف مناقشات حقوقی و سیاسی تبدیل شده است. حکمرانی در معنای مدرن آن، فرآیندی چندذینفعی است که تلاش می‌کند با تدوین استانداردها و قواعد بازی، توازنی میان منافع اقتصادی شرکت‌های بزرگ تکنولوژی، امنیت ملی دولت‌ها و حقوق بنیادین کاربران برقرار کند. در مقابل، رویکردهای مبتنی بر کنترل، عمدتا بر سلسله‌مراتب و محدودیت‌های سخت‌افزاری و نرم‌افزاری برای مدیریت رفتار اتباع در فضای مجازی تاکید دارند.

تحولات اخیر در اتحادیه اروپا با تصویب قوانینی نظیر قانون خدمات دیجیتال (DSA) و قانون بازارهای دیجیتال (DMA)، نشان‌دهنده چرخشی بزرگ از مدل «بازار آزاد مطلق» به سمت «بازار تنظیم‌گری‌شده» است. اروپایی‌ها با تمرکز بر حقوق کاربر و شفافیت الگوریتم‌ها، مدلی را دنبال می‌کنند که سعی دارد بدون افتادن در دام انسداد، قدرت بلامنازع سکوهای فراملی را مهار کند. از سوی دیگر، مدل‌های شرقی با تاکید بر امنیت جمعی و ثبات سیاسی، ابزارهای متفاوتی را برای صیانت از مرزهای دیجیتال خود به کار گرفته‌اند.

ظهور هوش مصنوعی مولد و الگوریتم‌های توصیه‌گر، این چالش را پیچیده‌تر از قبل کرده است. پلتفرم‌ها دیگر تنها بسترهایی بی‌طرف برای انتقال داده نیستند، بلکه خود به حکمرانان جدیدی بدل شده‌اند که با مهندسی افکار عمومی و تحلیل داده‌های کلان، می‌توانند فراتر از اراده دولت‌های ملی عمل کنند. در چنین اتمسفری، پرسش اساسی این است که چگونه می‌توان بدون قربانی کردن آزادی‌های فردی و پویایی تکنولوژیک، محیطی امن برای آسیب‌پذیرترین اقشار جامعه، به‌ویژه کودکان و نوجوانان، فراهم کرد؟

برای بررسی بیشتر وجه تمایز و ارتباط این دو امر حاکمیت و کنترل با سید آرش وکیلیان، مدیرکل ساماندهی حکمرانی مرکز ملی فضای مجازی، گفت‌وگو کرده‌ایم. او دکترای سیاست‌گذاری فرهنگی دارد و پژوهشگر حوزه سیستم‌های اجتماعی-فنی، سیاست‌گذاری‌های اجتماعی، فرهنگی و فضای مجازی است.

ضرورت قانون‌گذاری در فضای مجازی

وکیلیان در توضیح اینکه تغییر پارادایم جهانی از آزادی مطلق فضای مجازی به سمت قانون‌گذاری سخت‌گیرانه مانند مدل‌های استرالیا و بریتانیا؛ مرز دقیق میان حاکمیت دیجیتال و کنترل دیجیتال کجاست و چگونه می‌توان بدون نقض حقوق بنیادین کاربران، از قدرت حاکمیت برای ایمن‌سازی محیط برای نوجوانان استفاده کرد، می‌گوید: در تبیین ضرورت مقررات‌گذاری در فضای مجازی، می‌توان این فضا را به مثابه یک «شهر» در نظر گرفت؛ شهری که در آن شهروندان زندگی می‌کنند و وسایل نقلیه در حال تردد هستند.

بدیهی است برای جلوگیری از حوادث و برقراری نظم ترافیکی، وضع قوانین و مقررات الزامی است. اگر قرار باشد هر فردی با هر شیوه‌ای که مایل است حرکت کند، تصادف رخ داده و افراد آسیب می‌بینند؛ از این رو، وضع مقررات و اعمال حاکمیت در این فضا یک ضرورت است.

مسئله قاعده‌مندی فضای مجازی از دهه ۱۹۹۰ به‌صورت جدی مطرح بوده است. برای نمونه، ایالات متحده آمریکا اولین قوانین عمده خود را در سال ۱۹۹۶ در حوزه ارتباطات و در سال ۱۹۹۹ در حوزه مالکیت فکری وضع کرد. سایر کشورها نیز کم‌وبیش از دهه ۱۹۹۰ قانون‌گذاری در این عرصه را آغاز کردند. در ابتدای کار، به‌دلیل محدود بودن تاثیرات فضای مجازی و درهم‌تنیدگی اندک آن با زندگی روزمره، مدیریت این فضا یا از طریق قوانین موجود انجام می‌شد یا در موارد بسیار خاص، مقرراتی محدودکننده برای صیانت از کودکان وضع می‌شد تا از آسیب‌های احتمالی مصون بمانند.

تحول در رویکردها؛ از کنوانسیون بوداپست تا نظارت بر سکوها

مدیرکل سامانـــدهی حکمرانی مرکـز ملی فضای مجازی درباره تاریخچه رویکردهـــــــای مختلف در ایـجاد قوانین بازدارنده در زمینه جرائم سایبری توضیح می‌دهد: از جمله موارد جدی که در آن بحث جرائم سایبری به‌طور منسجم مطرح شد، می‌توان بـــــــه «کنوانسیون جــــرائـــــم ســــــــایــبــــری بوداپست» در ســــــال ۲۰۰۳ اشـاره کــــرد. همچنین در حوزه رگولاتوری، می‌توان به سال ۲۰۰۳ در بریتانیا و وضع مقررات برای نهاد «آفکام» (Ofcom) اشاره کرد. بنابراین، سابقه این موضوع به دهه‌های گذشته برمی‌گردد.

اما تحول اصلی در سال‌های ۲۰۱۶ و ۲۰۱۷ رخ داد؛ دوره‌ای که تاثیرگذاری رسانه‌های اجتماعی به‌شدت افزایش یافت و زندگی نوجوانان با این فضا گره خورد. در این مقطع، آسیب‌های جدی نظیر خودکشی یا صدمات جسمی و روانی در میان نوجوانان بروز کرد که ناشی از ماهیت خاص این فضا بود. از سوی دیگر، مسئولان و گردانندگان این سکوهای اجتماعی نیز به تعهدات مورد انتظار عمل نکردند و نتوانستند از وقوع این رخدادهای ناگوار جلوگیری کنند.

چالش تعادل میان امنیت و آزادی

وکیلیان درباره بروز یک چالش در این عرصه اضافه می‌کند: «این وضعیت به‌تدریج این دیدگاه را تقویت کرد که نیازمند وضع قوانین سفت‌وسخت‌تری هستیم؛ قوانینی که هم هویت فعالان این فضا و هم نوع محتوای تبادل‌شده را دربر بگیرد. پس از سال‌ها بررسی و ارزیابی، نهایتا در حدود دو سال گذشته، کشورهایی نظیر استرالیا و بریتانیا، قوانین نسبتا سخت‌گیرانه‌ای برای صیانت از کودکان و نوجوانان و جلوگیری از تضییع حقوق افراد آسیب‌پذیر در رسانه‌های اجتماعی وضع شد.

با این حال، تعیین مرز دقیق بین حاکمیت و کنترل کجاست و نقض حقوق بنیادین کجای این امر است، بحثی پیچیده و چالش‌برانگیز است. ما از یک سو با حق بنیادین سلامت و ایمنی برای کودکان و نوجوانان مواجهیم و از سوی دیگر با حق دسترسی آزاد به اطلاعات. یافتن نقطه تعادل میان این دو، مسئله‌ای حساس است؛ چرا که افزایش وزن یک طرف می‌تواند به کاهش طرف دیگر منجر شود. وظیفه سیاست‌گذار، یافتن آن نقطه بهینه است که در آن، حق هر دو طرف تا حد قابل‌قبولی مراعات شوند.»

چه کسی پاسدار امنیت کودکان در فضای مجازی است؟

او در پاسخ به این پرسش که مسئولیت مراقبت و صیانت از کودکان و نوجوانان بر عهده کیست، می‌گوید: «این یک «مسئولیت توزیع‌شده» است. از یک سو، والدین به عنوان ولی کودک و نوجوان، وظایف پایه‌ای و بنیادینی بر عهده دارند؛ موظف‌اند نظارت کنند تا فرزندشان استفاده درستی از این فضا داشته باشد و آسیب نبیند. اما واقعیت این است که با توجه به پیچیدگی‌های فنی رسانه‌های اجتماعی، این کار به‌تنهایی از عهده والدین برنمی‌آید.

ما پیش از ظهور فضای مجازی و در عصر رسانه‌های جمعی نیز پروتکل‌های مشابهی داشتیم. به‌طور مثال، در شبکه‌های تلویزیونی، مقرراتی وجود داشت که محتواهای خاص بزرگسالان را در ساعاتی از شب پخش می‌کردند که زمان تماشای کودکان نبود. در آنجا هم مسئولیت صرفا بر عهده والدین نبود، بلکه شبکه‌های پخش نیز موظف به رعایت ضوابط بودند.
امروز هم وضعیت به همین صورت است.

سکوهای رسانه‌های اجتماعی در قبال استفاده کاربران کودک و نوجوان مسئولیت‌های مستقیمی دارند و نمی‌توانند ادعا کنند که این وظیفه صرفا بر عهده والدین است. برای مثال، اگر الگوریتم‌های یک سکو، محتوای مربوط به خودکشی را به نوجوانی پیشنهاد دهد -چه آن نوجوان آگاهانه آن را جست‌وجو کرده باشد و چه ناآگاهانه- این مسئولیتی است که مستقیما متوجه آن سکو خواهد بود.»

راهکارهای جهانی؛ احراز هویت و محدودیت‌های سنی

این پژوهشگر در توضیح راهکارهایی که دولت‌های دیگر برای مدیریت این امر در پیش گرفته‌اند، اضافه می‌کند: یکی از راهکارهایی که دولت‌ها در سطح جهان اتخاذ کرده‌اند، این است که تمامی افراد در بدو ورود به محیط فضای مجازی، «کودک» شناسایی می‌شوند. اگر کسی بخواهد به محتواهایی دسترسی پیدا کند که برای کودکان چالش‌برانگیز یا آسیب‌زا است، باید بزرگسال بودن خود را از طریق ارائه اطلاعات هویتی احراز کند.

علاوه بر این، در دو سه سال اخیر، بحث‌های جدی‌تری پیرامون شبکه‌های اجتماعی مطرح شده است. این شبکه‌ها به‌دلیل ماهیت توصیه‌گری و الگوریتم‌های پیشنهادی خود، می‌توانند برای رشد و تربیت کودک به‌شدت آسیب‌زا باشند. در نتیجه، محدودیت‌های سنی مشخصی (مثلا سن ۱۵ یا ۱۶ سال) برای ورود به این شبکه‌ها وضع شده است؛ محدودیت‌هایی که شباهت بسیاری به قوانین راهنمایی و رانندگی و لزوم داشتن سن قانونی برای رانندگی دارد. البته وضع این محدودیت‌ها چالش‌هایی را نیز به‌همراه داشته است که در ادامه به آن می‌پردازیم.

تقابل «امنیت کودکان» و «آزادی بیان»؛ چالشی میان دو رویکرد حقوق بشری

وکیلیان در خصوص موجی از اعتراضات مدنی که در پی ایجاد این محدودیت‌ها با برچسب نقض آزادی بیان شکل گرفته است، می‌افزاید: «در خصوص چالش‌های مرتبط با محدودیت‌های آزادی بیان، باید به این نکته توجه داشت که اعمال صحیح قوانین صیانت از کودک و نوجوان، نیازمند ابزارهایی در حوزه احراز هویت است. برای نمونه، سکو (پلتفرم) باید بتواند سن واقعی کاربر را تشخیص دهد. امروزه برای این منظور از فناوری‌های بیومتریک مانند تشخیص چهره استفاده می‌شود اما همین مسئله باعث شده تا حامیان آزادی بیان نسبت به این سطح از شفافیت هویتی اعتراض کنند. استدلال آنها این است که وقتی سکوها قادر به شناسایی دقیق هویت افراد باشند، مفهوم گمنامی در فضای مجازی عملا معنای خود را از دست می‌دهد.»

تیغ دو لبه رمزنگاری و حریم خصوصی

مدیرکل ساماندهی حکمرانی مرکز ملی فضای مجازی اضافه می‌کند: «موضوع دیگر، بحث محتواهای رمزنگاری شده است. در برخی کشورها، دسترسی کودکان و نوجوانان به فضاهای خصوصی رمزنگاری شده - مانند واتس‌اپ که از پروتکل «انتها به انتها» (End-to-End Encryption) استفاده می‌کند - محدود شده است. همچنین فناوری‌هایی روی سخت‌افزارهایی نظیر گوشی‌های آیفون تعبیه شده تا محدودیت‌های بیشتری را برای این رده سنی اعمال کند.

در مقابل، طرفداران آزادی بیان معتقدند این سطح از محدودیت‌ها صرفا به کودکان و نوجوانان محدود نخواهد ماند و در نهایت، سایر کاربران را نیز در معرض نقض آزادی بیان، کاهش امنیت و نقض حریم خصوصی قرار می‌دهد. در نتیجه، ما امروز شاهد یک چالش جدی بین دو دیدگاه هستیم: دسته‌ای که اولویت‌شان ایمنی، صیانت و سلامت حقوق کودک است و دسته‌ای که بر حق آزادی بیان و حق محرمانگی پافشاری می‌کنند.»

تعارض منافع میان اقتصاد سکوها و نظارت دولت‌ها

وکیلیان درباره تعارض شکل گرفته میان دو رویکرد ایجاد شده در پی اجرای قوانین مربوط به دسترسی فضای مجازی اضافه می‌کند: «در واقع می‌توان گفت دو رویکرد حقوق بشری متعارض شکل گرفته که با یکدیگر در چالش هستند و دولت‌ها نیز بسته به شرایط جوامع خود، به یکی از این دو سمت متمایل می‌شوند. مسئله کلیدی اینجاست که خود سکوها در رعایت الزامات و انتظاراتی که برای صیانت از کاربران وجود داشته، کوتاهی بسیاری کرده‌اند.

این سابقه کوتاهی، دولت‌ها و قانون‌گذاران را ناچار به مداخله جدی کرده است تا سکوها را به سطح بسیار بالاتری از نظارت و کنترل بر محتوا و فعالیت کاربران مکلف کنند. دلیل اصلی این کوتاهی را باید در فقدان انگیزه‌های اقتصادی جست‌وجو کرد؛ چرا که اعمال این نظارت‌ها لزوما با مدل سودآوری سکوها هم‌خوانی ندارد. به عبارتی، یک مثلث تعارض میان «منافع اقتصادی سکوها»، «حقوق کاربران» و «نگرش نظارتی دولت‌ها» ایجاد شده است که هر ضلع، ماجرا را به سمت دیدگاه خود می‌کشد.»

از جست‌وجوی آزاد تا استانداردهای سخت‌گیرانه

او ادامه می‌دهد: «با این حال، فشار قانون‌گذاران در سال‌های اخیر باعث شده است که سکوها تدریجا استانداردهای سخت‌گیرانه‌تری را بپذیرند. برای مثال، در سال‌های اولیه فعالیت گوگل، قابلیتی به نام «جست‌وجوی ایمن» (SafeSearch) به شکل امروزی وجود نداشت و هر کاربری با هر سنی می‌توانست به هر نوع محتوایی دسترسی پیدا کند. اما به مرور، این قابلیت اضافه شد و حتی در برخی کشورها به صورت پیش‌فرض فعال شد، به‌طوری که خروج از آن نیازمند اقدام آگاهانه کاربر است. این دست محدودیت‌ها در سایر رسانه‌های اجتماعی نیز تحت فشار افکار عمومی و قانون‌گذاران، گام‌به‌گام در حال پیاده‌سازی است.»

انسداد تا تعامل؛ واکاوی الگوی «ایمنی در طراحی» و حاکمیت بر سکوهای جهانی

وکیلیان با توجه به اینکه در اسناد مدرن رگولاتوری، بحث از مسدودسازی به سمت مسئولیت‌پذیر کردن پلتفرم‌ها از طریق کدهای طراحی رفته است، درباره اینکه در فضایی که پلتفرم‌های جهانی لزوما تابع قوانین محلی نیستند، یک رگولاتور هوشمند چطور می‌تواند بدون پناه بردن به مدل‌های سنتی انسداد، ساختار پلتفرم را برای نوجوانان ایمن‌سازی کند، توضیح می‌دهد: «باید اشاره کرد که به‌طور کلی الگوی محدودسازی از طریق انسداد، زمانی مورد استفاده قرار می‌گیرد که عملا امکان اعمال حاکمیت بر یک سکو فراهم نباشد یا آن پلتفرم همکاری لازم را انجام ندهد.

حقیقت این است که انسداد، راهکاری چندان مقرون‌به‌صرفه محسوب نمی‌شود؛ چرا که دسترسی به کل محتوای یک سکو را به‌طور کامل محدود می‌کند. از این رو، ترجیح کشورها و حتی خود سکوها بر این است که در تعامل با یکدیگر به نوعی از حکمرانی دست یابند که مبتنی بر انسداد نباشد، بلکه محدودیت‌ها و کنترل‌های مورد توافق طرفین در آن اعمال شود.

در همین راستا، تعبیری در ادبیات فلسفه، اخلاق و فناوری به‌کار می‌رود تحت عنوان «ایمنی در مرحله طراحی» یا همان Safety by Design. موضوع این رویکرد آن است که سکوها باید به‌گونه‌ای طراحی شوند که الگوریتم‌های آنها نسبت به محتواهای آسیب‌زا حساسیت بالایی داشته باشند و اجازه ندهند این دست مطالب به‌سادگی منتشر و پخش شوند. این رویکرد تا حد زیادی در حوزه «هرزه‌نگاری» اجرایی شده است اما در حوزه‌هایی مانند اخبار جعلی (Fake News) هنوز با وضعیت مطلوب فاصله داریم و شاهد انتشار وسیع این محتواهای آسیب‌زا هستیم.»

استانداردهای منطقه‌ای و بلوک‌های قدرت

او اضافه می‌کند: سکوهای جهانی ترجیح می‌دهند به جای انطباق با تک‌تک کشورها، خود را با چند استاندارد کلی و بین‌المللی تطبیق دهند. برای مثال، اتحادیه اروپا استانداردهای خاص خود را در حوزه اخلاق و حقوق دارد و سکوها نیز یک فرم خاص را برای این اتحادیه طراحی می‌کنند. ممکن است در شرق آسیا یا در جوامع مسلمان نیز انتظارات متفاوتی وجود داشته باشد؛ بنابراین مدل پیشنهادی سکوها این است که خود را با چند بلوک اصلی کاربران تطبیق دهند، نه با ۱۹۰ کشور به‌صورت جداگانه.

کنوانسیون‌های بین‌المللی و عامل تعیین‌کننده بازار

این پژوهشگر همچنین درباره نقش بازار و نیز اقدامات در سطح جهانی در این حوزه می‌گوید: در کنار این موارد، کنوانسیون جدیدی در حوزه جرائم مرتبط با فناوری اطلاعات وجود دارد که از سال ۲۰۲۵ تدوین شده و قرار است به‌زودی در سطح جهانی اجرایی شود. طبق این کنوانسیون، یک سری حداقل‌ها در حوزه جرائم لحاظ شده که سکوها ملزم به پاسخگویی نسبت به آنها هستند.

در واقع، یک کف پاسخگویی به‌صورت عام در نظر گرفته شده و سطوح بالاتر نظارت، متناسب با استانداردهای هر منطقه تعیین می‌شود.
اما یک عامل بسیار تعیین‌کننده در این میان، ابعاد بازار هر کشور است. واقعیت اقتصادی حکم می‌کند که هرچه بازار یک کشور برای یک سکو بزرگ‌تر باشد، انگیزه آن پلتفرم برای سازگاری و همکاری با مسئولان آن کشور بیشتر خواهد بود. در مقابل، هرچه این بازار کوچک‌تر باشد، تمایل سکو برای پذیرش مسئولیت و همکاری کاهش می‌یابد. این جنبه اقتصادی، یکی از واقعیت‌های مهم در حوزه حکمرانی فضای مجازی است.

ضرورت بازنگری در مدل‌های نظارتی و حاکمیتی در ایران

آرش وکیلیان اضافه می‌کند: نکته پایانی که باید به آن اشاره کنم این است که متاسفانه هنوز فضای فکری بسیاری از بزرگواران و فعالان این حوزه، در محدوده مباحث «وب ۱» یا همان فضای ارتباطی یک‌طرفه‌ای است که در دهه ۱۹۹۰ وجود داشت. در آن دوران، محتوا از سوی یک سایت عرضه می‌شد که ماهیت تعاملی چندانی نداشت؛ در نتیجه، سیاست‌های کنترلی نیز عمدتا بر پایه مسدودسازی یا حذف محتوا استوار بود.

نقش فعال سکوها در شکل‌دهی به رفتار جمعی

او ادامه می‌دهد: با ظهور «وب ۲» و سکوهای رسانه‌های اجتماعی، ما با نقش فعال خود سکو و گروه‌های کاربری در شکل‌دهی به افکار عمومی و رفتارهای جمعی مواجه شدیم. این تعاملات، فضای اجتماعی خاصی را برای کودکان، نوجوانان و بزرگسالان خلق کرده است که دیگر نمی‌توان با نگاه قدیمی به آن نگاه کرد. در این ساحت، بحث دیگر صرفا جلوگیری از انتشار محتواهای هرزه‌نگاری نیست؛ بلکه چالش اصلی این است که اگر جریانی بخواهد یک عملیات گسترده برای دستکاری افکار عمومی (Manipulation) انجام دهد یا آسیب جمعی وسیعی به کودکان و نوجوانان وارد کند، تکلیف چیست؟

در چنین شرایطی، سکوها باید نقش بسیار فعال‌تری ایفا کنند؛ نقشی که البته لزوما داوطلبانه نیست و معمولا از طریق هدایت و راهبری دولت‌ها به آنها تحمیل می‌شود. پلتفرم‌ها در ابتدا تمایل چندانی به مداخله ندارند اما این دولت‌ها هستند که نسبت به دستکاری افکار عمومی جامعه خود حساس شده و از سکوها رعایت ملاحظات خاصی را مطالبه می‌کنند. برای نمونه، دولت‌هایی نظیر بریتانیا، چین و برزیل در این زمینه بسیار فعال هستند و مقرراتی را وضع کرده‌اند که فراتر از محدودیت‌های سنتی (مثل هرزه‌نگاری) است تا مانع از دستکاری گسترده در افکار عمومی شوند.

هوش مصنوعی و چالش تولید محتوای شخصی‌سازی‌شده در مقیاس انبوه

او در انتها با اشاره به اثر هوش مصنوعی در معادله کلی تنظیم‌گری در فضای مجازی می‌گوید: با ورود هوش مصنوعی و تحولات ناشی از آن، فضای مجازی وارد مرحله جدیدی شده است. اکنون این امکان فراهم شده که محتوای شخصی‌سازی‌شده در مقیاس بسیار وسیع تولید شود که این خود چالش جدیدی برای قانون‌گذاران، حکومت‌ها و فعالان حقوق بشر ایجاد می‌کند. هوش مصنوعی می‌تواند بدون یک دستورالعمل پیشینی و صرفا بر اساس تحلیل رفتار هر کاربر، محتوایی جدید و غیرمنتظره تولید کند که ممکن است منجر به اشکال جدیدی از نقض حقوق اشخاص و آسیب‌رسانی شود؛ آسیب‌هایی که شاید حتی در مخیله طراحان هوش مصنوعی هم نمی‌گنجیده است.

در همین راستا، یونسکو سند توصیه‌نامه‌ای در مورد اخلاق هوش مصنوعی تهیه کرده است اما واقعیت این است که ما هنوز در ابتدای راه هستیم. هنوز پرسش‌های بسیاری بی‌پاسخ مانده است که هوش مصنوعی تا چه حد می‌تواند دستکاری اطلاعاتی انجام دهد؟ تا چه حد می‌تواند به صورت موردی به افراد آسیب بزند و چگونه می‌توان این فرآیند را مدیریت کرد؟ یافتن چارچوب‌هایی که سطح عملکرد هوش مصنوعی را از جهت رعایت حقوق افراد ارتقا دهد، یکی از اصلی‌ترین دغدغه‌های پیش روی ماست.