کدنویسی با هوش مصنوعی؛ اطلاعات محرمانه تا کجا قابل اشتراک‌گذاری‌اند؟ - پیوست

توضیح پیام خطا، برای رفع یک خطای نرم‌افزاری، همیشه کافی نیست. گاهی برنامه‌نویس باید بخشی از کد، ساختار داده یا شرایطی را که خطا در آن رخ داده است، در اختیار ابزار هوش مصنوعی قرار دهد؛ اما همین اطلاعات ممکن است جزئیاتی از سامانه داخلی شرکت یا داده‌های کاربران را آشکار کند. حذف اطلاعات حساس و جایگزین کردن داده‌های واقعی با نمونه‌های ساختگی می‌تواند خطر افشا را کاهش دهد، اما در بعضی موارد، تغییر داده‌ها تشخیص دقیق مشکل را دشوار می‌کند. به همین دلیل، استفاده از هوش مصنوعی در توسعه نرم‌افزار دیگر فقط به انتخاب ابزار مناسب محدود نیست؛ نحوه ارائه اطلاعات به چت‌بات‌ها نیز به بخشی از ملاحظات امنیتی فرایند توسعه تبدیل شده است.

به گزارش پیوست، گسترش استفاده از ابزارهای هوش مصنوعی در برنامه‌نویسی، شرکت‌های نرم‌افزاری را با چالشی تازه روبه‌رو کرده است: چگونه می‌توان اطلاعات کافی برای حل مسائل فنی در اختیار این ابزارها قرار داد، بدون آنکه داده‌های محرمانه شرکت یا کاربران در معرض افشا قرار بگیرند؟ گفت‌وگوی پیوست با فعالان توسعه نرم‌افزار و امنیت نشان می‌دهد پاسخ این پرسش تنها به دقت برنامه‌نویسان وابسته نیست و به سیاست‌های سازمانی، انتخاب ابزار و کنترل‌های فنی نیز ارتباط دارد.وقتی حل یک خطا به اطلاعات واقعی نیاز دارد

یکی از روش‌های کاهش خطر افشای اطلاعات، جدا کردن مسئله فنی از محیط واقعی و تبدیل آن به نمونه‌ای کوچک و قابل بازتولید است. در این روش، به‌جای ارسال گزارش کامل خطای سرور، تنها پیام خطا و چند خط مرتبط از کد، پس از حذف شناسه‌ها، آدرس‌ها و مقادیر حساس، در اختیار چت‌بات قرار می‌گیرد. برای خطاهای وابسته به داده نیز می‌توان از رکوردهای ساختگی با نوع و ساختاری مشابه داده‌های واقعی استفاده کرد.

یکی از برنامه‌نویسان شرکت‌های نرم‌افزاری در گفت‌وگو با پیوست توضیح می‌دهد که این روش را هنگام استفاده از چت‌بات‌ها به کار می‌گیرد. به گفته او، کوچک‌سازی مسئله در بسیاری از موارد علاوه بر کاهش خطر افشای اطلاعات، به تشخیص دقیق‌تر ریشه خطا نیز کمک می‌کند. …