مایکروسافت سعی می‌کند جلوی «ریسک‌های نوین امنیتی» نمایندگان هوش مصنوعی ویندوز ۱۱ را بگیرد

عامل‌های هوش مصنوعی که دسترسی خواندن/نوشتن به فایل‌های شما دارند، مسائل بزرگ امنیتی و حریم‌خصوصی ایجاد می‌کنند.

مایکروسافت سال‌هاست که ویژگی‌های هوش مصنوعی را به ویندوز ۱۱ اضافه می‌کند، اما اخیراً به مرحله‌ای جدید رسیده است؛ به‌طوری‌که هم ویژگی‌های مولّد و هم آنچه که به‌عنوان «قابلیت‌های عامل‌محور» شناخته می‌شوند، عمیق‌تر به زیرساخت‌های سیستم‌عامل نفوذ می‌کنند. یک نسخه جدید از ویندوز ۱۱ که دیروز برای آزمایش‌کنندگان برنامه Windows Insider منتشر شد، شامل کلید سوئیچ «ویژگی‌های آزمایشی عامل‌محور» در تنظیمات است تا از ویژگی Copilot Actions پشتیبانی کند. مایکروسافت یک مقالهٔ پشتیبانی مفصل منتشر کرده که جزئیات بیشتری دربارهٔ عملکرد این «ویژگی‌های آزمایشی عامل‌محور» ارائه می‌دهد.

اگر با این واژه آشنا نیستید، «عامل‌محور» (agentic) یک واژهٔ پرکاربرد است که مایکروسافت بارها برای توصیف برنامه‌های آینده‌اش برای ویندوز ۱۲ به کار می‌برد؛ به زبان ساده‌تر، این عوامل به‌گونه‌ای طراحی شده‌اند که وظایف محول‌شده را به‌صورت پس‌زمینه انجام دهند و توجه کاربر را به‌جای دیگری معطوف کنند. مایکروسافت می‌گوید می‌خواهد این عوامل توانایی «وظایف روزمره‌ای مانند سازماندهی فایل‌ها، زمان‌بندی جلسات یا ارسال ایمیل‌ها» را داشته باشند و Copilot Actions به شما «یک همکار دیجیتالی فعال می‌دهد که می‌تواند کارهای پیچیده را برای افزایش بهره‌وری و کارآیی انجام دهد».

اما همانند سایر انواع هوش مصنوعی، این عوامل ممکن است دچار خطا و ساختن داستان‌های نادرست شوند و اغلب طوری عمل می‌کنند که گویی می‌دانند چه کار می‌کنند، حتی زمانی که نمی‌دانند. به‌عبارت دیگر، همان‌طور که مایکروسافت خود می‌گوید، این عوامل «ریسک‌های امنیتی نوین» را به همراه دارند؛ ریسک‌های اصلی زمانی است که یک مهاجم بتواند به این عوامل دستورات بدهد. بنابراین، پیاده‌سازی مایکروسافت در این زمینه مانند راه رفتن بر لبهٔ تنگی است که باید بین اعطای دسترسی به فایل‌های شما به این عوامل و جدا کردن آن‌ها از بقیهٔ سیستم تعادل برقرار کند.

خطرات احتمالی و راهکارهای پیشنهادی

به‌عنوان مثال، عوامل هوش مصنوعی که بر روی یک رایانه اجرا می‌شوند، حساب کاربری ویژه‌ای جدا از حساب شخصی شما دریافت می‌کنند؛ به این ترتیب، آن‌ها اجازهٔ تغییر همهٔ موارد در سیستم را ندارند و برایشان «دسکتاپ» مخصوصی فراهم می‌شود که با کاری که شما روی صفحه‌نمایش انجام می‌دهید تداخل نداشته باشد. کاربران باید درخواست‌های مربوط به داده‌های خود را تأیید کنند و «همهٔ اعمال یک عامل قابل مشاهده و متمایز از اعمالی است که توسط کاربر انجام می‌شود». مایکروسافت همچنین می‌گوید عوامل باید توانایی تولید گزارش‌هایی از فعالیت‌های خود را داشته باشند و «باید روشی برای نظارت بر فعالیت‌هایشان فراهم کنند»، از جمله نمایش فهرستی از اقداماتی که برای انجام یک کار چندمرحله‌ای انجام خواهند داد.

با این حال، این تدابیر ایمنی و قابلیت‌های نظارتی، این حقیقت را تغییر نمی‌دهند که با استفاده از عوامل هوش مصنوعی خود را در معرض خطرات حریم‌خصوصی و امنیتی قرار می‌دهید. آن‌ها قادر خواهند بود دسترسی خواندن و نوشتن به اکثر فایل‌های حساب کاربری شما را درخواست کنند — به‌طور پیش‌فرض، هر چیزی در پوشه‌های اسناد، دانلودها، دسکتاپ، موسیقی، تصویرها و ویدیوها. آن‌ها به هر برنامه‌ای که برای تمام کاربران رایانه نصب شده باشد دسترسی خواهند داشت (برنامه‌هایی که فقط در حساب کاربری شما نصب شده‌اند در دسترس عامل نخواهند بود و همچنین امکان نصب برنامه‌هایی وجود دارد که فقط عوامل شما به آن دسترسی داشته باشند). و عوامل ممکن است در معرض سرقت کنترل باشند که داده‌های شما را در معرض حمله‌گران قرار می‌دهد — مایکروسافت به‌صراحت از «تزریق متقابل پرامپت (XPIA)» نام می‌برد، که در آن محتوای مخرب جاسازی‌شده در عناصر رابط کاربری یا اسناد می‌تواند دستورات عامل را زیر سؤال برده و باعث اقدامات ناخواسته‌ای مانند استخراج داده یا نصب بدافزار شود.

در حال حاضر، می‌توان این ویژگی‌ها را با کلید سوئیچ تنظیمات خاموش کرد و به‌صورت پیش‌فرض غیرفعال هستند. این امتیاز به‌دست‌آمده از ترجیح کاربر — به‌همراه سند پشتیبانی طولانی که خطرات و پیش‌گیری‌هایی را که مایکروسافت سعی کرده در سیستم پیاده‌سازی کند، تشریح می‌کند — حداقل نشان می‌دهد که مایکروسافت از شکست در عرضهٔ ویژگی «Windows Recall» که برای جمع‌آوری داده‌ها استفاده می‌شد، درس‌هایی آموخته است.

امید است که این ویژگی‌ها به‌صورت کامل پیش‌فرض غیرفعال بمانند تا زمان عرضهٔ عمومی آن‌ها. در غیر این صورت، ممکن است به‌سوی یکی دیگر از مواردی تبدیل شوند که در نصب مدرن ویندوز ۱۱ باید تغییر داده یا غیرفعال کنید، اگر می‌خواهید خدمات ابری و هوش مصنوعی مختلف این سیستم‌عامل را از مسیر خود دور نگه دارید.

در کنار این عوامل هوش مصنوعی که در راه هستند، مایکروسافت همچنین در تلاش است Copilot را «متمرکز بر انسان» و قابل دسترس‌تر کند؛ با افزودن شخصیت انیمیشنی شبیه Clippy با نام «Mico» و بهبود توانایی آن در درک ورودی صوتی و درخواست‌های معمولی ماوس و کیبورد.