مایکروسافت یک چارچوب رضایت اجباری در ویندوز 11 پیادهسازی کرده که مانع دسترسی عاملهای هوش مصنوعی به فایلهای شخصی بدون دریافت اجازه صریح کاربر میشود. مدتی پیش بود که اعلام کردیم مایکروسافت ویندوز را به یک سیستم عامل هوش مصنوعی تبدیل میکند، حتی به خاطر پافشاری های مایکروسافت برای استفاده از هوش مصنوعی، آموزش حذف تمام ویژگیهای هوش مصنوعی را نیز منتشر کردیم. اما امروز روشن شد که مایکروسافت گزینههای بیشتری را در اختیار کاربران قرار داده و تلاش میکند رضایت آنها را نیز حفظ کند.
چارچوب جدید رضایت کاربر در ویندوز 11
مایکروسافت مستندات قابلیتهای عاملمحور هوش مصنوعی را برای بیلدهای پیشنمایش آزمایشی بهروزرسانی کرده و در آن شش پوشه محافظتشده Desktop، Documents، Downloads، Music، Pictures و Videos را که بهصورت پیشفرض خارج از دسترس قرار دارند مشخص کرده است. هر دستیار هوش مصنوعی باید بهصورت جداگانه درخواست دسترسی ارائه کند و مجوز سراسری در سطح سیستم دریافت نمیکند. این طراحی مبتنی بر سیستم مجوزدهی باعث میشود نصبهای استاندارد بدون تغییر باقی بمانند مگر آنکه کاربران تصمیم به فعالسازی این قابلیت بگیرند و عاملهای مشخص را تایید کنند.
سازوکار مجوزدهی برای هر عامل هوش مصنوعی
سیستم مجوزدهی بهصورت عاملمحور عمل میکند؛ بنابراین تایید یک ابزار هوش مصنوعی بهطور خودکار شامل سایر ابزارهای نصبشده نمیشود. هنگام تلاش یک عامل برای دسترسی به فایلها، ویندوز یک رابط رضایت نمایش میدهد که از طریق آن کاربر میتواند دسترسی دائمی بدهد؛ برای هر تعامل نیاز به تایید مجدد تعیین کند یا درخواستها را بهطور کامل رد کند. هر دستیار هوش مصنوعی پرتال تنظیمات اختصاصی خود را دارد و در صورت نیاز امکان تغییر این مجوزها در آینده فراهم میشود. علاوه بر این، پلتفرم در حال آزمایش کانکتورهای مجزا برای مدیریت تعامل با برنامههای سیستمی مانند File Explorer و Settings بهصورت مستقل از مجوزهای اصلی پوشهها است. این طراحی ماژولار به کاربر اجازه میدهد برای نمونه، به یک عامل امکان تغییر تنظیمات سیستم بدهد در حالی که دسترسی به تصاویر یا اسناد شخصی محدود باقی بماند.
ملاحظات امنیتی و ریسکهای بالقوه
مایکروسافت پیشتر هشدار داده بود که عاملهای هوش مصنوعی میتوانند دچار توهم شوند؛ خروجیهای نادرست تولید کنند و تهدیدهای امنیتی قابلتوجهی ایجاد کنند. در واقعیت ریسک امنیتی نگرانی مهمتری محسوب میشود. تکنیکهای حمله جدید مرتبط با عاملهای خودمختار در حال ظهور هستند که در میان آنها حملات cross-prompt injection اهمیت ویژهای دارند. در این حملات، دستورالعملهای مخرب داخل اسناد عادی یا عناصر رابط کاربری پنهان میشوند و باعث میشوند عامل بهجای وظیفه اصلی خود از آنها پیروی کند. چنین وضعیتی میتواند به نصب بدافزار، افشای اطلاعات پرداخت یا انجام اقدامات مخرب دیگر منجر شود. بنابراین پیش از فعالسازی این قابلیتهای آزمایشی، توجه به جنبه امنیتی در اولویت قرار دارد.
اولین باشید که نظر می دهید