با افزایش تعداد مرورگرهایی که در حال آزمایش قابلیتهای عاملمحور هستند—قابلیتهایی که میتوانند بهجای کاربر اقداماتی مانند رزرو بلیت یا خرید کالا را انجام دهند—سطح جدیدی از ریسکهای امنیتی نیز ایجاد شده است. این قابلیتها در عین ارائه تجربهای خودکار و کارآمد، ممکن است منجر به از دست رفتن داده یا حتی خسارت مالی شوند.
گوگل در یک گزارش جدید، رویکرد خود برای مدیریت امنیت کاربران در مرورگر کروم را تشریح کرده است؛ رویکردی مبتنی بر مدلهای ناظر (Observer Models) و دریافت رضایت کاربر برای انجام اقدامات حساس. این شرکت در شهریور ۱۴۰۳ پیشنمایشی از قابلیتهای عاملمحور در کروم ارائه کرده بود و اکنون میگوید این قابلیتها طی ماههای آینده در دسترس کاربران قرار میگیرند.
کنترل اقدامات عامل با کمک چند مدل هوش مصنوعی
گوگل اعلام کرده که از چند مدل مختلف برای کنترل و محدودسازی رفتار عاملها استفاده میکند. یکی از مهمترین ابزارها، User Alignment Critic است که با استفاده از مدل Gemini ساخته شده و وظیفه دارد اقدامات پیشنهادی مدل برنامهریز (Planner) را بررسی کند. اگر این مدل تشخیص دهد که مجموعه اقدامات ارائهشده با هدف کاربر همسو نیست، از مدل برنامهریز میخواهد استراتژی خود را بازبینی کند.
گوگل تأکید کرده که این مدل ناظر فقط به فراداده (Metadata) اقدامات پیشنهادی دسترسی دارد و محتوای واقعی صفحات وب را مشاهده نمیکند.
جلوگیری از دسترسی به سایتهای غیرمجاز
برای محدودسازی دامنه دسترسی عاملها، گوگل از سازوکاری با عنوان Agent Origin Sets استفاده میکند. این فناوری دسترسی مدل را به دو بخش «منشأهای فقطخواندنی» و «منشأهای قابل خواندن و نوشتن» تقسیم میکند.
در حالت فقطخواندنی، عامل تنها به دادهای دسترسی دارد که مرتبط با وظیفه باشد. برای مثال، در یک سایت خرید، فهرست کالاها قابل پردازش است اما بنرهای تبلیغاتی خیر. همچنین عامل تنها اجازه دارد روی برخی iframeها کلیک یا تایپ کند.
گوگل در اینباره گفته است:
«این تفکیک باعث میشود دادههای موجود تنها از مجموعه محدودی از منشأها در اختیار عامل قرار گیرد و این داده نیز فقط به منشأهای قابلنوشتن منتقل شود. این کار تهدید نشت داده میان منشأهای مختلف را محدود میکند و به مرورگر اجازه میدهد با جلوگیری از ارسال دادههای خارج از مجموعه قابلخواندن، بخشی از این جداسازی را اعمال کند.»
کنترل ناوبری صفحات و نشانیها
گوگل اعلام کرده که مدل ناظر دیگری نیز مسئول بررسی نشانیهای اینترنتی است که عامل قصد دارد به آنها وارد شود. این اقدام مانع هدایت عامل به URLهای مخرب یا تولیدشده توسط مدل در شرایط خطرناک میشود.
واگذاری تصمیمهای حساس به کاربر
گوگل میگوید در انجام وظایف حساس، تصمیمگیری نهایی به کاربر سپرده میشود. بهعنوان نمونه، اگر عامل تلاش کند وارد سایتی با اطلاعات حساس مانند بانک یا دادههای پزشکی شود، ابتدا از کاربر اجازه میگیرد.
همچنین برای سایتهایی که نیاز به ورود دارند، پیش از استفاده عامل از مدیریت رمز عبور کروم، تأیید کاربر لازم است. گوگل تأکید کرده که مدل عامل هیچگونه دسترسی به دادههای رمزعبور ندارد.
از سوی دیگر، پیش از اقداماتی مانند خرید یا ارسال پیام نیز از کاربر اجازه گرفته میشود.
گوگل افزوده که علاوه بر این کنترلها، از طبقهبندیکننده تشخیص تزریق پرامپت (Prompt Injection Classifier) استفاده میکند و قابلیتهای عاملمحور را در برابر حملاتی که توسط پژوهشگران طراحی شدهاند آزمایش میکند.
توجه دیگر سازندگان مرورگر به امنیت هوش مصنوعی
سایر توسعهدهندگان مرورگر مبتنی بر هوش مصنوعی نیز به این حوزه توجه نشان دادهاند. اوایل همین ماه، سرویس Perplexity یک مدل متنباز جدید برای تشخیص محتوا منتشر کرد که هدف آن جلوگیری از حملات تزریق پرامپت علیه عاملهاست.
به مطالعه ادامه دهید:
عذرخواهی OpenAI: پیشنهادات اپلیکیشن شبیه به تبلیغات در ChatGPT خاموش شدند!
پدال گاز خودروهای خودران تا انتها فشرده شده است؛ هجوم رباتاکسیها با چالشهای اخلاقی و حقوقی!
مغز متفکر تراشههای آیفون در آستانه ترک شرکت؛ آیا «تیم کوک» او را حفظ خواهد کرد؟
ابزار جدید گوگل فوتوز: جراح پلاستیک هوشمند شما برای روتوش حرفهای چهرهها!
نوشته گوگل چگونه امنیت نسل جدید عاملهای هوشمند کروم را تضمین میکند؟ اولین بار در موبایلستان. پدیدار شد.
اولین باشید که نظر می دهید