گوگل چگونه وب‌گردی هوشمند با جمینای را امن می‌کند؟

گوگل هم‌زمان با ورود هوش مصنوعی جمینای (Gemini) به مرورگر کروم و فعال‌سازی قابلیت‌های «وب‌گردی عامل‌گرا» (Agentic Browsing)، جزئیات امنیتی تازه‌ای را منتشر کرد. این شرکت توضیح می‌دهد که مرورگر کروم چگونه با تهدیدات سایبری مقابله می‌کند و از کاربران در برابر خطرات هوش مصنوعی محافظت می‌کند.

تهدید اصلی: تزریق غیرمستقیم پرامپت

گوگل می‌گوید که «تزریق غیرمستقیم پرامپت» (Indirect Prompt Injection) تهدید اصلی و جدیدی است که تمام مرورگرهای هوشمند با آن روبرو هستند. هکرها در این روش تلاش می‌کنند تا عامل هوشمند را فریب دهند و او را وادار به انجام کارهای ناخواسته مانند آغاز تراکنش‌های مالی یا سرقت داده‌های حساس کنند.

مهاجمان می‌توانند این دستورات مخرب را در سایت‌های آلوده، محتوای شخص ثالث در فریم‌ها (iframe) یا حتی نظرات کاربران پنهان کنند. گوگل برای مقابله با این چالش آشکار، روی یک سیستم دفاعی چندلایه سرمایه‌گذاری می‌کند که شامل دفاع‌های قطعی و احتمالی است.

مدل ناظر هوشمند: User Alignment Critic

نحوه عملکرد مدل ناظر «User Alignment Critic»؛ بررسی و تایید تک‌تک اقدامات هوش مصنوعی پیش از اجرا

مهندسان گوگل اولین لایه دفاعی را با نام «User Alignment Critic» و با کمک جمینای ساخته‌اند. این مدل مستقل، پس از تکمیل برنامه‌ریزی وارد عمل می‌شود تا تک‌تک اقدامات پیشنهادی را دوباره بررسی و سپس آن‌ها را تایید یا رد کند. اگر مدل ناظر یک اقدام را رد کند، مدل برنامه‌ریز باید طرح را دوباره بنویسد و در صورت تکرار خطا، سیستم کنترل را به کاربر بازمی‌گرداند.

این مدل تمرکز خود را روی «همسویی با وظیفه» می‌گذارد؛ یعنی بررسی می‌کند که آیا اقدام پیشنهادی در راستای هدف کاربر قرار دارد یا خیر. اگر اقدام با هدف همسو نباشد، مدل ناظر آن را وتو می‌کند. معماران سیستم این بخش را طوری طراحی کرده‌اند که فقط متادیتا (Metadata) مربوط به اقدام را ببیند و به محتوای وب فیلتر نشده دسترسی نداشته باشد؛ بدین ترتیب هکرها نمی‌توانند این مدل ناظر را مستقیماً از طریق وب مسموم کنند.

محدودسازی دسترسی با Agent Origin Sets

مکانیزم ایزوله‌سازی منبع؛ هوش مصنوعی برخلاف کاربر، بخش‌های نامرتبط و خطرناک صفحه را نمی‌بیند

گوگل همچنین قابلیت‌های «ایزوله‌سازی منبع» (Origin-isolation) در کروم را توسعه می‌دهد تا منابعی را که عامل هوشمند می‌تواند با آن‌ها تعامل داشته باشد، محدود کند. سیستم تنها اجازه دسترسی به منابعی را می‌دهد که مستقیماً به وظیفه کاربر مربوط هستند.

تیم امنیتی کروم این اصول را با «مجموعه‌های منبع عامل» (Agent Origin Sets) پیاده‌سازی می‌کند. طراحی جدید از نظر معماری، عامل هوشمند را محدود می‌کند تا فقط به داده‌های منابع مرتبط با وظیفه فعلی یا داده‌هایی که کاربر اجازه اشتراک‌گذاری آن‌ها را داده، دسترسی داشته باشد. این ویژگی به عامل هک شده اجازه نمی‌دهد که خودسرانه روی منابع نامرتبط عمل کند.

شفافیت و کنترل کامل کاربر

نمایش شفاف مراحل کار توسط جمینای و دکمه توقف اضطراری برای بازگرداندن کنترل به کاربر

جمینای در کروم برای حفظ کنترل کاربر، جزئیات هر مرحله را در یک «گزارش کار» ثبت می‌کند و کاربر می‌تواند در هر لحظه فرآیند را متوقف کند. این شفافیت عملکرد با بررسی‌های قطعی و مدل‌محور همراه می‌شود.

سیستم در لحظات حساس، پیش از آنکه عامل هوشمند اقدامی تأثیرگذار انجام دهد، تایید کاربر را درخواست می‌کند. این ویژگی‌ها به عنوان نرده‌های محافظ در برابر اشتباهات مدل و ورودی‌های مخرب عمل می‌کنند.

چه زمانی تایید کاربر اجباری است؟

سیستم در موارد زیر حتماً از کاربر اجازه می‌گیرد:

• سایت‌های حساس: پیش از آنکه عامل به سایت‌های خاصی مانند درگاه‌های بانکی یا اطلاعات پزشکی شخصی برود (سیستم این کار را بر اساس لیست سایت‌های حساس چک می‌کند).
• مدیریت رمز عبور: پیش از اجازه دادن به کروم برای ورود به یک سایت از طریق Google Password Manager (مدل به رمزهای عبور ذخیره شده دسترسی مستقیم ندارد).
• اقدامات حیاتی: پیش از انجام هرگونه اقدام حساس وب مانند تکمیل خرید، پرداخت پول یا ارسال پیام، عامل هوشمند توقف می‌کند و از کاربر اجازه می‌گیرد.

جمع‌بندی و نظر شما

گوگل با این تدابیر نشان می‌دهد که امنیت را فدای هوشمندی نمی‌کند. لایه‌های نظارتی و محدودیت دسترسی، خیال کاربران را از بابت فعالیت‌های خودسرانه هوش مصنوعی آسوده می‌کند. نظر شما چیست؟ آیا با وجود این لایه‌های امنیتی حاضر هستید خریدهای اینترنتی خود را به هوش مصنوعی کروم بسپارید؟ دیدگاه خود را بنویسید.