Bảo mật cho khả năng agentic trong Chrome
"Google Chrome is implementing security enhancements to mitigate indirect prompt injection attacks targeting agentic capabilities powered by Gemini. These defenses include a 'User Alignment Critic' to vet actions and 'Agent Origin Sets' to restrict cross-origin access, limiting potential data exfiltration. The approach utilizes layered deterministic and probabilistic defenses to enhance safety."
Chrome đang giải quyết các lỗ hổng tiềm ẩn trong agentic capabilities thông qua các biện pháp như User Alignment Critic và Agent Origin Sets, giảm thiểu rủi ro prompt injection.
Việc tăng cường bảo mật cho các tính năng AI của Chrome có thể thúc đẩy sự tin tưởng của doanh nghiệp Việt Nam vào việc sử dụng agentic browsing và các ứng dụng Gemini.
Google Chrome đang tăng cường bảo mật để giảm thiểu các cuộc tấn công chèn prompt gián tiếp nhắm vào khả năng agentic (khả năng tự hành) được cung cấp bởi Gemini. Các biện pháp phòng thủ bao gồm 'User Alignment Critic' (người phê duyệt sự phù hợp của người dùng) để kiểm tra hành động và 'Agent Origin Sets' (tập hợp nguồn gốc của agent) để hạn chế quyền truy cập liên trang, giảm thiểu rò rỉ dữ liệu tiềm ẩn.
Chrome đã cải thiện bảo mật web hơn 15 năm và cam kết đáp ứng các thách thức mới với AI. Hàng tỷ người dùng tin tưởng Chrome để giữ an toàn cho họ, và Google coi đây là trách nhiệm lớn. Sau khi ra mắt Gemini trong Chrome và bản xem trước các khả năng agentic, họ chia sẻ cách tiếp cận và các cải tiến mới để tăng cường an toàn.
Một mối đe dọa chính đối với các trình duyệt agentic là chèn prompt gián tiếp. Các cuộc tấn công này có thể xuất phát từ các trang web độc hại, nội dung iframe của bên thứ ba hoặc nội dung do người dùng tạo ra, khiến agent thực hiện các hành động không mong muốn như giao dịch tài chính hoặc đánh cắp dữ liệu nhạy cảm. Để giải quyết vấn đề này, Chrome đang triển khai hệ thống phòng thủ nhiều lớp, kết hợp cả biện pháp phòng thủ xác định và xác suất để gây khó khăn và tốn kém cho kẻ tấn công.
Để đảm bảo an toàn cho agentic browsing, Chrome sử dụng 'User Alignment Critic' – một mô hình riêng biệt được xây dựng với Gemini, hoạt động như một thành phần đáng tin cậy. Mô hình này kiểm tra từng hành động được đề xuất, đảm bảo hành động đó phù hợp với mục tiêu của người dùng. Nếu hành động không phù hợp, 'Alignment Critic' sẽ chặn nó. Thành phần này chỉ xem siêu dữ liệu về hành động, không phải nội dung web không đáng tin cậy, ngăn chặn việc bị tấn công trực tiếp.
Chrome cũng mở rộng khả năng cách ly nguồn gốc để hạn chế các trang web mà agent có thể tương tác. 'Agent Origin Sets' giới hạn quyền truy cập của agent chỉ với các nguồn liên quan đến nhiệm vụ hoặc dữ liệu mà người dùng đã chọn chia sẻ. Điều này ngăn chặn agent bị xâm phạm thực hiện các hành động tùy ý trên các nguồn không liên quan. Mỗi nhiệm vụ sẽ có hai tập hợp:
- Nguồn gốc chỉ đọc: Gemini được phép lấy nội dung từ đây.
- Nguồn gốc đọc-ghi: Agent được phép đọc và thực hiện hành động (như nhấp chuột, nhập liệu).
Thiết kế này đảm bảo chỉ dữ liệu từ một tập hợp nguồn gốc hạn chế có sẵn cho agent, và dữ liệu này chỉ có thể được chuyển đến các nguồn gốc có thể ghi. Điều này thu hẹp phạm vi tấn công rò rỉ dữ liệu liên trang.
Câu hỏi thường gặp
Prompt injection gián tiếp là gì?
Prompt injection gián tiếp là một cuộc tấn công trong đó kẻ tấn công chèn mã độc vào nội dung web để điều khiển hành vi của agent. Mã độc này có thể đến từ các trang web độc hại, iframe hoặc nội dung do người dùng tạo ra.
User Alignment Critic hoạt động như thế nào?
User Alignment Critic là một mô hình riêng biệt được xây dựng với Gemini. Nó kiểm tra từng hành động được đề xuất bởi agent để đảm bảo hành động đó phù hợp với mục tiêu của người dùng và sẽ chặn các hành động không phù hợp.
Agent Origin Sets là gì?
Agent Origin Sets là một cơ chế hạn chế quyền truy cập của agent chỉ với các nguồn gốc liên quan đến nhiệm vụ hoặc dữ liệu mà người dùng đã chọn chia sẻ, ngăn chặn rò rỉ dữ liệu liên trang.
Góc nhìn của Orange Cloud
Theo chúng tôi, việc triển khai 'User Alignment Critic' và 'Agent Origin Sets' là một bước tiến quan trọng trong việc bảo mật các tính năng agentic của Chrome. Đối với các doanh nghiệp Việt Nam đang tìm cách tích hợp AI vào quy trình làm việc, việc Chrome chủ động giải quyết các rủi ro bảo mật này là một tín hiệu tốt. Các nhà phát triển có thể thử nghiệm các khả năng agentic mới, biết rằng Chrome đang nỗ lực giảm thiểu các mối đe dọa tiềm ẩn. Tuy nhiên, cần lưu ý rằng các biện pháp phòng thủ này vẫn đang phát triển và có thể cần được điều chỉnh để phù hợp với các trường hợp sử dụng cụ thể.