Google Workspace liên tục giảm thiểu tấn công prompt injection
"This article details Google's continuous, layered approach to mitigating indirect prompt injection (IPI) attacks targeting Google Workspace with Gemini. The strategy involves proactive attack discovery through human and automated red-teaming, a vulnerability rewards program, and monitoring public disclosures. Google uses synthetic data generation and ongoing refinement of deterministic, ML-based, and LLM-based defenses to improve resilience."
Tấn công prompt injection có thể dẫn đến việc LLM thực hiện các hành động không mong muốn hoặc tiết lộ thông tin nhạy cảm. Việc phòng ngừa tấn công IPI là rất quan trọng để bảo vệ dữ liệu và hệ thống.
Các doanh nghiệp sử dụng LLM trong quy trình làm việc có thể bị ảnh hưởng bởi tấn công prompt injection, dẫn đến gián đoạn hoạt động và tổn thất tài chính. Việc triển khai các biện pháp bảo vệ prompt injection là cần thiết để đảm bảo tính toàn vẹn của dữ liệu và hệ thống.
Google vừa công bố cách tiếp cận liên tục để giảm thiểu tấn công prompt injection (IPI) vào Google Workspace với Gemini. Chiến lược này bao gồm phát hiện tấn công chủ động thông qua red-teaming (mô phỏng tấn công) của con người và tự động, chương trình thưởng cho việc phát hiện lỗ hổng, và theo dõi các thông tin công khai.
Tấn công IPI là một mối đe dọa đang phát triển, đặc biệt với các ứng dụng AI phức tạp như Workspace. Kỹ thuật này cho phép kẻ tấn công tác động đến hành vi của LLM (mô hình ngôn ngữ lớn) bằng cách chèn hướng dẫn độc hại vào dữ liệu hoặc công cụ mà LLM sử dụng. Điều này có thể xảy ra ngay cả khi không có đầu vào trực tiếp từ người dùng.
Google sử dụng dữ liệu tổng hợp (synthetic data) để tạo ra các biến thể tấn công, giúp cải thiện khả năng phòng thủ. Họ cũng liên tục tinh chỉnh các biện pháp bảo vệ, bao gồm các biện pháp phòng thủ xác định (deterministic defenses), dựa trên ML (machine learning) và LLM (large language model).
Deterministic defenses như xác nhận của người dùng và làm sạch URL được cập nhật nhanh chóng thông qua Policy Engine. ML-based defenses được tái huấn luyện bằng dữ liệu tổng hợp để chống lại các biến thể tấn công mới. LLM-based defenses cũng được cải thiện bằng dữ liệu tổng hợp. Google cũng có chương trình Vulnerability Rewards Program (VRP) để khuyến khích các nhà nghiên cứu bảo mật bên ngoài tìm và báo cáo lỗ hổng. Họ còn sử dụng red-teaming (cả thủ công và tự động) để mô phỏng các cuộc tấn công thực tế. Việc theo dõi các thông tin công khai về tấn công IPI cũng giúp Google cập nhật các biện pháp bảo vệ.
Câu hỏi thường gặp
Prompt injection là gì?
Prompt injection là một kỹ thuật tấn công trong đó kẻ tấn công chèn các hướng dẫn độc hại vào dữ liệu hoặc công cụ mà mô hình ngôn ngữ lớn (LLM) sử dụng, nhằm tác động đến hành vi của LLM.
Google sử dụng những biện pháp nào để giảm thiểu tấn công IPI?
Google sử dụng red-teaming, chương trình thưởng cho việc phát hiện lỗ hổng, theo dõi thông tin công khai, và liên tục tinh chỉnh các biện pháp phòng thủ dựa trên dữ liệu tổng hợp.
Dữ liệu tổng hợp được sử dụng như thế nào?
Dữ liệu tổng hợp được sử dụng để tạo ra các biến thể tấn công mới, giúp Google kiểm tra và cải thiện khả năng phòng thủ của mình.
Góc nhìn của Orange Cloud
Theo chúng tôi, cách tiếp cận liên tục của Google là cần thiết để đối phó với mối đe dọa IPI đang phát triển. Các doanh nghiệp Việt Nam sử dụng Workspace nên theo dõi các bản cập nhật bảo mật từ Google và tận dụng các tính năng bảo vệ tích hợp. Điều đáng chú ý là việc sử dụng dữ liệu tổng hợp để tạo ra các biến thể tấn công là một phương pháp hiệu quả để kiểm tra và cải thiện khả năng phòng thủ.