Nghiên cứu tìm thấy lỗ hổng trong 5 công cụ AI, lỗi OpenAI và Microsoft chưa được vá
"Researchers identified vulnerabilities in five AI developer tools – Cursor, GitHub Copilot, Anthropic's Claude Desktop, VS Code, and OpenAI's Codex – stemming from overly permissive embedded browsers. These flaws could allow for code execution, data theft, and address bar spoofing. While GitHub independently patched Copilot, vulnerabilities in Cursor, Codex, and VS Code remain unpatched as of the report's publication."
Thực thi mã từ xa và đánh cắp dữ liệu là những rủi ro chính. Các lỗ hổng trong trình duyệt nhúng tạo điều kiện cho các cuộc tấn công.
Các lỗ hổng này có thể gây tổn thất dữ liệu và gián đoạn hoạt động cho các doanh nghiệp sử dụng các công cụ bị ảnh hưởng. Việc vá lỗi kịp thời là vô cùng quan trọng.
Các nhà nghiên cứu phát hiện ra lỗ hổng trong 5 công cụ phát triển AI – Cursor, GitHub Copilot, Claude Desktop của Anthropic, VS Code và Codex của OpenAI – do trình duyệt nhúng quá quyền hạn. Lỗ hổng này có thể cho phép thực thi mã, đánh cắp dữ liệu và giả mạo thanh địa chỉ. GitHub đã tự vá Copilot, nhưng Cursor, Codex và VS Code vẫn chưa được vá tính đến khi báo cáo được công bố.
Startup bảo mật AI Forever Security phát hiện các lỗ hổng này và báo cáo 4 trong số đó cho các nhà cung cấp. GitHub đã tự khắc phục lỗ hổng Copilot mà không cần báo cáo từ Forever Security. Điểm chung của các công cụ này là trình duyệt nhúng được cấp quyền vượt quá khả năng của trình duyệt thông thường.
Forever Security gọi lớp lỗ hổng này là “Embrace” (viết tắt của EMbedded BRowser), cho biết nó dẫn đến thực thi mã trong Cursor, đánh cắp dữ liệu trong Claude Desktop, Codex và VS Code, và giả mạo thanh địa chỉ trong GitHub Copilot.
Cursor cho phép trang web chạy lệnh trên máy chủ thông qua tác nhân (agent). Tác nhân đọc lệnh này và thực thi, nhưng lệnh này ẩn với người dùng. Điều này mở ra khả năng tấn công bằng prompt injection, cho phép kẻ tấn công thực thi lệnh trên máy chủ. Cursor đã vá lỗi này vào ngày 1 tháng 10, nhưng không công bố thông báo bảo mật hoặc phản hồi với các nhà nghiên cứu.
GitHub Copilot cho phép trang web thay đổi nội dung thanh địa chỉ mà không tải lại trang. Ứng dụng chỉ kiểm tra xem văn bản có giống địa chỉ web (bắt đầu bằng http, https hoặc file) hay không, mà không kiểm tra xem tab thực sự trỏ đến đâu. Kẻ tấn công có thể lợi dụng điều này để hiển thị URL giả mạo (ví dụ: github.com/login) trong thanh địa chỉ, trong khi tải một trang web lừa đảo bên dưới. GitHub đã vá lỗi này trong bản cập nhật Copilot 1.1.29 vào ngày 13 tháng 10.
Claude Desktop, Codex và VS Code cho phép các tệp HTML cục bộ mở trong trình duyệt nhúng vượt qua các giới hạn và truy cập các tệp khác. Claude Desktop và VS Code cho phép các trang cục bộ truy cập thư mục dự án của chúng, nhưng các hạn chế này không áp dụng cho web worker – một tính năng của trình duyệt cho phép JavaScript chạy trong một luồng nền riêng biệt. Điều này có nghĩa là một trang cục bộ có thể khởi động một worker, và worker có thể bỏ qua các hạn chế để truy cập bất kỳ tệp nào trên máy. Codex không có hạn chế này, cho phép một trang cục bộ đọc bất kỳ tệp nào trực tiếp mà không cần worker. Anthropic từ chối báo cáo lỗi Claude Desktop, nhưng sau đó chấp nhận báo cáo từ Noma Security. OpenAI và Microsoft chưa phản hồi về các lỗ hổng này.
https://www.theregister.com/2023/10/30/ai_developer_tools_vulnerabilities/
Câu hỏi thường gặp
Các công cụ AI nào bị ảnh hưởng bởi các lỗ hổng này?
Cursor, GitHub Copilot, Claude Desktop của Anthropic, VS Code và Codex của OpenAI đều bị ảnh hưởng bởi các lỗ hổng bảo mật khác nhau. Các lỗ hổng này có thể cho phép kẻ tấn công thực thi mã, đánh cắp dữ liệu hoặc giả mạo thanh địa chỉ.
Lỗ hổng 'Embrace' là gì?
Embrace là tên gọi của một lớp lỗ hổng bảo mật liên quan đến trình duyệt nhúng trong các công cụ phát triển AI. Các trình duyệt nhúng này được cấp quyền vượt quá khả năng của trình duyệt thông thường, tạo ra các lỗ hổng bảo mật.
GitHub đã phản ứng như thế nào với các lỗ hổng trong Copilot?
GitHub đã tự khắc phục lỗ hổng trong Copilot mà không cần báo cáo từ Forever Security. Bản vá được phát hành trong bản cập nhật Copilot 1.1.29 vào ngày 13 tháng 10.
Góc nhìn của Orange Cloud
Theo chúng tôi, các lỗ hổng này cho thấy rủi ro tiềm ẩn khi sử dụng các công cụ phát triển AI tích hợp trình duyệt nhúng. Doanh nghiệp Việt Nam sử dụng các công cụ này cần đánh giá kỹ lưỡng các rủi ro bảo mật và đảm bảo rằng các biện pháp bảo vệ phù hợp được áp dụng. Điều đáng chú ý là việc vá lỗi của GitHub Copilot cho thấy các nhà cung cấp đang chú ý đến các vấn đề bảo mật. Các kỹ sư nên kiểm tra xem các công cụ họ đang sử dụng có bị ảnh hưởng hay không và cập nhật lên phiên bản mới nhất nếu có.