➔ Trở về Trang chủ
OrangeCloud Insights
Security••⏱️ 2 phút đọc•Biên tập: OrangeCloud Insights (AI-assisted)•Nguồn: theregister.com
Nghiên cứu chỉ ra lỗ hổng trong lớp khung AI agent, không chỉ là prompt injection

Nghiên cứu chỉ ra lỗ hổng trong lớp khung AI agent, không chỉ là prompt injection

Tóm tắt kỹ thuật (TL;DR)

"Check Point researchers reported 11 vulnerabilities across major AI agent frameworks, including LangChain, LangGraph, CrewAI, AutoGen, Microsoft Agent Framework, and Google ADK. The issues include insecure deserialization, SSRF, path traversal, and use-after-free, with one critical Microsoft Agent Framework flaw enabling remote code execution via checkpoint deserialization; Microsoft fixed the issue and paid a bounty, while Google issued only a partial fix for its ADK flaw."

🛡️ Tác động Bảo mật8/10

Nguy cơ cao vì lỗ hổng cho phép kẻ tấn công vượt ranh giới tin cậy, dẫn tới RCE và/hoặc chiếm quyền qua insecure deserialization; đồng thời có thể phát sinh SSRF/path traversal tùy framework.

💼 Tác động Vận hành6/10

Tác động vận hành đáng kể do các framework thường được dùng rộng rãi trong quy trình tự động hóa; sự cố có thể gây gián đoạn và rò rỉ dữ liệu, đặc biệt khi checkpoint/state và API triển khai được truy cập từ môi trường sản xuất.

Các nhà nghiên cứu từ Check Point cho biết họ đã phát hiện và công bố 11 lỗ hổng trong nhiều AI agent framework mà doanh nghiệp dùng để xây dựng ứng dụng AI, cho thấy rủi ro vượt ra ngoài prompt injection hoặc lỗi của riêng một mô hình. Nhóm đã thử nghiệm trong LangChain, LangGraph, CrewAI, AutoGen, Microsoft Agent Framework và Google ADK.

Theo báo cáo, vấn đề cốt lõi nằm ở cách framework xử lý nội dung do kẻ tấn công điều khiển: dữ liệu có thể “tràn” sang trusted framework logic, ảnh hưởng tới orchestration, memory/state, routing và system instructions. Nhóm nhấn mạnh các lớp lỗi phổ biến như insecure deserialization, SSRF, path traversal và use-after-free.

Ví dụ, họ phát hiện lỗi checkpoint deserialization trong Microsoft Agent Framework dẫn tới remote code execution (RCE). Cơ chế checkpoint lưu trạng thái tác vụ vào bộ nhớ bền; khi nạp lại dữ liệu checkpoint không tin cậy, kẻ tấn công có thể kích hoạt thực thi mã. Microsoft đã phát hành biện pháp bảo vệ, cập nhật ranh giới bảo mật và trả $10.000 (không phát hành CVE do thời điểm sản phẩm chưa phổ biến).

Với Google ADK, nhóm mô tả khả năng khai thác qua API HTTP để triển khai mã Python chạy tại thời điểm import; Google chỉ đưa ra partial fix và trả $3.133,70.

Khuyến nghị: rà soát cấu hình checkpoint/state, hạn chế quyền truy cập API, kiểm tra cơ chế nạp dữ liệu không tin cậy, và ưu tiên cập nhật/mitigation từ nhà cung cấp.

Xem nguồn tin gốc để kiểm tra kỹ hơn các thông số kỹ thuật:Xem nguồn tin gốc ➔