Một liên kết ChatGPT có thể cài tác nhân AI độc hại vào workspace doanh nghiệp
"Researchers at Zenity Labs reported an OpenAI ChatGPT workspace agent flaw, dubbed AgentForger, that could let a crafted ChatGPT link silently create, configure, publish, and schedule an attacker-controlled agent in a victim's workspace. The issue could enable phishing-driven abuse of connected services such as Outlook, Teams, Slack, SharePoint, and Google Drive to access corporate data and send messages as the employee; OpenAI reportedly fixed it by removing the URL parameter used in the attack, with no CVE mentioned."
Nguy cơ cao do tấn công có thể biến người dùng thành “insider” thông qua agent được tạo và lên lịch trong workspace; agent có thể mạo danh gửi tin và truy cập dữ liệu nếu kết nối được bật.
Có thể dẫn tới rò rỉ dữ liệu và gián đoạn quy trình giao tiếp nội bộ do tin nhắn/ tác vụ được thực hiện dưới danh nghĩa nhân viên; mức độ ảnh hưởng phụ thuộc vào phạm vi quyền và cấu hình kết nối của từng tổ chức.
Các nhà nghiên cứu tại Zenity Labs công bố một lỗ hổng trong tính năng workspace agents của ChatGPT, được đặt tên AgentForger. Theo báo cáo, chỉ cần một cú nhấp vào một liên kết trông giống bình thường, kẻ tấn công có thể âm thầm khiến hệ thống tạo, cấu hình, xuất bản và lên lịch một agent do kẻ tấn công điều khiển trong tài khoản của nạn nhân.
Cơ chế tấn công phụ thuộc vào việc nạn nhân thuộc workspace đã bật agents và có quyền tạo agent. Đồng thời, các kết nối ứng dụng và hành động liên quan phải được quản trị viên tổ chức cho phép. Thay vì đánh cắp mật khẩu hay phiên trình duyệt, kỹ thuật này “lừa” trình tạo agent để xây dựng một trợ lý tự động có thể thao tác thông qua quyền của nhân viên.
Nếu các dịch vụ như Outlook, Teams, Slack, SharePoint, Google Drive đã được kết nối và workspace cho phép hành động tương ứng, agent có thể truy cập dữ liệu doanh nghiệp, gửi tin nhắn mạo danh nhân viên, và tiếp tục chạy sau khi email lừa đảo ban đầu kết thúc. Zenity cho biết đã báo cáo qua Bugcrowd và OpenAI khắc phục bằng cách loại bỏ tham số URL dùng để kích hoạt tấn công.