Tấn công thao túng câu trả lời của chatbot AI để phát tán lừa đảo
"Threat actors are manipulating AI chatbot and search-generated answers from ChatGPT, Gemini, and Google AI Overview by seeding the web with malicious links and data, then optimizing that content to influence responses. The campaign is being used for mass disinformation and phishing, with no specific CVE mentioned and no software patch described."
Rủi ro chính là đầu độc dữ liệu đầu vào và dẫn người dùng tới liên kết lừa đảo; không có CVE cụ thể nhưng ảnh hưởng có thể lan rộng.
Có thể gây mất niềm tin vào công cụ AI, tăng nguy cơ lộ thông tin qua phishing và phát sinh chi phí kiểm soát nội dung, đào tạo người dùng.
Các tác nhân đe dọa đang thao túng câu trả lời của chatbot AI và kết quả tìm kiếm tạo sinh từ ChatGPT, Gemini và Google AI Overview bằng cách gieo rắc liên kết độc hại cùng dữ liệu sai lệch trên web, sau đó tối ưu nội dung để ảnh hưởng đến phản hồi của hệ thống. Mục tiêu của chiến dịch là phục vụ phát tán thông tin sai lệch quy mô lớn và phishing, thay vì khai thác một lỗ hổng phần mềm cụ thể.
Sự việc cho thấy rủi ro của các hệ thống AI phụ thuộc mạnh vào dữ liệu công khai trên Internet: nếu nguồn đầu vào bị ô nhiễm, câu trả lời sinh ra có thể dẫn người dùng đến trang lừa đảo hoặc nội dung không đáng tin cậy. Hiện chưa có CVE hay bản vá phần mềm được nêu trong nguồn tin.
Khuyến nghị kỹ thuật: tăng cường kiểm tra nguồn tham chiếu, hạn chế dựa vào câu trả lời AI cho các quyết định nhạy cảm, triển khai lọc URL và giám sát nội dung trên cổng web/email, đồng thời đào tạo người dùng nhận diện dấu hiệu phishing và xác minh chéo thông tin trước khi hành động.