Startup kiện Koi Security vì báo cáo tình báo mối đe dọa do AI tạo ra bị cáo buộc sai lệch
"MeetingTV has sued Palo Alto Networks, alleging that Koi Security published an AI-generated threat-intelligence report containing hallucinated claims that falsely tied MeetingTV and its Zoomcorder product to a Chinese espionage and malware operation. The complaint says the report led to widespread blocking of MeetingTV’s domains and services; the company is seeking retraction and removal of the false attribution, while Palo Alto says the dispute will be handled through legal process."
Vụ việc cho thấy rủi ro khi dùng LLM cho threat intelligence mà thiếu thẩm định: hallucination có thể dẫn tới quy kết sai và chặn nhầm hạ tầng hợp lệ, gây gián đoạn và làm suy giảm độ tin cậy của cảnh báo.
Tác động kinh doanh đáng kể do blacklist và chặn truy cập khiến dịch vụ bị gián đoạn; đồng thời phát sinh chi phí pháp lý và rủi ro uy tín khi bị gắn với gián điệp/malware.
MeetingTV đã khởi kiện Koi Security và các nhà nghiên cứu của đơn vị này, đồng thời nêu tên Palo Alto Networks trong vụ việc liên quan đến một blog tình báo mối đe dọa được công bố trước khi Koi được mua lại. Theo đơn kiện, Koi sử dụng LLM để tạo báo cáo, nhưng hệ thống đã hallucinate các kết luận về MeetingTV và sau đó đăng tải các nội dung này như sự thật trong bài viết ngày 30/12.
MeetingTV cáo buộc Koi “công bố liều lĩnh” báo cáo an ninh mạng, gán cho công ty các hành vi tội phạm và liên hệ với một chiến dịch malware cùng hoạt động gián điệp doanh nghiệp do một tác nhân Trung Quốc giả định điều hành. Công ty cho biết kết quả của báo cáo đã khiến nhiều nhà cung cấp và công ty bảo mật trên toàn cầu chặn tên miền và dịch vụ của MeetingTV, gắn nhãn là malware và command-and-control.
Trong khi đó, đại diện Palo Alto Networks cho biết công ty nắm được vụ kiện và kỳ vọng tranh chấp sẽ được xử lý theo quy trình pháp lý. MeetingTV yêu cầu rút lại và gỡ bỏ việc quy kết sai, đồng thời nêu rằng blog đã được chỉnh sửa sau đó để loại bỏ nhắc đến sản phẩm Zoomcorder. Về mặt kỹ thuật, vụ kiện nhấn mạnh cáo buộc Koi dựa vào một “pivot” phần mềm được mô tả nhưng không tồn tại, và việc thiếu kiểm chứng độc lập đã dẫn đến tương quan sai.