Anthropic phát hiện các chiến dịch trích xuất dữ liệu Claude quy mô lớn
"Anthropic said it disrupted industrial-scale illicit distillation campaigns targeting Claude, attributing activity to seven China-based AI labs and related proxy networks. The campaigns allegedly harvested Claude outputs, including chain-of-thought reasoning and user exchanges, to train competing models; Anthropic responded by banning reseller and unsupported-region accounts and updating Claude to summarize internal reasoning before responding."
Rủi ro rò rỉ dữ liệu hội thoại và trích xuất năng lực mô hình ở quy mô lớn; có thể ảnh hưởng đến bí mật kinh doanh và dữ liệu nhạy cảm.
Có thể làm tăng chi phí kiểm soát truy cập, siết xác minh danh tính và ảnh hưởng đến quy trình tích hợp AI tại các khu vực bị hạn chế.
Anthropic cho biết đã phát hiện và ngăn chặn các chiến dịch distillation trái phép nhắm vào Claude, với hoạt động bị quy cho 7 phòng thí nghiệm AI tại Trung Quốc và các mạng proxy liên quan. Theo công ty, các bên này đã thu thập đầu ra của Claude, gồm cả chain-of-thought (CoT), hội thoại người dùng và dữ liệu từ các tác vụ như lập trình, phân tích dữ liệu và suy luận logic, để huấn luyện mô hình cạnh tranh.
Anthropic mô tả đây là hình thức khai thác ở quy mô công nghiệp, thường dựa trên tài khoản giả, thẻ tín dụng bị đánh cắp, API key hợp lệ bị lạm dụng và các dịch vụ trung gian để vượt qua hạn chế truy cập. Công ty cho biết một số luồng trao đổi còn chứa thông tin nhạy cảm từ người dùng cá nhân, doanh nghiệp lớn và thực thể liên quan nhà nước.
Để giảm rủi ro, Anthropic đã chặn tài khoản reseller và tài khoản từ các khu vực không được hỗ trợ nếu không xác minh danh tính, đồng thời cập nhật Claude để tóm tắt suy luận nội bộ trước khi phản hồi nhằm làm khó việc trích xuất mô hình. Với đội kỹ thuật, cần rà soát việc dùng proxy dịch vụ AI, kiểm soát API key, và giám sát dấu hiệu truy vấn bất thường hoặc tái sử dụng hội thoại cho mục đích huấn luyện.