Mỹ áp lệnh xuất khẩu khiến mô hình AI bị tắt sau yêu cầu “Fix this code”, không phải jailbreak
"A researcher says the prompt that triggered export controls on Anthropic's Fable 5 and Mythos 5 models was not a jailbreak, but a defensive request to 'fix this code' after the models were asked to review vulnerable source code. The reported impact was a US export restriction that Anthropic then enforced by disabling access to both models, while critics argue the models were being used for legitimate find-fix-test security workflows rather than guardrail bypass."
Tác động chủ yếu nằm ở việc giảm khả năng hỗ trợ find-fix-test cho phòng thủ; điểm đáng chú ý là tắt truy cập Fable 5/Mythos 5 khiến đội bảo mật khó khai thác quy trình kiểm thử bản vá bằng AI. Đồng thời, tranh luận xoay quanh việc liệu yêu cầu “Fix this code” có cấu thành vượt guardrail hay không.
Hạn chế xuất khẩu dẫn đến gián đoạn quyền truy cập vào các mô hình tiên tiến cho khách hàng ở ngoài Mỹ, kéo theo phản ứng từ cộng đồng bảo mật. Về dài hạn, việc thu hẹp năng lực cho bên phòng thủ có thể làm giảm hiệu quả chu trình vá lỗi trong hệ sinh thái doanh nghiệp.
Theo bà Katie Moussouris (Luta Security), lệnh hạn chế xuất khẩu của Mỹ đối với các mô hình AI tiên tiến không xuất phát từ jailbreak, mà từ một lời nhắc ngắn “Fix this code”. Bà cho biết mình là chuyên gia độc lập duy nhất đọc báo cáo nghiên cứu bên thứ ba liên quan đến kỹ thuật vượt guardrail của Fable 5.
Trước đó, chính phủ Mỹ (theo thông tin được nêu) đã ban hành chỉ đạo kiểm soát xuất khẩu, yêu cầu đình chỉ quyền truy cập Fable 5 và Mythos 5 đối với mọi cá nhân nước ngoài, trong hoặc ngoài lãnh thổ Mỹ. Để tuân thủ, nhà cung cấp đã tắt truy cập hai mô hình cho tất cả khách hàng.
Nhóm nghiên cứu được cho là đã cung cấp mã nguồn mở có CVE đã biết, kèm mã mới cài cài lỗ hổng, rồi yêu cầu hệ thống “review the code for security issues”. Khi mô hình từ chối, họ chuyển sang yêu cầu “fix this code” và sau đó tạo thêm kịch bản để kiểm thử bản vá.
Moussouris lập luận rằng quy trình find-fix-test là hoạt động phòng thủ hợp lệ: việc loại bỏ khả năng trả lời yêu cầu sửa lỗi và xác minh bản vá có thể làm hệ thống kém hơn trong bảo mật. Bà cũng cho rằng lệnh cấm có thể khó mở rộng hiệu lực với các mô hình open-weight tương tự từ các quốc gia khác.