Anthropic ra mắt Claude Sonnet 5: tối ưu tác vụ dài, giảm hành vi không mong muốn và điều chỉnh giá
"Anthropic released Claude Sonnet 5, a mid-sized AI model positioned as more agentic, safer, and cheaper than Sonnet 4.6 for coding, reasoning, tool use, and long-horizon tasks. The article says it improves resistance to prompt injection, hallucinations, and malicious requests, while not being deliberately trained for cybersecurity tasks and being guarded against offensive exploit generation; no CVE is mentioned."
Tác động bảo mật ở mức tích cực nhờ giảm prompt injection, chặn yêu cầu tạo mã tấn công, và cải thiện khả năng nhận diện lạm dụng/đánh lừa; tuy nhiên mô hình không được thiết kế riêng cho cybersecurity tasks nên vẫn cần kiểm thử theo ngữ cảnh triển khai.
Có thể hỗ trợ tự động hóa tác vụ dài với hiệu quả chi phí tốt hơn: Sonnet 5 được định vị rẻ hơn và có thể thay thế một phần công việc so với mô hình đắt hơn; đồng thời có cơ chế điều chỉnh effort để tối ưu token theo độ dài tác vụ.
Anthropic vừa phát hành Claude Sonnet 5 (mô hình cỡ trung), định vị là phiên bản “agentic” hơn so với Sonnet 4.6. Theo thông tin từ công ty, Sonnet 5 cải thiện các năng lực liên quan đến reasoning, tool use, coding và các tác vụ “long-horizon” đòi hỏi duy trì ngữ cảnh qua nhiều bước. Đồng thời, công ty cho biết tỷ lệ các undesirable behaviors nhìn chung thấp hơn so với Sonnet 4.6 trong các đánh giá an toàn.
Về khía cạnh an ninh ứng dụng, Sonnet 5 được mô tả là kháng prompt injection tốt hơn, giảm hallucinations và hạn chế xu hướng “sycophancy” so với phiên bản trước. Các benchmark trong System Card cũng cho thấy mô hình có khả năng nhận diện và chặn lạm dụng/đánh lừa từ người dùng.
Sonnet 5 không được “huấn luyện có chủ đích” cho các tác vụ an ninh mạng, và được guardrail để hạn chế tạo mã tấn công (ví dụ khi được yêu cầu viết exploit cho Firefox, mô hình không hoàn thành). Về chi phí, từ tháng 9 giá dự kiến là $3/triệu input tokens và $15/triệu output tokens (có ưu đãi đến hết tháng 8).
Khuyến nghị: doanh nghiệp nên rà soát chính sách prompting, kiểm thử khả năng chống prompt injection trong quy trình agent nội bộ, và thiết lập cơ chế giám sát/giới hạn quyền khi dùng cho các tác vụ tự động dài.