Tăng tốc phản hồi với fast mode

Ghi chú

Fast mode đang ở giai đoạn research preview. Tính năng, giá cả, và mức khả dụng có thể thay đổi theo phản hồi người dùng.

Fast mode là cấu hình tốc độ cao cho Claude Opus, giúp model nhanh hơn tới 2.5 lần với chi phí mỗi token cao hơn. Bật bằng /fast khi cần tốc độ cho công việc tương tác như lặp nhanh hoặc debug trực tiếp, và tắt khi chi phí quan trọng hơn độ trễ.

Fast mode không phải một model khác - nó dùng Claude Opus với cấu hình API khác ưu tiên tốc độ hơn hiệu quả chi phí. Chất lượng và khả năng giống hệt, chỉ nhanh hơn. Fast mode được hỗ trợ trên Opus 5 và Opus 4.8, không khả dụng trên Sonnet, Haiku, hay model khác.

Claude Code coi Opus 4.7 là fast mode model ở mọi nơi nó quyết định fast mode có bật hay không: toggle /fast, chuyển model theo cả hai hướng, và lúc khởi động session. API từ chối các request fast mode kết quả thay vì phục vụ ở tốc độ chuẩn. Chuyển sang Opus 5 hoặc Opus 4.8 để giữ tốc độ tăng.

Điều cần biết:

• Dùng /fast để bật/tắt fast mode trong CLI. Fast mode không hỗ trợ trong VS Code extension.
• Giá fast mode mỗi MTok input/output là $10/$50 trên Opus 5 và Opus 4.8.
• Khả dụng cho mọi user Claude Code trên subscription plan (Pro/Max/Team/Enterprise) và Claude Console.
• Với user trên subscription plan, fast mode chỉ khả dụng qua usage credits, không tính vào rate limit của subscription.

Bật/tắt fast mode

• Gõ /fast rồi Tab để toggle
• Đặt "fastMode": true trong user settings file

Mặc định, fast mode bạn bật trong session tương tác được giữ lại qua các session sau. Trong non-interactive mode (-p flag), /fast chỉ hoạt động trong session khởi động với fast mode trong giá trị --settings, ví dụ claude -p --settings '{"fastMode": true}'.

Để có hiệu quả chi phí tốt nhất, bật fast mode từ đầu session thay vì chuyển giữa chừng cuộc trò chuyện.

Khi bạn bật fast mode:

• Nếu đang ở model khác, Claude Code tự động chuyển sang Opus
• Bạn thấy thông báo xác nhận “Fast mode ON”
• Icon ↯ nhỏ xuất hiện cạnh prompt khi fast mode đang bật
• Chạy /fast lần nữa bất kỳ lúc nào để kiểm tra trạng thái

Khi bạn tắt fast mode bằng /fast lần nữa, bạn vẫn ở Opus - model không tự quay lại model trước đó. Để chuyển model khác, dùng /model.

Đánh đổi chi phí

Fast mode có giá mỗi token cao hơn Opus tiêu chuẩn:

Model	Input (MTok)	Output (MTok)
Opus 5	$10	$50
Opus 4.8	$10	$50

Giá fast mode cố định trên toàn bộ context window 1M token. Lần đầu bạn bật fast mode trong một cuộc trò chuyện, bạn trả giá fast mode uncached-input đầy đủ cho toàn bộ context cuộc trò chuyện đó - càng vào sâu cuộc trò chuyện thì chi phí này càng cao, nên bật fast mode ngay từ đầu rẻ hơn. Chi phí này chỉ áp dụng một lần mỗi cuộc trò chuyện; tắt/bật lại sau đó không lặp lại chi phí.

Khi nào dùng fast mode

Fast mode phù hợp cho công việc tương tác nơi độ trễ phản hồi quan trọng hơn chi phí:

• Lặp nhanh trên thay đổi code
• Debug trực tiếp
• Công việc gấp deadline

Standard mode phù hợp hơn cho:

• Task tự động dài, nơi tốc độ ít quan trọng hơn
• Batch processing hoặc CI/CD pipeline
• Công việc nhạy cảm về chi phí

Fast mode vs. effort level

Setting	Hiệu ứng
Fast mode	Chất lượng model như nhau, độ trễ thấp hơn, chi phí cao hơn
Effort level thấp hơn	Ít thời gian suy nghĩ hơn, phản hồi nhanh hơn, chất lượng có thể thấp hơn với task phức tạp

Bạn có thể kết hợp cả hai: dùng fast mode với effort level thấp hơn để đạt tốc độ tối đa cho task đơn giản.

Yêu cầu

Fast mode cần tất cả các điều sau:

• Chỉ Anthropic API hoặc subscription: khả dụng qua Anthropic Console API và subscription plan Claude dùng usage credits. Không khả dụng trên Amazon Bedrock, Google Cloud’s Agent Platform, Microsoft Foundry, hoặc Claude Platform on AWS.
• Usage credits đã bật: tài khoản phải bật usage credits.
• Owner phải bật cho Team/Enterprise: fast mode tắt mặc định cho tổ chức Team/Enterprise. Owner phải bật trước khi user truy cập được.

Bật fast mode cho tổ chức

• Console (khách hàng API): admin bật trong Claude Code preferences
• Claude AI (Team/Enterprise): Owner bật tại Admin Settings > Claude Code

Một lựa chọn khác để tắt hẳn fast mode là đặt CLAUDE_CODE_DISABLE_FAST_MODE=1.

Dùng fast mode qua proxy và LLM gateway

Trước khi cung cấp fast mode, Claude Code kiểm tra mức khả dụng của tổ chức bạn bằng request trực tiếp đến api.anthropic.com. Kiểm tra này không đi theo ANTHROPIC_BASE_URL, nên trên mạng route traffic Claude qua LLM gateway và chặn egress trực tiếp đến api.anthropic.com, kiểm tra sẽ fail dù request inference vẫn hoạt động.

Khi kiểm tra fail, /fast báo “Fast mode unavailable due to network connectivity issues” và request chạy ở tốc độ chuẩn.

Để khôi phục fast mode, allowlist egress trực tiếp đến api.anthropic.com, hoặc đặt biến phù hợp: CLAUDE_CODE_SKIP_FAST_MODE_NETWORK_ERRORS=1 hoặc CLAUDE_CODE_SKIP_FAST_MODE_ORG_CHECK=1 tuỳ trường hợp.

Yêu cầu opt-in mỗi session

Mặc định, fast mode một user bật trong session tương tác vẫn giữ ở các session sau. Để thay đổi, đặt fastModePerSessionOptIn thành true trong bất kỳ settings file nào - mỗi session sẽ bắt đầu với fast mode tắt và cần user bật lại bằng /fast.

{
  "fastModePerSessionOptIn": true
}

Hữu ích để kiểm soát chi phí trong tổ chức có user chạy nhiều session đồng thời.

Xử lý rate limit

Fast mode có rate limit riêng, tách khỏi Opus chuẩn. Tất cả model Opus hỗ trợ fast mode dùng chung một pool rate limit. Khi bạn chạm rate limit fast mode hoặc hết usage credits: fast mode tự động rơi về tốc độ chuẩn, icon ↯ chuyển xám báo hiệu cooldown, bạn tiếp tục làm việc ở tốc độ/giá chuẩn, và khi cooldown hết fast mode tự bật lại.

Nguồn

Dịch và biên soạn từ Speed up responses with fast mode.