Bắt đầu từ công việc, không phải giá cả
Mô hình rẻ nhất thực hiện xong công việc ngay lần đầu tiên là mô hình bạn nên dùng. Một mô hình rẻ nhưng cần ba lần thử lại và xem xét bởi con người thì không hề rẻ. Vì vậy, trước khi tìm các giải pháp thay thế rẻ hơn API Claude, bạn hãy phân nhóm các tác vụ của mình.
| Nhóm | Ví dụ | Mô hình nhỏ hơn thường phù hợp? |
|---|---|---|
| Trích xuất có cấu trúc | Trích xuất trường từ email, gắn thẻ vé hỗ trợ | Thường là có, với chế độ JSON |
| Tóm tắt và viết lại | Ghi chú cuộc họp, các biến thể nội dung sản phẩm | Thường là có |
| Trò chuyện và bản nháp hỗ trợ | Câu trả lời lớp đầu tiên được con người xem xét | Thường là có |
| Tiểu thuyết, roleplay, ứng dụng đồng hành | Nhân vật trưởng thành, hội thoại dài | Có, và các từ chối quan trọng hơn chỉ số IQ thô |
| Lập luận phức tạp | Toán đa bước, mã khó, phân tích pháp lý | Kiểm tra kỹ; một mô hình mạnh hơn có thể đáng giá với chi phí của nó |
Bạn hãy chạy dữ liệu của mình qua từng nhóm. Một trăm ví dụ thực tế cho bạn biết nhiều hơn bất kỳ bảng xếp hạng nào.
Endpoint này là gì và không phải là gì
Dịch vụ này cung cấp cho bạn một mô hình trọng số mở, uncensored, qua một API tương thích OpenAI. Một nhà cung cấp độc lập vận hành nó. Nó không phải Claude, không do Anthropic tạo ra và không phải là bộ định tuyến giữa các nhà cung cấp. Nó được tinh chỉnh để trả lời mà không từ chối yêu cầu cho mục đích người trưởng thành hợp pháp, và chỉ có văn bản: không hình ảnh, âm thanh, embedding hay fine-tuning. Cửa sổ ngữ cảnh là 100.000 token, bao gồm prompt và completion.
Endpoint này hỗ trợ streaming, gọi hàm và chế độ JSON. Đối với các mô hình của nhà cung cấp khác vượt trội hơn trong lập luận phức tạp, bạn hãy kiểm tra giá hiện tại của họ và quyết định xem khoảng cách chất lượng có đáng để sử dụng cho từng tác vụ hay không. Nhiều nhóm vận hành một mô hình mạnh cho 10% lưu lượng khó và một mô hình giá rẻ cho phần còn lại.
Giá cả, với các ví dụ cụ thể
Trả theo mức sử dụng: $0,15 cho mỗi 1 triệu token đầu vào và $0,50 cho mỗi 1 triệu token đầu ra. Các yêu cầu bị lỗi hoặc bị từ chối không bị tính phí và tín dụng trả trước không bao giờ hết hạn.
Một lệnh gọi đơn với 1.000 token đầu vào và 300 token đầu ra:
- Đầu vào: 1.000 / 1.000.000 x $0,15 = $0,00015
- Đầu ra: 300 / 1.000.000 x $0,50 = $0,00015
- Tổng cộng: $0,0003
Một tháng với 5 triệu token đầu vào và 1 triệu token đầu ra tốn 5 x $0,15 + 1 x $0,50 = $0,75 + $0,50 = $1,25. Một tháng lớn hơn với 100 triệu token đầu vào và 20 triệu token đầu ra tốn 100 x $0,15 + 20 x $0,50 = $15 + $10 = $25.
Để so sánh, bạn hãy lấy các mức giá hiện tại từ trang định giá của nhà cung cấp khác và chạy cùng công thức. Bài viết nhầm lẫn về giá cả so với sự thật liệt kê các lỗi phổ biến trong các so sánh như vậy, chẳng hạn như bỏ qua token đầu ra hoặc quên các lần thử lại. Bảng đầy đủ về các khoản nạp tiền và ưu đãi của chúng tôi có trên trang định giá.
Chuyển đổi: những gì thực sự thay đổi trong mã
API Messages gốc của Anthropic có cấu trúc riêng: trường system ở cấp cao nhất, max_tokens bắt buộc, nội dung dưới dạng danh sách các khối và tiêu đề x-api-key. Endpoint này sử dụng cấu trúc OpenAI thay thế. Nếu bạn sử dụng máy khách tương thích OpenAI hoặc lớp chấp nhận nó, bạn chỉ cần thay đổi base URL, khóa và mô hình. Nếu bạn gọi SDK gốc, bạn cũng cần thay đổi mã máy khách.
| Kiểu Claude gốc | Ở đây |
|---|---|
system là trường cấp cao nhất | Thông điệp system đứng đầu trong messages |
max_tokens bắt buộc | max_tokens tùy chọn |
Trả lời trong content[0].text | Trả lời trong choices[0].message.content |
Tiêu đề x-api-key | Authorization: Bearer KEY |
from openai import OpenAI
client = OpenAI(base_url="https://api.claudeapicost.com/v1", api_key="YOUR_KEY")
def summarize(text):
r = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "Summarize in three bullet points. Plain text."},
{"role": "user", "content": text},
],
temperature=0.3,
)
return r.choices[0].message.contentCách an toàn để di chuyển lưu lượng
- Nhận tín dụng dùng thử $0,50 trên trang khóa API. Nó có hiệu lực trong 7 ngày và không cần thẻ.
- Phát lại 100 prompt đã ghi lại cho mỗi nhóm tác vụ trên endpoint mới.
- Để một người hoặc một script chấm điểm kết quả so với kết quả cũ.
- Định tuyến một nhóm tác vụ trước, nhóm ít thú vị nhất nhưng có khối lượng lớn nhất.
- Giữ một công tắc để gửi yêu cầu trở lại nhà cung cấp cũ nếu kết quả không vượt qua kiểm tra.
curl https://api.claudeapicost.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","response_format":{"type":"json_object"},"messages":[{"role":"user","content":"Return JSON with keys name and city for: Ana lives in Lisbon."}]}'
Khóa dùng thử cho phép 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút. Khóa đầy đủ cho phép 8 và 300. Vượt quá giới hạn, bạn sẽ nhận được HTTP 429 với mã rate_limited hoặc concurrency, và quá tải sẽ trả về 429 với Retry-After: 5. Tài liệu bao gồm phần còn lại.
Nguồn gốc của khoản tiết kiệm
Tỷ giá là một phần. Những phần khác dễ bị bỏ qua:
- Không tính phí yêu cầu bị từ chối. Các lệnh gọi bị lỗi hoặc bị từ chối không tốn phí ở đây.
- Kết quả ngắn hơn. Token đầu ra có giá cao hơn token đầu vào ở mức $0.50 so với $0.15. Hãy yêu cầu các định dạng súc tích và đặt
max_tokenscho các tác vụ có kích thước đã biết. - Cửa sổ ngữ cảnh được cắt giảm. Gửi lại 20.000 token lịch sử cho mỗi lượt là nguyên nhân lãng phí phổ biến nhất. Hãy tóm tắt các lượt trước đó.
- Ít lần thử lại hơn. Đối với truyện và nhập vai, việc tránh bị từ chối sẽ loại bỏ toàn bộ vòng lặp thử lại. Để tìm hiểu sâu hơn, hãy đọc về LLM cục bộ tốt nhất cho nhập vai và khi nào việc tự lưu trữ là hợp lý.
Thanh toán và nạp tiền
Nạp bất kỳ số nguyên nào từ $20 đến $500. Bonus: +5% từ $50, +10% từ $100, +15% từ $200. Thanh toán bằng tiền mã hóa (USDT trên TRC20, USDC trên Base). Không đăng ký định kỳ, và prompt không được dùng để huấn luyện. Nội dung tình dục liên quan đến người chưa thành niên không bao giờ được phép.

