PT ▾
custos da API Claude.com

API LLM sem censura a preços transparentes

https://api.claudeapicost.com/v1

claudeapicost.comObter chave de API

Melhor LLM local para roleplay vs API na nuvem

O melhor LLM local para roleplay é o maior modelo ajustado para roleplay que sua GPU pode rodar em um comprimento de contexto utilizável. Se isso significar modelos pequenos ou memória curta, uma API na nuvem pode servir melhor.

Atualizado

Um computador GPU local e uma nuvem brilhante conectados por uma fita de balões de chat, comparando LLMs de RP local e na nuvem

Pontos principais

O que decide o melhor modelo local para roleplay

Pessoas que buscam o melhor LLM local para roleplay geralmente querem um nome. Nomes ficam desatualizados em semanas, então use critérios que permaneçam válidos.

  • Contagem de parâmetros. Modelos maiores mantêm a voz do personagem e acompanham melhor as linhas da trama. Modelos pequenos tendem a repetir e esquecer detalhes.
  • Quantização. Uma versão de 4-bit ou 5-bit reduz muito o uso de memória com perda de qualidade modesta. Abaixo de 4 bits, a queda torna-se mais perceptível em cenas longas.
  • Comprimento do contexto. Roleplay é uma conversa longa. O modelo precisa segurar o cartão do personagem, as notas do mundo e os turnos recentes ao mesmo tempo.
  • Fine-tune. Modelos ajustados em ficção e diálogo escrevem prosa melhor que assistentes gerais, e muitos fine-tunes locais são treinados para pular recusas para ficção adulta legal.
  • Velocidade. Uma resposta que chega na velocidade de leitura parece uma conversa. Uma que rasteja quebra o fluxo.

Para escolhas atuais, leia threads recentes da comunidade e rankings para a ferramenta que usa, como Ollama, LM Studio ou KoboldCpp. Verifique as datas, porque o favorito do último trimestre muitas vezes já foi substituído.

Onde modelos locais esbarram no limite

O limite quase nunca é o arquivo do modelo. É a memória. Pesos precisam de VRAM ou RAM de sistema rápida, e o cache de contexto cresce por cima disso com cada token de histórico. Rodar um modelo que cabe em 4.000 tokens de contexto é fácil; manter 30.000 tokens de história na memória a uma velocidade decente precisa de muito mais.

A maioria das configurações locais de roleplay compromete de uma das três formas:

  1. Um modelo menor, que escreve personagens mais planos.
  2. Uma janela de contexto curta, que faz o personagem esquecer cenas anteriores.
  3. Descarregar camadas para a CPU, o que torna as respostas lentas.

Nada disso torna os modelos locais uma má escolha. Se você já possui uma GPU potente, esses compromissos podem ser aceitáveis para você. Isso significa que a resposta honesta para "qual modelo local" depende primeiro do seu hardware e depois do modelo.

O que uma API na nuvem muda

Uma API hospedada transfere o problema de memória para outra pessoa. Este serviço expõe um único modelo de pesos abertos com uma janela de contexto de 100.000 tokens (prompt e conclusão juntos), então uma história longa, um cartão de personagem detalhado e entradas de lorebook cabem sem corte. Não há download, escolha de quantização nem problema de driver.

Também é compatível com OpenAI. Qualquer front-end que possa falar com um endpoint estilo OpenAI funciona: defina a URL base para https://api.claudeapicost.com/v1, use sua chave e defina o modelo para uncensored. O modelo é ajustado para responder sem recusas de conteúdo para uso adulto legal. A regra rígida é sem conteúdo sexual envolvendo menores.

Os trade-offs são claros. Seus prompts saem da sua máquina. O serviço é apenas texto. Você depende de uma conexão de rede. Prompts não são usados para treinamento, e a página de privacidade tem os detalhes, mas um modelo local permanece a única configuração onde nada sai do seu computador.

Custo: seu hardware versus pagamento por token

A inferência local parece gratuita porque o custo é pago adiantado em hardware e eletricidade. O custo na nuvem é pequeno por mensagem e visível. Aqui está o cálculo para esta API, a $0,15 por 1 milhão de tokens de entrada e $0,50 por 1 milhão de tokens de saída.

Pegue um turno de roleplay onde o app envia 6.000 tokens de histórico e recebe uma resposta de 300 tokens:

  • Entrada: 6.000 / 1.000.000 x $0,15 = $0,0009
  • Saída: 300 / 1.000.000 x $0,50 = $0,00015
  • Total por turno: $0,00105
UsoTurnosCusto
Mês de uso leve1.000 turnos com 6.000 entrada / 300 saída$1.05
Mês de uso intenso10.000 turnos com 6.000 entrada / 300 saída$10.50
Mês pesado, memória longa10.000 turnos com 20.000 entrada / 300 saída$31.50

A linha de memória longa resulta em 20.000 tokens x $0,15 por 1M = $0,003 de entrada mais $0,00015 de saída, totalizando $0,00315 por turno e $31,50 para 10.000 turnos. A entrada domina o custo em conversas longas, por isso um resumo de cenas antigas economiza dinheiro real.

Recargas começam em $20, com bônus de +5% a partir de $50, +10% a partir de $100 e +15% a partir de $200, e o crédito nunca expira. Este site aceita por cripto (USDT on TRC20 ou USDC on Base). Veja a página de preços para os detalhes, e o artigo mitos e fatos de preços para como o cobrança por token se comporta na prática.

Como decidir

Use esta lista de verificação.

Fique local se

  • Você já tem uma GPU com muita memória e gosta de ajustar.
  • Nada pode sair da sua máquina, por qualquer motivo.
  • Suas sessões são curtas e o estilo de um modelo pequeno serve a você.
  • Você quer executar offline.

Use uma API em nuvem se

  • Seu hardware impõe uma janela de contexto curta ou respostas lentas.
  • Você joga campanhas longas onde a continuidade é importante.
  • Você executa um app de companheiro ou ficção para outros adultos e precisa de muitos chats simultâneos. Uma chave completa permite 8 requisições simultâneas e 300 requisições por minuto.
  • Você quer experimentar um modelo sem configuração. Novos usuários podem reivindicar $0,50 de crédito de teste com um clique, válido por 7 dias, sem necessidade de cartão.

Se você se encaixa em ambas as listas, combine-as. Mantenha um modelo local para sessões privadas e use a API para as longas.

Uma configuração híbrida em algumas linhas

Como os servidores do Ollama, LM Studio e llama.cpp expõem todos endpoints estilo OpenAI, o código do seu cliente não precisa se preocupar com qual está por trás. Este snippet Python altera o comportamento com base em uma variável de ambiente:

import os
from openai import OpenAI

if os.getenv("USE_CLOUD") == "1":
    client = OpenAI(
        base_url="https://api.claudeapicost.com/v1",
        api_key=os.environ["API_KEY"],
    )
    model = "uncensored"
else:
    client = OpenAI(base_url="http://localhost:11434/v1", api_key="local")
    model = "your-local-model"

reply = client.chat.completions.create(
    model=model,
    messages=[
        {"role": "system", "content": "You are Mira, a dry-witted ship engineer in a sci-fi story."},
        {"role": "user", "content": "The reactor is humming wrong again."},
    ],
    temperature=0.9,
    stream=True,
)
for chunk in reply:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")

A URL local acima é a porta padrão do Ollama; altere-a se você usar outro servidor. Para a parte na nuvem, a documentação cobre streaming, modo JSON e chamada de funções, e a página de chaves é onde você se cadastra com Google ou com e-mail e senha.

Configurações que importam para qualquer rota

Uma boa escrita de personagem depende mais da estrutura do prompt do que do motor. Alguns hábitos ajudam tanto em modelos locais quanto em nuvem:

  • Coloque a voz, os objetivos e os hábitos de fala do personagem na mensagem do sistema e mantenha-a curta.
  • Use temperature em torno de 0,8 a 1,0 para diálogos animados e reduza se o personagem começar a divagar. A API repassa temperature, top_p, stop, seed e as penalidades.
  • Defina uma penalidade de frequência ou presença se as respostas repetirem frases.
  • Resuma cenas antigas periodicamente em vez de enviar o log inteiro. É mais barato na nuvem e mais rápido localmente.

Começando em dez minutos

Se a conta de custos parecer aceitável, o teste não custa nada. Entre na página de chave de API, reclame o crédito de teste de um clique de $0,50 (um por pessoa, válido por 7 dias), cole a URL base e a chave no seu front-end de roleplay e defina o modelo como uncensored. A cerca de $0,00105 por turno do exemplo anterior, $0,50 cobre cerca de 476 turnos, já que 0,50 / 0,00105 = 476,19.

A chave de teste é limitada a 2 requisições simultâneas e 60 requisições por minuto, o que é mais do que suficiente para uma pessoa conversando. Execute a mesma cena que você usa para avaliar modelos locais e compare consistência de voz, memória de detalhes anteriores e velocidade de resposta nos seus próprios cartões de personagem. Esse teste é mais útil do que qualquer benchmark, porque a qualidade do roleplay é uma questão de gosto.

Mantenha a regra sobre menores de idade em mente para qualquer ficção que você escrever: conteúdo sexual envolvendo menores de idade nunca é permitido, em qualquer enquadramento.

Perguntas e respostas

Um modelo local é melhor que uma API em nuvem para roleplay?

Depende do seu hardware e prioridades. O local oferece privacidade e sem taxa por mensagem, enquanto uma API em nuvem oferece uma janela de contexto longa e sem configuração. Muitas pessoas usam ambos.

Quanto contexto eu preciso para roleplay longo?

Cartões de personagem, notas de mundo e turnos recentes frequentemente somam vários milhares de tokens, e campanhas longas podem ultrapassar 20.000. Esta API oferece 100.000 tokens de contexto, prompt mais conclusão.

Posso usar o SillyTavern ou front-ends semelhantes com a API?

Sim, qualquer interface que aceite um endpoint compatível com OpenAI funciona. Use a URL base, sua chave e o ID do modelo uncensored.

A API permite todo o conteúdo?

O modelo é ajustado para responder sem recusas de conteúdo para uso adulto legal. Conteúdo sexual envolvendo menores de idade nunca é permitido.

Como posso pagar se quiser experimentar a rota em nuvem?

Este site aceita cripto (USDT na TRC20, USDC na Base) para pagamentos, com recargas a partir de $20. Um teste de um clique de $0,50 está disponível após o cadastro.

Sua chave está a um formulário de distância

Crie uma conta, copie a chave e altere a URL base. Essa é toda a configuração.

Obter chave de API