PT ▾
Obter chave de API

Recomendação de LLM sem censura: como escolher entre execução local e API hospedada

A primeira decisão ao buscar LLM sem censura não é o nome do modelo, mas o modo de execução. O hardware necessário, o custo e a carga de gerenciamento variam drasticamente entre rodar no seu PC ou usar uma API hospedada.

Data de atualização

Ilustração comparativa mostrando PC local e servidor em nuvem em ambos os lados da balança

Resumo principal

  • Definir o modo de execução (local ou API) antes do ranking do modelo reduz tentativas e erros.
  • O local oferece offline e controle total; a API hospedada permite começar sem equipamento.
  • Este guia não inclui rankings de desempenho ou valores de benchmark. Mostramos como testar com os mesmos prompts.
  • API: um modelo (uncensored), janela de contexto de 100.000 tokens, entrada a $0,15 e saída a $0,50 (por 1 milhão de tokens).

O que não recomendamos e o que recomendamos

Artigos que classificam um único modelo como número 1 são pouco confiáveis. Os modelos mudam constantemente e o mesmo modelo pode ter resultados diferentes dependendo da quantização e do prompt. Este guia oferece critérios de escolha em vez de rankings. Com esses critérios, você pode avaliar novos modelos da mesma forma.

O modelo sem censura aqui refere-se a modelos de pesos abertos ajustados para rejeitar menos conteúdo do que chatbots comerciais padrão, assumindo uso adulto legal. São ideais para criação e conversação voltadas a adultos, como escrita de romances, RPG e aplicativos de companhia. Conteúdo sexual envolvendo menores de idade não é permitido, independentemente do formato, seja local ou API.

Três caminhos: local, servidor dedicado e API hospedada

Execução local

Execução direta do arquivo do modelo no seu computador com ferramentas como Ollama ou llama.cpp. Não precisa de internet e a conversa não sai do seu dispositivo. No entanto, modelos maiores exigem mais memória VRAM. A quantização reduz o tamanho, mas pode afetar a qualidade. Verifique a descrição em cada página de ferramenta e modelo para saber se o modelo roda no seu equipamento.

Alugar e operar servidor GPU dedicado

Alugar uma GPU na nuvem para montar seu próprio servidor. Você tem liberdade na escolha do modelo, mas a configuração, atualização, monitoramento e gestão de custos são por sua conta. Confirme se há cobrança mesmo nos períodos de inatividade.

API hospedada

Envia solicitações para servidores operados por terceiros e paga conforme o uso. Não exige equipamento ou gestão, mas a escolha de modelos é limitada pelo provedor e os prompts passam por servidores externos. A API deste site se enquadra nesta categoria.

Tabela comparativa por critério

CritérioLocalAPI hospedada
Custo inicialPrecisa de GPU compatível ou memória suficienteComece apenas recarregando crédito pré-pago, mínimo de $20
Baixo volume de usoCusto adicional quase nulo se você já tiver o equipamentoCobrança proporcional ao uso, reduzindo a carga financeira
Alto volume de usoCusto fixo pode ser vantajosoAumenta proporcionalmente ao preço por token
Comprimento do contextoLimitado pela VRAM e configuraçõesEsta API suporta 100.000 tokens
Escolha de modeloSubstituição livreModelo definido pelo provedor (neste caso, apenas o uncensored)
PrivacidadeSeus dados não saem do seu dispositivoA requisição passa por servidores externos
Processamento simultâneoDepende do hardwareChaves oficiais: 8 requisições simultâneas, 300 requisições por minuto
Carga administrativaRequer instalação e atualizaçãoBasta configurar a chave e o base URL

Difícil afirmar que um lado sempre vence na tabela. Se priorizar dados pessoais e tiver equipamento, o local é melhor. Se não tiver equipamento ou precisar de chamadas simultâneas em vários apps, a API é mais prática.

Quando o local é mais adequado

  • Quando precisar usar em ambiente offline. Em aviões ou em locais com rede externa bloqueada, não há outra opção.
  • Quando é imperativo que o registro da conversa não saia do dispositivo. Nenhuma política de provedor é tão segura quanto manter os dados no seu equipamento.
  • Quando o objetivo é experimentar diferentes modelos.
  • Quando você já tem um PC com VRAM suficiente e o volume de chamadas é consistentemente alto.

Por outro lado, existem três motivos comuns pelos quais as pessoas desistem do uso local: necessidade de reduzir a janela de contexto devido à falta de memória, velocidade lenta de geração e bloqueio ao fazer chamadas simultâneas de vários apps. Se qualquer um desses fatores se aplicar, a API é uma alternativa mais realista.

Quando a API hospedada é mais adequada

A API deste site segue o formato compatível com OpenAI, permitindo conexão com ferramentas que suportam endpoints compatíveis com OpenAI, como o SillyTavern, ou com seus próprios apps, bastando inserir o base URL e a chave. O único modelo disponível é uncensored, com uma janela de contexto de 100.000 tokens combinando prompt e saída. Suporta streaming, chamada de funções e modo JSON.

É especialmente conveniente nos seguintes casos:

  • Quando você não tem GPU ou está desenvolvendo em um notebook.
  • Ao criar um bot ou app para atender vários usuários simultaneamente. Chaves oficiais permitem até 8 requisições simultâneas.
  • Ao realizar frequentemente tarefas que exigem grande janela de contexto, como conversas longas ou documentos extensos.
  • Quando o uso mensal é irregular e você não consegue arcar com custos fixos.

Esta API é um serviço de modelo único operado por um provedor independente e não é uma API oficial de outra empresa. Se você espera um serviço que permita escolher entre vários modelos, este não será adequado. Os prompts não são usados para treinar o modelo, mas o fato de a requisição passar por um servidor não desaparece, portanto, se você lida com dados sensíveis, leia primeiro a política de privacidade.

Método de comparação direta sem benchmarks

Tabelas de pontuações de terceiros muitas vezes não se adequam ao seu caso de uso. Você pode fazer uma comparação direta em 30 minutos seguindo esta sequência.

  1. Escolha 10 prompts que você realmente usa. Inclua também o prompt de sistema e a configuração de personagem que você utiliza normalmente.
  2. Envie o mesmo prompt para o modelo local e para a API separadamente. Mantenha as configurações, como temperature, iguais.
  3. Leia as respostas anonimamente e atribua uma pontuação. Avalie estilo, manutenção da configuração, cumprimento das instruções e repetição de frases.
  4. Não faça tudo de uma vez; execute cada prompt 3 vezes para observar a variação.

A API pode ser testada com $0,50 de crédito de teste grátis. Disponível na página da chave de API após entrar. 1 uso por pessoa, válido por 7 dias, sem necessidade de informações de pagamento. Abaixo está o código mínimo para enviar o mesmo prompt à API.

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.mugeomyeolapi.com/v1", api_key=os.environ["MUGEOMYEOL_API_KEY"])

prompts = ["내 프롬프트 1", "내 프롬프트 2"]  # 실제 쓸 프롬프트로 교체
for p in prompts:
    for run in range(3):
        r = client.chat.completions.create(
            model="uncensored",
            messages=[{"role": "user", "content": p}],
            temperature=0.8,
        )
        print(f"[{p[:10]} / {run + 1}회]", r.choices[0].message.content[:200])

Modo híbrido e checklist final

Não é necessário escolher apenas uma opção. Muitos usuários dividem o uso: rascunhos sensíveis são processados localmente, enquanto tarefas que exigem grande janela de contexto ou chamadas simultâneas são enviadas via API. Como o formato é compatível com OpenAI, você pode alternar entre as duas opções apenas alterando o base URL, mantendo o mesmo código e com baixo custo de migração.

Verifique os seguintes pontos antes de decidir:

  • Se a VRAM do seu equipamento suporta o comprimento de contexto desejado?
  • Qual será o volume de chamadas mensais. Se usar a API, faça uma estimativa inicial com os preços da página de tarifas: $0,15 por 1 milhão de tokens de entrada e $0,50 por 1 milhão de tokens de saída.
  • Se é aceitável que o prompt passe por servidores externos.
  • Quantas chamadas simultâneas você precisa processar.

O método de configuração está na documentação da API. Recarregue de $20 a $500. Formas de pagamento: USDT (TRC20) e USDC (Base).

Mais guias

Perguntas frequentes

Qual é melhor para LLM sem censura: local ou API?

A resposta depende do caso de uso. Se você precisa de uso offline ou controle total e tem o hardware necessário, o local é a escolha certa; se precisa usar imediatamente sem hardware ou fazer chamadas simultâneas, a API é mais adequada.

Posso escolher o modelo nesta API?

Não. O único modelo disponível é o uncensored. Se você precisa de um serviço que permita escolher entre vários modelos, este pode não ser adequado.

Posso usar local e API juntos?

Sim. Se ambas as ferramentas usam o formato compatível com OpenAI, você pode alternar entre elas apenas alterando o base URL e a chave, mantendo o mesmo código.

Geração de imagens também é suportada?

Esta API é exclusiva para texto. Não suportamos geração de imagens, áudio, vídeo, embeddings ou fine-tuning.

A chave de API é obtida apenas com o cadastro

Criação de conta, cópia da chave e alteração do base URL. A configuração termina aqui.

Obter chave de API
Obter chave de API