JA ▾
APIキーを取得

無検閲LLM推奨:ローカル実行とホスティングAPIの選び方

無検閲LLM推奨を探す方が最初に決めるべきはモデル名ではなく、実行方法です。自分のPCで直接動かすか、ホスティングAPIを使うかによって、必要な設備、コスト、管理の負担が大きく異なります。

更新日

ローカルPCとクラウドサーバーを両端に置いた比較イラスト

要点まとめ

  • モデルの順位よりも、実行方法(ローカルまたはAPI)を先に決めたほうが試行錯誤が少なくなります。
  • ローカルはオフラインと完全な制御が利点であり、ホスティングAPIは設備なしですぐに始められる点が利点です。
  • この記事には性能順位やベンチマーク数値はありません。同じプロンプトで直接テストする方法をご案内します。
  • APIはモデル1つ(uncensored)、コンテキスト100,000トークン、入力$0.15と出力$0.50(100万トークンあたり)です。

この記事で推奨しないことと推奨すること

特定のモデルを1位とする記事は信じにくいです。モデルは絶えず進化しており、同じモデルでも量子化レベルやプロンプトによって結果が異なるためです。この記事ではランキングの代わりに選択基準を提供します。基準があれば、新しいモデルが出ても同じ方法で判断できます。

ここで言う無検閲モデルは、合法的な成人利用を前提とし、一般的な商用チャットボットよりもコンテンツ拒否が少ないように調整されたオープンウェイトモデルを指します。小説執筆、ロールプレイ、パートナーアプリのように、成人向け創作や対話用途が主な用途です。未成年者が関わる性的コンテンツは、どのような形で使用しても許可されず、これはローカルでもAPIでも同様に守るべき線です。

三つの道:ローカル、専用サーバーレンタル、ホスティングAPI

ローカル実行

自分のコンピュータでOllamaやllama.cppなどのツールを使ってモデルファイルを直接動かす方法です。インターネットがなくてもよく、会話が外部に出ることはありません。ただし、モデルが大きいほどGPUメモリ(VRAM)が必要です。量子化で容量を減らせますが、それだけ品質が低下する可能性があります。どのモデルが自分の設備で動くかは、各ツールとモデルページの説明をご確認ください。

GPUサーバーを直接借りて運用

クラウドGPUを借りて直接サーバーを構築する方法です。モデル選択は自由ですが、サーバー設定、更新、監視、コスト管理はすべて自分の責任です。使用していない時間にもレンタル料がかかる構成かどうか必ず確認してください。

ホスティングAPI

誰かが運営するサーバーにリクエストを送り、使用した分だけ支払う方法です。設備や運用の負担はありませんが、モデル選択権はプロバイダーが定めた範囲に限定され、プロンプトは外部サーバーを経由します。このサイトのAPIはこれに該当します。

基準別比較表

基準ローカルホスティングAPI
開始コスト仕様に合ったGPUまたは十分なメモリが必要前払いチャージのみで開始、最小$20
使用量が少ない場合設備を既に持っている場合は追加コストほぼなし使用した分だけ請求されるため負担が小さい
使用量が非常に多い場合固定コストのため有利になる可能性ありトークン単価に比例して増加
コンテキストの長さVRAMと設定によって制限されるこのAPIは100,000トークン
モデル選択自由に交換可能プロバイダが指定したモデル(ここではuncensoredのみ)
プライバシーデータが端末を離れないリクエストは外部サーバーを経由する
同時処理ハードウェアに依存する公式キーの場合、同時8件、分間300件
管理の手間インストールとアップデートが必要キーと base URL のみ設定

表でどちらが常に優位だと言い切ることはできません。プライバシーを最優先し、十分な設備がある場合はローカルが適しており、設備がない場合や複数のアプリから同時に呼び出す必要がある場合は API が便利です。

ローカルがより適している場合

  • オフライン環境で使用する必要がある場合。飛行機内や外部ネットワークが遮断されている場所では選択肢がありません。
  • 会話の履歴が端末の外に出ることを絶対に避けたい場合。どのプロバイダーのポリシーも、端末に保存するほど確実ではありません。
  • モデルをいろいろ変えて 実験すること自体が目的の場合。
  • すでに十分な VRAM を持つ PC を所有しており、呼び出し量が継続的に多い場合。

逆に、ローカルから始めて挫折する一般的な理由は3つあります。メモリ不足によりコンテキストを短く切る必要があること、生成速度が遅いこと、複数のアプリから同時に呼び出すとブロックされることです。これらいずれかに該当する場合、API が現実的な代替手段となります。

ホスティング API がより適している場合

当サイトのAPIはOpenAI互換形式のため、SillyTavernのようなOpenAI互換エンドポイントを追加できるツールや、自作アプリにbase URLとキーを入力するだけで接続できます。モデルはuncensoredのみで、コンテキストはプロンプトと出力を合わせて100,000トークンです。ストリーミング、ツール呼び出し、JSONモードをサポートしています。

以下の場合に特に便利です。

  • GPU がなく、ノート PC で開発している場合。
  • ボットやアプリをサービスとして作成し、複数のユーザーのリクエストを同時に処理する必要がある場合。公式キーでは同時8件まで許可されます。
  • 長い会話や長いドキュメントなど、コンテキストが大きいタスクを頻繁に行う場合。
  • 月間使用量が不安定で、固定コストを支払うのが難しい場合。

このAPIは個人事業主が運営する単一モデルサービスであり、他社の公式APIではありません。モデルを選んで使用できるサービスを期待していた場合は適していません。プロンプトはモデルの学習に使用されませんが、リクエストがサーバーを経由するという事実は消えないため、機微な内容を扱う場合はプライバシーポリシーをまずお読みください。

ベンチマークなしで直接比較する方法

他者が作成したスコア表は、あなたの用途に合わないことが多いです。以下の手順で、30分で直接比較できます。

  1. 実際に使用するプロンプトを10個選びます。普段使用するシステムプロンプトやキャラクター設定もそのまま入力してください。
  2. 同じプロンプトをローカルモデルと API にそれぞれ送信します。temperature などの設定は同じに合わせます。
  3. 回答を匿名で読み、採点します。文体、設定の維持、指示の遵守、同じ言葉の繰り返しを確認します。
  4. 一度で終わらせず、各プロンプトを3回ずつ実行してばらつきを確認します。

API 側は $0.50 の無料トライアルクレジットで十分に試験できます。登録後、API キーページで取得でき、1人1回、有効期限7日、決済情報の必要はありません。以下は同じプロンプトを API に送信する最小限のコードです。

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.mugeomyeolapi.com/v1", api_key=os.environ["MUGEOMYEOL_API_KEY"])

prompts = ["내 프롬프트 1", "내 프롬프트 2"]  # 실제 쓸 프롬프트로 교체
for p in prompts:
    for run in range(3):
        r = client.chat.completions.create(
            model="uncensored",
            messages=[{"role": "user", "content": p}],
            temperature=0.8,
        )
        print(f"[{p[:10]} / {run + 1}회]", r.choices[0].message.content[:200])

ハイブリッド方式と最終チェックリスト

どちらか一方のみを選ぶ必要はありません。機密性の高い下書きはローカルで書き、長いコンテキストや同時呼び出しが必要なタスクは API に送信するなど、使い分ける人も多くいます。OpenAI 互換形式であれば base URL のみを変更することで同じコードで両方を行き来できるため、移行コストは低くなります。

決定する前に以下を確認してください。

  • 自分の端末の VRAM で、目的のコンテキスト長を処理できるか。
  • 月間の呼び出し量はどの程度か。API の場合、料金ページの単価でまず計算してみてください。入力 100万トークンあたり $0.15、出力 100万トークンあたり $0.50 です。
  • プロンプトが外部サーバーを経由しても問題ない内容か。
  • 同時に何件を処理するか。

設定方法は API ドキュメントにまとめられています。チャージは $20 から $500 までで、決済手段は USDT(TRC20) と USDC(Base) です。

その他のガイド

よくある質問

無検閲 LLM はローカルと API のどちらがよいですか?

正解は用途によります。オフライン使用や完全な制御が必要で設備がある場合はローカル、設備なしですぐに使用したり同時呼び出しが必要な場合は API が適しています。

この API でモデルを選べますか?

いいえ。モデルは uncensored のみです。複数のモデルを選んで使用できるサービスが必要な場合は適さない可能性があります。

ローカルと API を一緒に使えますか?

可能です。どちらも OpenAI 互換形式を使用するツールであれば、base URL とキーを変更するだけで同じコードで移行できます。

画像生成もできますか?

この API はテキスト専用です。画像、音声、動画の生成、埋め込み、ファインチューニングはサポートしていません。

API キーは登録だけで

アカウント作成、キーのコピー、ベース URL の変更。設定はこれで完了です。

API キーを取得
API キーを取得