DE ▾
API-Schlüssel erhalten

Empfehlungen für unzensierte LLMs: Wie du zwischen lokaler Ausführung und gehosteter API wählst

Bei der Suche nach unzensierten LLMs ist die erste Entscheidung nicht das Modell, sondern die Ausführungsmethode. Ob du es lokal auf deinem PC oder über eine gehostete API nutzt, bestimmt Hardwarebedarf, Kosten und Verwaltungsaufwand erheblich.

Aktualisiert am

Vergleichsillustration mit lokalem PC auf der einen und Cloud-Server auf der anderen Seite der Waage

Zusammenfassung

  • Es ist besser, zuerst die Ausführungsmethode (lokal oder API) zu wählen, statt die Modellreihenfolge.
  • Lokal bietet Vorteile bei Offline-Nutzung und voller Kontrolle. Die gehostete API ermöglicht den sofortigen Start ohne Hardware.
  • Dieser Guide enthält keine Leistungsranglisten oder Benchmark-Werte. Wir zeigen dir, wie du mit denselben Prompts selbst testest.
  • Die API bietet ein Modell (uncensored), ein Kontextfenster mit 100.000 Token, Input zu $0,15 und Output zu $0,50 (pro 1.000.000 Token).

Was wir empfehlen und was nicht

Es ist schwer zu glauben, dass ein Artikel ein einzelnes Modell auf Platz 1 setzt. Modelle ändern sich ständig, und selbst beim gleichen Modell variieren die Ergebnisse je nach Quantisierungsgrad und Prompt. Dieser Artikel liefert dir stattdessen Auswahlkriterien. Mit diesen Kriterien kannst du auch bei neuen Modellen weiterhin fundiert entscheiden.

Der hier genannte unzensierte Modelltyp sind Open-Weight-Modelle, die für legale Erwachsenenunterhaltung optimiert sind und weniger Inhalte als kommerzielle Chatbots ablehnen. Der Hauptnutzen liegt in der Erstellung und im Dialog für Erwachsene, z. B. beim Schreiben von Romanen oder Rollenspielen. Sexuelle Inhalte mit Minderjährigen sind in jeder Form unzulässig, egal ob lokal oder über die API.

Drei Wege: Lokal, eigener Server, gehostete API

Lokale Ausführung

Du führst die Modelldateien direkt auf deinem Computer mit Tools wie Ollama oder llama.cpp aus. Das funktioniert offline, und die Konversation verlässt nicht das lokale Netzwerk. Größere Modelle benötigen jedoch mehr GPU-Speicher (VRAM). Durch Quantisierung lässt sich der Speicherbedarf senken, was jedoch die Qualität mindern kann. Prüfe auf den jeweiligen Tool- und Modellseiten, ob dein Modell auf deiner Hardware läuft.

Eigener GPU-Server mieten

Du mietest eine Cloud-GPU und richtest deinen eigenen Server ein. Du hast freie Modellwahl, musst aber Serverkonfiguration, Updates, Monitoring und Kosten selbst verwalten. Prüfe unbedingt, ob du auch für Leerlaufzeiten zahlst.

Gehostete API

Du sendest Anfragen an einen externen Server und zahlst nur für das, was du nutzt. Das spart Hardware- und Verwaltungsaufwand, aber die Modellwahl ist auf den Bereich des Anbieters beschränkt, und deine Prompts durchlaufen externe Server. Die API dieser Website gehört dazu.

Vergleichstabelle nach Kriterien

KriteriumLokalGehostete API
StartkostenGPU mit passenden Spezifikationen oder ausreichend Speicher erforderlichStart mit Prepaid-Aufladung ab mindestens $20
Bei geringer NutzungWenn du die Hardware bereits besitzt, fallen kaum zusätzliche Kosten anGeringe Belastung, da nur Verbrauch abgerechnet wird
Bei sehr hoher NutzungFeste Kosten können vorteilhaft seinSteigt proportional zum Token-Preis
KontextlängeBegrenzt durch VRAM und EinstellungenDiese API bietet 100.000 Token
ModellauswahlFlexibel austauschbarVom Anbieter bereitgestelltes Modell (hier: nur uncensored)
DatenschutzDie Daten verlassen dein Gerät nichtDie Anfrage durchläuft einen externen Server
Parallele VerarbeitungAbhängig von der Hardware8 parallele Anfragen und 300 Anfragen pro Minute basierend auf dem offiziellen Schlüssel
VerwaltungsaufwandInstallation und Updates sind erforderlichKonfiguriere nur den Schlüssel und die Base URL

Es ist schwer zu sagen, welche Seite immer gewinnt. Wenn du Datenschutz priorisierst und Hardware besitzt, ist lokal besser. Wenn du keine Hardware hast oder mehrere Apps gleichzeitig aufrufen müssen, ist die API bequemer.

Wenn die lokale Lösung besser passt

  • Wenn du in einer Offline-Umgebung arbeiten musst. In Flugzeugen oder an Orten, an denen das externe Netzwerk gesperrt ist, gibt es keine Wahl.
  • Wenn die Übermittlung der Gesprächsverläufe absolut ausgeschlossen sein muss. Keine Richtlinie eines Anbieters ist so sicher wie die Speicherung auf deinem eigenen Gerät.
  • Wenn das Ziel darin besteht, durch Ausprobieren verschiedener Modelle zu experimentieren.
  • Wenn du bereits über einen PC mit ausreichender VRAM-Kapazität verfügst und die Anfragemenge konstant hoch ist.

Umgekehrt gibt es drei häufige Gründe, warum man den lokalen Start aufgibt: Die Notwendigkeit, den Kontext aufgrund von Speicherengpässen zu verkürzen, die langsame Generierungsgeschwindigkeit und das Blockieren bei gleichzeitigen Aufrufen aus mehreren Apps. Wenn einer dieser Punkte zutrifft, ist die API die realistischere Alternative.

Wenn die gehostete API besser passt

Die API dieser Website ist OpenAI-kompatibel. Du kannst sie mit Tools wie SillyTavern über einen OpenAI-kompatiblen Endpunkt oder in einer eigenen App verbinden, indem du die Base-URL und den Schlüssel eingibst. Es gibt nur das Modell uncensored mit einem Kontextfenster von 100.000 Token für Prompt und Output zusammen. Streaming, Function Calling und JSON-Modus werden unterstützt.

Besonders praktisch in den folgenden Fällen.

  • Wenn du keine GPU hast oder mit einem Laptop entwickelst.
  • Wenn du Bots oder Apps als Dienstleistung betreibst, die Anfragen mehrerer Benutzer parallel verarbeiten müssen. Der offizielle Schlüssel erlaubt bis zu 8 parallele Anfragen.
  • Wenn du häufig Aufgaben mit großem Kontext wie lange Gespräche oder lange Dokumente bearbeitest.
  • Wenn deine monatliche Nutzung schwankt und du die Fixkosten nicht tragen kannst.

Dies ist eine einzelne Modell-API, die von einem Einzelunternehmer betrieben wird, und keine offizielle API eines anderen Anbieters. Wenn du einen Dienst erwartest, bei dem du Modelle auswählen kannst, ist dies nicht das Richtige. Die Prompts werden nicht zum Training des Modells verwendet, aber da jede Anfrage den Server passiert, lies bitte zuerst die Datenschutzrichtlinie, wenn du mit sensiblen Inhalten arbeitest.

Direkter Vergleich ohne Benchmarks

Fremd erstellte Benchmark-Tabellen passen oft nicht zu deinem Verwendungszweck. In 30 Minuten kannst du den Vergleich selbst in der folgenden Reihenfolge durchführen.

  1. Wähle 10 Prompts aus, die du tatsächlich verwenden wirst. Füge auch deine üblichen System-Prompts und Charaktereinstellungen unverändert ein.
  2. Sende denselben Prompt an das lokale Modell und an die API. Passe die Einstellungen wie temperature usw. gleich an.
  3. Lies die Antworten unter Vermeidung von Namen und bewerte sie. Achte auf Stil, Einhaltung der Einstellungen, Erfüllung der Anweisungen und Wiederholungen.
  4. Mache es nicht auf einmal, sondern führe jeden Prompt 3-mal aus, um die Varianz zu sehen.

Der API-Bereich kann mit $0,50 Testguthaben ausreichend getestet werden. Nach der Anmeldung kannst du es auf der API-Schlüssel-Seite erhalten. Es gilt einmal pro Person, 7 Tage lang, und keine Zahlungsmethode ist erforderlich. Der folgende Code ist das Minimum, um denselben Prompt an die API zu senden.

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.mugeomyeolapi.com/v1", api_key=os.environ["MUGEOMYEOL_API_KEY"])

prompts = ["내 프롬프트 1", "내 프롬프트 2"]  # 실제 쓸 프롬프트로 교체
for p in prompts:
    for run in range(3):
        r = client.chat.completions.create(
            model="uncensored",
            messages=[{"role": "user", "content": p}],
            temperature=0.8,
        )
        print(f"[{p[:10]} / {run + 1}회]", r.choices[0].message.content[:200])

Hybride Methode und finale Checkliste

Du musst dich nicht für nur eine der beiden Optionen entscheiden. Viele Nutzer nutzen die lokale Lösung für sensible Entwürfe und senden Aufgaben, die großen Kontext oder parallele Aufrufe erfordern, an die API. Da es sich um das OpenAI-kompatible Format handelt, kannst du durch Ändern der Base URL mit demselben Code zwischen beiden wechseln, was die Wechselkosten niedrig hält.

Überprüfe vor der Entscheidung Folgendes.

  • Kannst du die gewünschte Kontextlänge mit dem VRAM deiner Hardware bewältigen?
  • Wie hoch ist die monatliche Anfragemenge? Wenn du die API nutzt, berechne die Kosten zunächst mit dem Preis auf der Preisseite. Es kostet $0,15 pro 1.000.000 Input-Token und $0,50 pro 1.000.000 Output-Token.
  • Sind die Prompts in Ordnung, wenn sie einen externen Server durchlaufen?
  • Wie viele Anfragen müssen parallel verarbeitet werden?

Die Einrichtungsmethode ist in der API-Dokumentation zusammengefasst. Die Aufladung erfolgt ab $20 bis zu $500. Als Zahlungsmethoden werden USDT (TRC20) und USDC (Base) unterstützt.

Weitere Anleitungen

Häufig gestellte Fragen

Welche Option ist besser für unzensierte LLMs: lokal oder API?

Die Antwort hängt vom Verwendungszweck ab. Wenn du Offline-Nutzung oder vollständige Kontrolle benötigst und Hardware hast, ist die lokale Lösung besser. Wenn du ohne Hardware sofort nutzen möchtest oder parallele Aufrufe erforderlich sind, ist die API passend.

Kann ich das Modell in dieser API auswählen?

Nein. Das Modell ist das einzige uncensored-Modell. Wenn du einen Dienst benötigst, bei dem du zwischen mehreren Modellen auswählen kannst, ist dies möglicherweise nicht passend.

Kann ich lokal und die API gemeinsam nutzen?

Das ist möglich. Wenn beide Tools das OpenAI-kompatible Format verwenden, kannst du mit demselben Code wechseln, indem du nur Base URL und Schlüssel änderst.

Funktioniert auch die Bildgenerierung?

Diese API ist nur für Text. Bild-, Audio- und Videogenerierung, Embedding und Fine-Tuning werden nicht unterstützt.

API-Schlüssel nur durch Anmeldung

Konto erstellen, Schlüssel kopieren, Base URL ändern. Die Konfiguration ist damit abgeschlossen.

API-Schlüssel erhalten
API-Schlüssel erhalten