무검열 LLM 추천: 로컬 실행과 호스팅 API 선택법
무검열 llm 추천을 찾는 분들이 먼저 정해야 할 것은 모델 이름이 아니라 실행 방식입니다. 내 PC에서 직접 돌릴지, 호스팅 API를 쓸지에 따라 필요한 장비와 비용, 관리 부담이 크게 달라집니다.
업데이트일

핵심 요약
- 모델 순위보다 실행 방식(로컬 또는 API)을 먼저 정하는 편이 시행착오가 적습니다.
- 로컬은 오프라인과 완전한 통제가 장점이고, 호스팅 API는 장비 없이 바로 시작할 수 있다는 점이 장점입니다.
- 이 글에는 성능 순위나 벤치마크 수치가 없습니다. 직접 같은 프롬프트로 시험해 보는 방법을 안내합니다.
- API 쪽은 모델 하나(uncensored), 컨텍스트 100,000토큰, 입력 $0.15와 출력 $0.50(100만 토큰당)입니다.
이 글에서 추천하지 않는 것과 추천하는 것
특정 모델 한 개를 1위로 꼽는 글은 믿기 어렵습니다. 모델은 계속 바뀌고, 같은 모델도 양자화 수준과 프롬프트에 따라 결과가 달라지기 때문입니다. 이 글은 순위표 대신 선택 기준을 드립니다. 기준만 있으면 새 모델이 나와도 같은 방식으로 판단할 수 있습니다.
여기서 말하는 무검열 모델은 합법적인 성인 이용을 전제로, 일반 상용 챗봇보다 콘텐츠 거절이 적도록 조정된 오픈 웨이트 모델을 뜻합니다. 소설 집필, 롤플레이, 동반자 앱처럼 성인 대상 창작과 대화 용도가 주된 쓰임입니다. 미성년자가 관련된 성적 콘텐츠는 어떤 방식으로 쓰든 허용되지 않으며, 이는 로컬이든 API든 마찬가지로 지켜야 할 선입니다.
세 가지 길: 로컬, 직접 서버 임대, 호스팅 API
로컬 실행
내 컴퓨터에서 Ollama나 llama.cpp 같은 도구로 모델 파일을 직접 돌리는 방식입니다. 인터넷이 없어도 되고, 대화가 외부로 나가지 않습니다. 대신 모델이 클수록 GPU 메모리(VRAM)가 많이 필요합니다. 양자화로 용량을 줄일 수 있지만 그만큼 품질이 떨어질 수 있습니다. 어떤 모델이 내 장비에서 돌아가는지는 각 도구와 모델 페이지의 설명을 확인하세요.
GPU 서버를 직접 빌려 운영
클라우드 GPU를 빌려 직접 서버를 세우는 방식입니다. 모델 선택은 자유롭지만 서버 설정, 업데이트, 모니터링, 비용 관리가 모두 내 몫입니다. 사용하지 않는 시간에도 임대료가 나가는 구조인지 반드시 확인하세요.
호스팅 API
누군가 운영하는 서버에 요청을 보내고 쓴 만큼 내는 방식입니다. 장비와 운영 부담이 없는 대신 모델 선택권은 제공자가 정한 범위로 한정되고, 프롬프트가 외부 서버를 거칩니다. 이 사이트의 API는 여기에 해당합니다.
기준별 비교표
| 기준 | 로컬 | 호스팅 API |
|---|---|---|
| 시작 비용 | 사양이 맞는 GPU 또는 충분한 메모리가 필요 | 선불 충전만 하면 시작, 최소 $20 |
| 사용량이 적을 때 | 장비를 이미 갖고 있다면 추가 비용이 거의 없음 | 쓴 만큼만 청구되므로 부담이 작음 |
| 사용량이 매우 많을 때 | 고정 비용이라 유리할 수 있음 | 토큰 단가에 비례해 늘어남 |
| 컨텍스트 길이 | VRAM과 설정에 의해 제한 | 이 API는 100,000토큰 |
| 모델 선택 | 자유롭게 교체 가능 | 제공자가 정한 모델 (여기서는 uncensored 하나) |
| 프라이버시 | 데이터가 내 기기를 떠나지 않음 | 요청이 외부 서버를 거침 |
| 동시 처리 | 하드웨어에 좌우됨 | 정식 키 기준 동시 8건, 분당 300건 |
| 관리 부담 | 설치와 업데이트가 필요 | 키와 base URL만 설정 |
표에서 어느 쪽이 항상 이긴다고 말하기는 어렵습니다. 개인정보를 최우선으로 두고 장비가 있다면 로컬이 낫고, 장비가 없거나 여러 앱에서 동시에 호출해야 한다면 API가 편합니다.
로컬이 더 맞는 경우
- 오프라인 환경에서 써야 할 때. 비행기 안이나 외부망이 막힌 곳에서는 선택지가 없습니다.
- 대화 기록이 기기 밖으로 나가는 것이 절대 불가할 때. 어떤 제공자의 정책도 내 기기에 두는 것만큼 확실하지는 않습니다.
- 모델을 이것저것 바꿔 보며 실험하는 것 자체가 목적일 때.
- 이미 충분한 VRAM을 가진 PC가 있고 호출량이 꾸준히 많을 때.
반대로 로컬로 시작했다가 포기하는 흔한 이유는 세 가지입니다. 메모리 부족으로 컨텍스트를 짧게 줄여야 하는 것, 생성 속도가 느린 것, 여러 앱에서 동시에 호출하면 막히는 것입니다. 이 중 하나라도 걸린다면 API가 현실적인 대안입니다.
호스팅 API가 더 맞는 경우
이 사이트의 API는 OpenAI 호환 형식이라 SillyTavern처럼 OpenAI 호환 엔드포인트를 추가할 수 있는 도구나, 직접 만든 앱에서 base URL과 키만 넣으면 연결됩니다. 모델은 uncensored 하나이고 컨텍스트는 프롬프트와 출력을 합쳐 100,000토큰입니다. 스트리밍, 도구 호출, JSON 모드를 지원합니다.
아래 경우에 특히 편합니다.
- GPU가 없거나 노트북으로 개발하는 경우.
- 봇이나 앱을 서비스로 만들어 여러 사용자의 요청을 동시에 처리해야 하는 경우. 정식 키는 동시 8건까지 허용됩니다.
- 긴 대화나 긴 문서처럼 컨텍스트가 큰 작업을 자주 하는 경우.
- 월 사용량이 들쭉날쭉해서 고정 비용을 감당하기 어려운 경우.
이 API는 독립 사업자가 운영하는 단일 모델 서비스이며 다른 업체의 공식 API가 아닙니다. 모델을 골라 쓰는 서비스를 기대했다면 맞지 않습니다. 프롬프트는 모델 학습에 쓰이지 않지만, 요청이 서버를 거친다는 사실 자체는 사라지지 않으므로 민감한 내용을 다룬다면 개인정보 처리방침을 먼저 읽어 보세요.
벤치마크 없이 직접 비교하는 방법
남이 만든 점수표는 내 용도와 맞지 않을 때가 많습니다. 다음 순서로 30분이면 직접 비교할 수 있습니다.
- 실제로 쓸 프롬프트 10개를 고릅니다. 평소 쓰는 시스템 프롬프트와 캐릭터 설정도 그대로 넣으세요.
- 같은 프롬프트를 로컬 모델과 API에 각각 보냅니다. temperature 등 설정은 같게 맞춥니다.
- 답변을 이름을 가린 채 읽고 점수를 매깁니다. 문체, 설정 유지, 지시 이행, 같은 말의 반복 여부를 봅니다.
- 한 번에 끝내지 말고 각 프롬프트를 3번씩 돌려 편차를 봅니다.
API 쪽은 $0.50 체험 크레딧으로 충분히 시험할 수 있습니다. 가입 후 API 키 페이지에서 받을 수 있고, 1인 1회, 유효기간 7일, 결제 정보는 필요 없습니다. 아래는 같은 프롬프트를 API에 보내는 최소 코드입니다.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.mugeomyeolapi.com/v1", api_key=os.environ["MUGEOMYEOL_API_KEY"])
prompts = ["내 프롬프트 1", "내 프롬프트 2"] # 실제 쓸 프롬프트로 교체
for p in prompts:
for run in range(3):
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": p}],
temperature=0.8,
)
print(f"[{p[:10]} / {run + 1}회]", r.choices[0].message.content[:200])하이브리드 방식과 최종 체크리스트
둘 중 하나만 고를 필요는 없습니다. 민감한 초안은 로컬에서 쓰고, 긴 컨텍스트나 동시 호출이 필요한 작업은 API로 보내는 식으로 나누어 쓰는 사람도 많습니다. OpenAI 호환 형식이면 base URL만 바꿔 같은 코드로 양쪽을 오갈 수 있어 전환 비용이 낮습니다.
결정하기 전에 다음을 확인하세요.
- 내 장비의 VRAM으로 원하는 컨텍스트 길이를 감당할 수 있는가.
- 한 달 호출량이 어느 정도인가. API라면 요금 페이지의 단가로 먼저 계산해 보세요. 입력 100만 토큰당 $0.15, 출력 100만 토큰당 $0.50입니다.
- 프롬프트가 외부 서버를 거쳐도 괜찮은 내용인가.
- 동시에 몇 건을 처리해야 하는가.
설정 방법은 API 문서에 정리되어 있습니다. 충전은 $20부터 $500까지이고 결제 수단은 USDT(TRC20)와 USDC(Base)입니다.
더 많은 가이드
자주 묻는 질문
무검열 LLM은 로컬과 API 중 어느 쪽이 좋은가요?
정답은 용도에 달려 있습니다. 오프라인 사용이나 완전한 통제가 필요하고 장비가 있다면 로컬, 장비 없이 바로 쓰거나 동시 호출이 필요하다면 API가 맞습니다.
이 API에서 모델을 고를 수 있나요?
아니요. 모델은 uncensored 하나입니다. 여러 모델을 골라 쓰는 서비스가 필요하다면 맞지 않을 수 있습니다.
로컬과 API를 함께 써도 되나요?
가능합니다. 둘 다 OpenAI 호환 형식을 쓰는 도구라면 base URL과 키만 바꿔서 같은 코드로 전환할 수 있습니다.
이미지 생성도 되나요?
이 API는 텍스트 전용입니다. 이미지, 음성, 영상 생성과 임베딩, 파인튜닝은 지원하지 않습니다.
API 키는 가입만으로
계정 생성, 키 복사, 베이스 URL 변경. 설정은 이걸로 끝입니다.