Rekomendasi LLM tanpa sensor: Cara memilih antara eksekusi lokal dan API yang di-host
Hal pertama yang harus Anda putuskan saat mencari rekomendasi LLM tanpa sensor bukanlah nama model, tetapi cara eksekusi. Perangkat, biaya, dan beban manajemen yang diperlukan akan sangat berbeda tergantung apakah Anda menjalankannya di PC Anda sendiri atau menggunakan API yang di-host.
Tanggal pembaruan

Ringkasan Utama
- Menentukan cara eksekusi (lokal atau API) terlebih dahulu lebih mengurangi kesalahan percobaan dibandingkan peringkat model.
- Keunggulan lokal adalah penggunaan offline dan kontrol penuh, sedangkan keunggulan API yang di-host adalah Anda bisa langsung memulai tanpa perangkat.
- Artikel ini tidak menyertakan peringkat kinerja atau angka benchmark. Kami akan memandu Anda cara mengujinya secara langsung dengan prompt yang sama.
- API menggunakan satu model (uncensored), jendela konteks 100.000 token, input $0,15 dan output $0,50 per 1.000.000 token.
Yang tidak direkomendasikan dan yang direkomendasikan dalam artikel ini
Artikel yang meranking satu model tertentu sebagai nomor 1 sulit dipercaya. Model terus berubah, dan model yang sama pun memberikan hasil berbeda tergantung tingkat kuantisasi dan prompt. Artikel ini memberikan kriteria pemilihan, bukan peringkat. Dengan kriteria ini, Anda dapat menilai model baru dengan cara yang sama.
Model tanpa sensor yang kami maksud di sini adalah model bobot terbuka yang disesuaikan untuk memiliki penolakan konten yang lebih sedikit dibandingkan chatbot komersial umum, dengan asumsi penggunaan dewasa yang sah. Penggunaan utamanya adalah untuk pembuatan konten dan percakapan yang ditujukan untuk dewasa, seperti penulisan novel, roleplay, dan aplikasi teman. Konten seksual yang melibatkan anak di bawah umur tidak diperbolehkan dalam bentuk apa pun, baik itu dijalankan secara lokal maupun melalui API.
Tiga jalur: Lokal, menyewa server sendiri, API yang di-host
Eksekusi lokal
Ini adalah cara menjalankan file model secara langsung di komputer Anda menggunakan alat seperti Ollama atau llama.cpp. Anda tidak memerlukan internet, dan percakapan tidak akan keluar ke luar. Namun, semakin besar modelnya, semakin banyak memori GPU (VRAM) yang dibutuhkan. Kapasitas dapat dikurangi melalui kuantisasi, tetapi kualitas mungkin menurun. Periksa penjelasan di halaman alat dan model masing-masing untuk melihat model mana yang dapat berjalan di perangkat Anda.
Menyewa GPU server sendiri
Ini adalah cara membangun server sendiri dengan menyewa GPU cloud. Anda bebas memilih model, tetapi pengaturan server, pembaruan, pemantauan, dan manajemen biaya sepenuhnya menjadi tanggung jawab Anda. Pastikan untuk memeriksa apakah Anda harus membayar biaya sewa bahkan saat tidak digunakan.
API yang di-host
Ini adalah cara mengirim permintaan ke server yang dioperasikan oleh pihak lain dan membayar sesuai penggunaan. Anda tidak memerlukan perangkat atau beban operasional, tetapi pilihan model dibatasi oleh penyedia. Prompt akan melewati server eksternal. API di situs ini termasuk dalam kategori ini.
Tabel perbandingan berdasarkan kriteria
| Kriteria | Lokal | API yang di-host |
|---|---|---|
| Biaya awal | Memerlukan GPU yang sesuai spesifikasi atau memori yang cukup | Mulai hanya dengan mengisi saldo, minimum $20 |
| Saat penggunaan rendah | Hampir tidak ada biaya tambahan jika Anda sudah memiliki perangkat | Beban ringan karena hanya dibayar sesuai penggunaan |
| Saat penggunaan sangat tinggi | Biaya tetap mungkin menguntungkan | Bertambah sebanding dengan harga per token |
| Panjang konteks | Dibatasi oleh VRAM dan pengaturan | API ini mendukung kapasitas 100.000 token |
| Pilihan model | Dapat diganti dengan bebas | Model yang disediakan oleh penyedia (di sini adalah satu uncensored) |
| Privasi | Data tidak meninggalkan perangkat Anda | Permintaan melewati server eksternal |
| Pemrosesan paralel | Tergantung pada perangkat keras | Berdasarkan kunci standar, Anda dapat melakukan 8 permintaan paralel dan 300 permintaan per menit. |
| Beban manajemen | Memerlukan instalasi dan pembaruan | Hanya perlu mengatur kunci dan base URL |
Sulit mengatakan bahwa salah satu selalu menang dalam tabel. Jika Anda memprioritaskan privasi data dan memiliki perangkat, lokal lebih baik; jika Anda tidak memiliki perangkat atau perlu melakukan panggilan dari beberapa aplikasi secara bersamaan, API lebih nyaman.
Kapan lokal lebih tepat
- Lingkungan offline saat Anda membutuhkannya. Di dalam pesawat atau di tempat jaringan eksternal tidak tersedia, tidak ada pilihan lain.
- Ketika riwayat percakapan tidak boleh keluar dari perangkat Anda. Kebijakan penyedia mana pun tidak sepasti menyimpannya di perangkat Anda sendiri.
- Ketika tujuan utamanya adalah bereksperimen dengan mengganti-nghanti model.
- Ketika Anda memiliki PC dengan VRAM yang cukup dan volume panggilan Anda konsisten tinggi.
Sebaliknya, ada tiga alasan umum mengapa orang memulai dengan lokal lalu menyerah. Memori yang tidak cukup sehingga jendela konteks harus dipersingkat, kecepatan generasi yang lambat, dan panggilan dari beberapa aplikasi secara bersamaan yang terhambat. Jika salah satu dari ini terjadi, API adalah alternatif yang realistis.
Kapan API yang di-host lebih tepat
API situs ini menggunakan format kompatibel OpenAI, sehingga alat yang dapat menambahkan endpoint kompatibel OpenAI seperti SillyTavern, atau aplikasi buatan Anda sendiri, hanya perlu memasukkan base URL dan kunci untuk terhubung. Modelnya adalah uncensored dan jendela konteksnya adalah 100.000 token untuk prompt dan output gabungan. Mendukung streaming, pemanggilan fungsi, dan mode JSON.
Sangat nyaman dalam kasus berikut.
- Ketika Anda tidak memiliki GPU atau mengembangkan menggunakan laptop.
- Ketika Anda membuat bot atau aplikasi sebagai layanan untuk memproses permintaan dari banyak pengguna secara bersamaan. Kunci resmi mengizinkan hingga 8 permintaan simultan.
- Ketika Anda sering melakukan tugas dengan jendela konteks besar seperti percakapan panjang atau dokumen panjang.
- Ketika penggunaan bulanan Anda fluktuatif sehingga sulit menanggung biaya tetap.
API ini adalah layanan model tunggal yang dioperasikan oleh operator independen dan bukan API resmi dari perusahaan lain. Jika Anda mengharapkan layanan yang memungkinkan Anda memilih model, ini tidak cocok. Prompt tidak digunakan untuk pelatihan model, tetapi fakta bahwa permintaan melewati server tidak akan hilang, jadi jika Anda menangani konten sensitif, bacalah Kebijakan Privasi terlebih dahulu.
Cara membandingkan secara langsung tanpa benchmark
Tabel skor buatan orang lain sering kali tidak sesuai dengan kebutuhan Anda. Dengan urutan berikut, Anda dapat membandingkan secara langsung dalam 30 menit.
- Pilih 10 prompt yang benar-benar akan Anda gunakan. Masukkan juga prompt sistem dan pengaturan karakter yang biasa Anda gunakan.
- Kirimkan prompt yang sama ke model lokal dan API secara terpisah. Sesuaikan pengaturan seperti temperature agar sama.
- Baca jawaban dengan nama yang disembunyikan dan beri skor. Perhatikan gaya bahasa, pemeliharaan pengaturan, kepatuhan terhadap instruksi, dan pengulangan kalimat yang sama.
- Jangan selesaikan sekaligus; jalankan setiap prompt sebanyak 3 kali untuk melihat varians.
Untuk API, Anda dapat mencobanya dengan cukup menggunakan kredit trial $0,50. Setelah masuk, Anda dapat menerimanya di halaman kunci API, dengan ketentuan 1 kali per pengguna, berlaku selama 7 hari, dan tidak memerlukan informasi pembayaran. Berikut adalah kode minimal untuk mengirim prompt yang sama ke API.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.mugeomyeolapi.com/v1", api_key=os.environ["MUGEOMYEOL_API_KEY"])
prompts = ["내 프롬프트 1", "내 프롬프트 2"] # 실제 쓸 프롬프트로 교체
for p in prompts:
for run in range(3):
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": p}],
temperature=0.8,
)
print(f"[{p[:10]} / {run + 1}회]", r.choices[0].message.content[:200])Mode hibrida dan daftar periksa akhir
Anda tidak perlu memilih hanya salah satu. Banyak orang membagi penggunaan dengan menulis draf sensitif secara lokal dan mengirim tugas yang membutuhkan jendela konteks besar atau panggilan simultan ke API. Jika formatnya kompatibel OpenAI, Anda hanya perlu mengubah base URL untuk beralih di antara keduanya dengan kode yang sama, sehingga biaya konversi rendah.
Periksa hal berikut sebelum memutuskan.
- Apakah VRAM perangkat Anda dapat menampung panjang jendela konteks yang diinginkan.
- Berapa banyak panggilan yang Anda lakukan dalam sebulan? Jika menggunakan API, hitung terlebih dahulu menggunakan tarif di halaman harga. Input $0,15 per 1.000.000 token, output $0,50 per 1.000.000 token.
- Apakah prompt Anda boleh melewati server eksternal.
- Berapa banyak permintaan yang harus diproses secara simultan.
Cara pengaturannya telah dirangkum di dokumentasi API. Pengisian saldo dimulai dari $20 hingga $500, dengan metode pembayaran USDT (TRC20) dan USDC (Base).
Panduan lainnya
Pertanyaan yang sering diajukan
LLM tanpa sensor mana yang lebih baik, lokal atau API?
Jawabannya tergantung pada penggunaan. Jika Anda membutuhkan penggunaan offline atau kontrol penuh dan memiliki perangkat, pilih lokal; jika Anda ingin menggunakannya segera tanpa perangkat atau membutuhkan panggilan simultan, pilih API.
Bisakah saya memilih model di API ini?
Tidak. Hanya ada satu model, yaitu uncensored. Jika Anda membutuhkan layanan yang memungkinkan Anda memilih beberapa model, ini mungkin tidak cocok.
Bolehkah menggunakan lokal dan API bersama-sama?
Bisa. Jika keduanya menggunakan format yang kompatibel dengan OpenAI, Anda dapat beralih dengan kode yang sama hanya dengan mengubah base URL dan kunci.
Apakah generasi gambar juga didukung?
API ini hanya untuk teks. Generasi gambar, suara, video, embedding, dan fine-tuning tidak didukung.
Kunci API hanya dengan mendaftar
Buat akun, salin kunci, ubah base URL. Pengaturan selesai hanya dengan ini.