TH ▾
รับคีย์ API

แนะนำ LLM แบบไม่เซ็นเซอร์: วิธีเลือกใช้งานแบบ Local หรือ API

สิ่งแรกที่ต้องตัดสินใจเมื่อมองหา LLM แบบไม่เซ็นเซอร์คือวิธีการใช้งาน ไม่ใช่ชื่อโมเดล วิธีที่คุณเลือกระหว่างการใช้งานบนเครื่องของคุณเองหรือผ่าน API ที่โฮสต์ไว้ จะส่งผลต่อความต้องการด้านฮาร์ดแวร์ ค่าใช้จ่าย และความรับผิดชอบในการจัดการที่แตกต่างกันอย่างมาก

วันที่อัปเดต

ภาพประกอบเปรียบเทียบระหว่าง PC แบบ Local และเซิร์ฟเวอร์คลาวด์

สรุปสำคัญ

  • การกำหนดวิธีการรัน (โลคัลหรือ API) ก่อนลำดับโมเดลช่วยลดความผิดพลาดได้มากกว่า
  • การรันโลคัลมีจุดเด่นคือทำงานออฟไลน์และควบคุมได้เต็มที่ ส่วน API แบบโฮสต์เริ่มใช้งานได้ทันทีโดยไม่ต้องมีอุปกรณ์
  • บทความนี้ไม่มีอันดับประสิทธิภาพหรือตัวเลขเบรนช์มาร์ก แต่แนะนำวิธีทดสอบด้วยพรอมต์เดียวกันโดยตรง
  • ฝั่ง API ใช้โมเดลหนึ่งตัว (uncensored) หน้าต่างบริบท 100,000 โทเคน ราคาอินพุต $0.15 และเอาต์พุต $0.50 ต่อ 1,000,000 โทเคน

สิ่งที่แนะนำและไม่แนะนำในบทความนี้

บทความที่จัดอันดับโมเดลใดโมเดลหนึ่งเป็นอันดับหนึ่งมักเชื่อถือได้ยาก เพราะโมเดลเปลี่ยนแปลงตลอดเวลา และโมเดลเดียวกันก็ให้ผลลัพธ์ต่างกันตามระดับควอนไทเซชันและพรอมต์ บทความนี้จึงเสนอ เกณฑ์การเลือก แทนตารางจัดอันดับ เมื่อมีเกณฑ์นี้ คุณก็สามารถประเมินโมเดลใหม่ได้ด้วยวิธีเดียวกัน

โมเดลแบบไม่เซ็นเซอร์ที่กล่าวถึงในบทความนี้หมายถึงโมเดลแบบเปิดน้ำหนักที่ปรับแต่งให้ปฏิเสธเนื้อหาน้อยลงกว่าแชทบอทเชิงพาณิชย์ทั่วไป โดยตั้งอยู่บนพื้นฐานการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย นิยมใช้สำหรับการสร้างสรรค์และสนทนาสำหรับผู้ใหญ่ เช่น การเขียนนิยาย แรลเพลย์ หรือแอปเพื่อนคู่คิด เนื้อหาทางเพศที่มีผู้เยาว์เกี่ยวข้องจะไม่อนุญาตไม่ว่าจะใช้ในรูปแบบใด และนี่เป็นเส้นแบ่งที่ต้องปฏิบัติตามทั้งเมื่อรันโลคัลและใช้ API

สามเส้นทาง: รันโลคัล, เช่าเซิร์ฟเวอร์เอง, API แบบโฮสติง

รันโลคัล

วิธีการรันไฟล์โมเดลโดยตรงผ่านเครื่องมืออย่าง Ollama หรือ llama.cpp บนคอมพิวเตอร์ของคุณ สามารถทำงานได้โดยไม่ต้องใช้อินเทอร์เน็ต และบทสนทนาจะไม่ถูกส่งออกไปภายนอก อย่างไรก็ตาม โมเดลขนาดใหญ่ต้องการหน่วยความจำ GPU (VRAM) มากขึ้น แม้จะสามารถลดขนาดด้วยการควอนไทเซชันได้ แต่คุณภาพอาจลดลง ตรวจสอบรายละเอียดว่าโมเดลใดทำงานบนอุปกรณ์ของคุณได้บ้างจากหน้าอธิบายของเครื่องมือและโมเดล

เช่าเซิร์ฟเวอร์ GPU เพื่อจัดการเอง

คลาวด์ GPU เพื่อเช่าแล้วสร้างเซิร์ฟเวอร์เอง วิธีนี้เลือกโมเดลได้เอง แต่การตั้งค่าเซิร์ฟเวอร์ อัปเดต การตรวจสอบ และจัดการต้นทุนเป็นหน้าที่ของคุณเอง ตรวจสอบให้แน่ใจว่าโครงสร้างค่าเช่ายังคงเรียกเก็บแม้ในช่วงเวลาที่ไม่ได้ใช้งาน

โฮสติง API

ส่งคำขอไปยังเซิร์ฟเวอร์ที่ใครบางคนดูแล แล้วจ่ายตามปริมาณที่ใช้ ไม่ต้องแบกรับภาระด้านอุปกรณ์และการดำเนินงาน แต่สิทธิ์ในการเลือกโมเดลจะถูกจำกัดโดยผู้ให้บริการ และพรอมต์จะผ่านเซิร์ฟเวอร์ภายนอก API ของเว็บไซต์นี้จัดอยู่ในประเภทนี้

ตารางเปรียบเทียบตามเกณฑ์

เกณฑ์โลคอลโฮสติง API
ต้นทุนเริ่มต้นต้องการ GPU ที่ตรงสเปกหรือหน่วยความจำเพียงพอเริ่มต้นด้วยการเติมเงินล่วงหน้าเพียงอย่างเดียว ขั้นต่ำ $20
เมื่อปริมาณการใช้งานต่ำหากมีอุปกรณ์อยู่แล้ว จะมีต้นทุนเพิ่มเติมเกือบไม่มีใช้เท่าไรคิดเงินเท่านั้น จึงไม่เป็นภาระ
เมื่อปริมาณการใช้งานสูงมากต้นทุนคงที่ซึ่งอาจเป็นประโยชน์เพิ่มขึ้นตามราคาต่อโทเคน
ความยาวของคอนเท็กซ์จำกัดโดย VRAM และการตั้งค่าAPI นี้รองรับ 100,000 โทเคน
การเลือกโมเดลสามารถเปลี่ยนได้อย่างอิสระโมเดลที่ผู้ให้บริการกำหนด (ในกรณีนี้คือ uncensored)
ความเป็นส่วนตัวข้อมูลไม่ออกจากอุปกรณ์ของคุณคำขอผ่านเซิร์ฟเวอร์ภายนอก
คำขอพร้อมกันขึ้นอยู่กับฮาร์ดแวร์คีย์มาตรฐานรองรับพร้อมกัน 8 คำขอ, 300 คำขอต่อนาที
ภาระในการจัดการต้องติดตั้งและอัปเดตตั้งค่าคีย์และ base URL เท่านั้น

จากตารางจะบอกยากว่าฝ่ายไหนชนะเสมอ หากให้ความสำคัญกับความเป็นส่วนตัวและมีอุปกรณ์เพียงพอ การใช้แบบโลคัลจะดีกว่า แต่หากไม่มีอุปกรณ์หรือต้องเรียกใช้พร้อมกันจากหลายแอป การใช้ API จะสะดวกกว่า

กรณีที่เหมาะสมกับแบบโลคัล

  • เมื่อต้องใช้ในสภาพแวดล้อมออฟไลน์ เช่น บนเครื่องบินหรือในพื้นที่ที่เครือข่ายภายนอกถูกปิดกั้น ซึ่งไม่มีตัวเลือกอื่น
  • เมื่อห้ามไม่ให้ประวัติการสนทนาออกนอกอุปกรณ์ นโยบายของผู้ให้บริการรายใดก็ไม่รับประกันความมั่นคงปลอดภัยเท่ากับการเก็บข้อมูลไว้ในอุปกรณ์ของคุณ
  • เมื่อวัตถุประสงค์คือการ ทดลองเปลี่ยนโมเดลไปมา
  • เมื่อมีพีซีที่มี VRAM เพียงพอและปริมาณการเรียกใช้สูงอย่างต่อเนื่อง

ในทางกลับกัน มีสามเหตุผลทั่วไปที่ทำให้ผู้ใช้เลิกใช้แบบโลคัล ได้แก่ การต้องลดขนาดหน้าต่างบริบทเนื่องจากหน่วยความจำไม่เพียงพอ ความเร็วในการสร้างที่ช้า และการติดขัดเมื่อเรียกใช้พร้อมกันจากหลายแอป หากเข้าข่ายข้อใดข้อหนึ่ง API จึงเป็นทางเลือกที่สมจริงกว่า

กรณีที่เหมาะสมกับ API แบบโฮสต์

API ของเว็บไซต์นี้ใช้รูปแบบที่เข้ากันได้กับ OpenAI ทำให้สามารถเชื่อมต่อกับเครื่องมือที่รองรับเอนด์พอยต์แบบ OpenAI เช่น SillyTavern หรือแอปที่พัฒนาขึ้นเองได้ เพียงแค่ใส่ base URL และคีย์ โมเดลมีเพียง uncensored และรองรับ context window ขนาด 100,000 โทเคน (รวมพรอมต์และผลลัพธ์) รองรับสตรีมมิง การเรียกใช้ฟังก์ชัน และโหมด JSON

สะดวกเป็นพิเศษในกรณีต่อไปนี้

  • เมื่อไม่มี GPU หรือกำลังพัฒนาด้วยโน้ตบุ๊ก
  • กรณีสร้างบอทหรือแอปบริการเพื่อจัดการคำขอของผู้ใช้หลายคนพร้อมกัน คีย์หลักอนุญาตได้สูงสุด 8 คำขอพร้อมกัน
  • เมื่อทำงานกับหน้าต่างบริบทขนาดใหญ่บ่อยครั้ง เช่น การสนทนาที่ยาวหรือเอกสารขนาดใหญ่
  • เมื่อปริมาณการใช้งานรายเดือนไม่คงที่จนทำให้การแบกรับต้นทุนคงที่ยากลำบาก

API นี้เป็นบริการโมเดลเดี่ยวที่ดำเนินการโดยผู้ประกอบการรายเดียว ไม่ใช่ API ทางการของบริษัทอื่น หากคาดหวังบริการที่ให้คุณเลือกโมเดลได้ อาจไม่ตรงกับความต้องการของคุณ แม้พรอมต์จะไม่ถูกนำไปใช้ในการฝึกโมเดล แต่ข้อเท็จจริงที่คำขอผ่านเซิร์ฟเวอร์ยังคงอยู่ ดังนั้นหากจัดการข้อมูลละเอียดอ่อน โปรดอ่าน นโยบายความเป็นส่วนตัว ก่อนใช้งาน

วิธีเปรียบเทียบโดยตรงโดยไม่ใช้เบนช์มาร์ก

ตารางคะแนนที่ผู้อื่นทำไว้อาจไม่ตรงกับความต้องการของคุณ คุณสามารถเปรียบเทียบด้วยตนเองได้ภายใน 30 นาทีตามขั้นตอนต่อไปนี้

  1. เลือกพรอมต์ 10 รายการที่คุณจะใช้จริง โดยใส่ระบบพรอมต์และการตั้งค่าตัวละครที่คุณใช้ประจำด้วย
  2. ส่งพรอมต์เดียวกันไปยังโมเดลโลคัลและ API โดยตั้งค่าพารามิเตอร์เช่น temperature ให้เหมือนกัน
  3. อ่านคำตอบโดยปกปิดชื่อและให้คะแนน โดยตรวจสอบสไตล์ การคงการตั้งค่า การปฏิบัติตามคำสั่ง และการซ้ำคำ
  4. อย่าทำจบในครั้งเดียว แต่ให้รันแต่ละพรอมต์ 3 ครั้งเพื่อดูความเบี่ยงเบน

ด้าน API ทดสอบด้วยเครดิตทดลองใช้ฟรี $0.50 ก็เพียงพอ สามารถรับได้ที่ หน้าคีย์ API หลังเข้าสู่ระบบ ใช้ได้ 1 คน 1 ครั้ง ระยะเวลา 7 วัน ไม่ต้องใส่ข้อมูลการชำระเงิน ด้านล่างคือโค้ดขั้นต่ำสำหรับส่งพรอมต์เดียวกันไปยัง API

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.mugeomyeolapi.com/v1", api_key=os.environ["MUGEOMYEOL_API_KEY"])

prompts = ["내 프롬프트 1", "내 프롬프트 2"]  # 실제 쓸 프롬프트로 교체
for p in prompts:
    for run in range(3):
        r = client.chat.completions.create(
            model="uncensored",
            messages=[{"role": "user", "content": p}],
            temperature=0.8,
        )
        print(f"[{p[:10]} / {run + 1}회]", r.choices[0].message.content[:200])

วิธีการแบบไฮบริดและรายการตรวจสอบสุดท้าย

ไม่จำเป็นต้องเลือกเพียงอย่างเดียว ผู้ใช้หลายคนแบ่งการใช้งานโดยเขียนร่างที่ละเอียดอ่อนในเครื่องท้องถิ่น และส่งงานที่ต้องการหน้าต่างบริบทยาวหรือการเรียกใช้ฟังก์ชันแบบขนานผ่าน API หากเป็นรูปแบบที่เข้ากันได้กับ OpenAI คุณสามารถสลับไปมาระหว่างทั้งสองฝั่งด้วยโค้ดชุดเดิมโดยการเปลี่ยนเพียง base URL ทำให้ต้นทุนการเปลี่ยนต่ำ

ตรวจสอบสิ่งต่อไปนี้ก่อนตัดสินใจ

  • VRAM ในอุปกรณ์ของคุณรองรับความยาวหน้าต่างบริบทที่ต้องการได้หรือไม่
  • การใช้งานต่อเดือนประมาณเท่าไร หากเป็น API ให้คำนวณจากอัตราค่าบริการในหน้าราคาก่อน โดยราคาอยู่ที่ $0.15 ต่อ 1,000,000 โทเคนสำหรับอินพุต และ $0.50 ต่อ 1,000,000 โทเคนสำหรับเอาต์พุต
  • เนื้อหาในพรอมต์สามารถผ่านเซิร์ฟเวอร์ภายนอกได้หรือไม่
  • ต้องประมวลผลคำขอพร้อมกันกี่รายการ

วิธีการตั้งค่ามีรายละเอียดใน เอกสาร API การเติมเงินอยู่ที่ $20 ถึง $500 โดยช่องทางชำระเงินคือ USDT(TRC20) และ USDC(Base)

คู่มือเพิ่มเติม

คำถามที่พบบ่อย

LLM แบบไม่เซ็นเซอร์แบบใดดีกว่ากัน ระหว่างแบบท้องถิ่นและ API

คำตอบขึ้นอยู่กับวัตถุประสงค์ หากต้องการใช้งานออฟไลน์ การควบคุมแบบสมบูรณ์ และมีอุปกรณ์ แบบท้องถิ่นจะเหมาะสมกว่า หากต้องการใช้งานทันทีโดยไม่ต้องมีอุปกรณ์ หรือต้องการการเรียกใช้พร้อมกันหลายคำขอ API จะเหมาะสมกว่า

สามารถเลือกโมเดลใน API นี้ได้หรือไม่

ไม่ได้ โมเดลคือ uncensored เพียงอย่างเดียว หากต้องการบริการที่เลือกโมเดลหลายตัวมาใช้งานร่วมกัน อาจไม่เหมาะกับคุณ

สามารถใช้โลคัลและ API ร่วมกันได้หรือไม่

เป็นไปได้ หากเครื่องมือทั้งสองใช้รูปแบบที่เข้ากันได้กับ OpenAI คุณสามารถสลับไปมาได้ด้วยโค้ดชุดเดิมโดยเปลี่ยนเพียง base URL และคีย์

รองรับการสร้างภาพด้วยหรือไม่

API นี้เป็นแบบข้อความเท่านั้น ไม่รองรับการสร้างภาพ เสียง วิดีโอ การสร้างค่าฝัง (embedding) หรือการปรับแต่งพิเศษ (fine-tuning)

คีย์ API ใช้ได้เพียงการสมัครสมาชิก

สร้างบัญชี คัดลอกคีย์ เปลี่ยน Base URL การตั้งค่าเสร็จสิ้นเพียงเท่านี้

รับคีย์ API
รับคีย์ API