LOCAL LLM FIELD GUIDE

เลือก Local LLM ตามงาน: ภาษาไทย, chatbot, agent, coding และ workflow

อย่าเริ่มจากคำว่า model ที่ดีที่สุด. Profile โมเดลจากภาษา/โดเมน, tool calling, coding, structured output, context, memory floor และ runtime ที่จะใช้ แล้วทดสอบงานของคุณด้วยชุด evaluation ที่เปิดเผย.

WORKLOAD PROFILE

เปรียบเทียบ candidate ด้วย scorecard เดียวกัน

ภาษาไทย: domain, grounding, tone
Agent: tool schema, recovery, planning
Coding: patch, tests, stack
Workflow: JSON schema, retry

แผนภาพสรุปสรุปกลไกสำหรับใช้เทียบกับค่าใน calculator

ใช้กับงานจริง

ใช้ scorecard เดียวกับทุก candidate

ชื่อ model ไม่ตอบว่าเหมาะกับงานของคุณหรือไม่. สร้างชุดทดสอบเล็กที่สะท้อน prompt, tool, เอกสาร และข้อผิดพลาดที่ผู้ใช้พบจริง.

ให้ candidate ผ่านเกณฑ์คุณภาพก่อน แล้วจึงเทียบ memory และ tok/s ใน runtime เดียวกัน. วิธีนี้ทำให้การเลือก model อธิบายย้อนหลังได้.

งาน	เกณฑ์ผ่าน	failure case ที่ต้องมี
ภาษาไทย	คำสั่ง, tone และศัพท์โดเมนถูกต้อง	ตอบนอกเอกสารหรือแปลคำเฉพาะผิด
chatbot	ตอบต่อเนื่องและอ้างอิง context	หลุด topic ในหลาย turn
agent	tool call ตรง schema	tool error แล้วไปต่อไม่ได้
coding	patch ผ่าน test ที่เกี่ยวข้อง	แก้ส่วนอื่นจน regression
workflow	JSON ตรง schema และ retry ได้	field หายหรือ type ไม่ตรง

ชุด eval ขั้นต่ำที่เริ่มได้

10 prompt ภาษาไทยจากงานจริง
conversation หลาย turn ที่มีเอกสารอ้างอิง
tool result ที่ผิดรูปแบบหนึ่งชุด
งานแก้ code พร้อม test feedback
structured output ที่มี invalid JSON และ retry

ตัวอย่าง contract สำหรับ structured output

{
  "ticket_id": "string",
  "category": "billing | support | security",
  "needs_human": true
}

ภาษาไทย

ตรวจคุณภาพจากงานไทยของคุณเอง เช่น instruction following, retrieval grounding, policy tone และศัพท์โดเมน. Thai benchmarks ต้องระบุ benchmark, prompt format และรุ่น model ให้ชัด. model card ThaiLLM เป็นจุดเริ่มต้นของแหล่งข้อมูล ไม่ใช่คำตัดสินแทน workload.

Chatbot และ agent

Chatbot ต้องดูการสนทนา, safety และ long context. Agent ต้องดู tool-call schema, recovery เมื่อ tool ผิด, planning และ latency. ให้ทดสอบ multi-turn และ failure cases ไม่ใช่ single prompt.

Coding และ structured workflow

Coding ต้องทดสอบภาษา/stack ของทีม, patch correctness และ test feedback loop. Workflow ต้องทดสอบ JSON/schema validity, extraction, routing และ deterministic retry. โมเดลที่ตอบเก่งอาจไม่ใช่โมเดลที่ทำ structured output เสถียรที่สุด.

Memory floor และ deployability

model ที่ดีแต่ไม่พอดี memory ตาม quant/context/concurrency ที่ต้องใช้ไม่ใช่ตัวเลือกใช้งานจริง. เลือก candidate 2–4 ตัวที่โหลดใน runtime ได้ แล้วใช้ calculator และ eval ชุดเดียวกันเปรียบเทียบต้นทุน/คุณภาพ.

แหล่งอ้างอิง

ThaiLLM-8B model card

ลองกับ configuration ของคุณ

นำ model, quantization, context, framework และ hardware ที่คิดไว้ไปลองใน calculator จากนั้นยืนยันด้วย benchmark ที่ใกล้ production.

เปิดเครื่องคำนวณ