LLM Hoster

เปลี่ยนโทรศัพท์ Android ของคุณให้เป็นเซิร์ฟเวอร์ AI ส่วนตัวที่ทรงพลัง — ไม่ต้องใช้คลาวด์ ไม่ต้องสมัครสมาชิก และไม่มีข้อมูลใดออกจากอุปกรณ์ของคุณ

LLM Hoster ช่วยให้คุณดาวน์โหลดและเรียกใช้โมเดลภาษาขนาดใหญ่ (LLM) ได้โดยตรงบนโทรศัพท์ของคุณโดยใช้เอนจินการอนุมาน llama.cpp และเปิดเผย API ที่เข้ากันได้อย่างสมบูรณ์ผ่านเครือข่ายท้องถิ่นของคุณ ใช้ได้กับไคลเอ็นต์ใด ๆ ที่รองรับ baseAPI/v1API — Open WebUI, Continue.dev, Chatbox, LM Studio หรือแอปของคุณเอง

━━━━━━━━━━━━━━━━━━━

🔒 เป็นส่วนตัวอย่างสมบูรณ์

ข้อมูลของคุณจะไม่ถูกส่งออกจากอุปกรณ์ของคุณ ไม่จำเป็นต้องใช้อินเทอร์เน็ตสำหรับการอนุมาน ไม่ต้องใช้คีย์ API ไม่มีค่าใช้จ่ายคลาวด์ ไม่มีการส่งข้อมูลทางไกล สิ่งที่เกิดขึ้นบนโทรศัพท์ของคุณจะอยู่บนโทรศัพท์ของคุณเท่านั้น

📥 ดาวน์โหลดโมเดลด้วยการแตะเพียงครั้งเดียว

เรียกดูและดาวน์โหลดโมเดล GGUF จาก Hugging Face ด้วยการแตะเพียงครั้งเดียว เพียงแค่คัดลอกชื่อ repository เช่น "author/model_name-GGUF" แล้ววางลงไป แอปจะค้นหาและดาวน์โหลดเวอร์ชันที่เหมาะสมที่สุดสำหรับมือถือโดยอัตโนมัติ

🌐 API ที่เข้ากันได้กับ /v1

เปิดเผย REST API จริงบนเครือข่าย LAN ของคุณ:

• GET /v1/models

• POST /v1/chat/completions

• POST /v1/completions

เชื่อมต่อจากแล็ปท็อป แท็บเล็ต หรืออุปกรณ์ใดๆ บนเครือข่ายเดียวกัน

💬 แชทในตัว

แชทกับโมเดลที่คุณโหลดไว้โดยตรงภายในแอป ไม่จำเป็นต้องใช้ไคลเอนต์ภายนอกสำหรับการสนทนาอย่างรวดเร็ว

⚡ การปรับแต่งประสิทธิภาพ

ปรับแต่งการอนุมานสำหรับอุปกรณ์ของคุณ:

• การจัดสรรคอร์ CPU (2–8 เธรด)

• การกำหนดปริมาณแคช KV (q4_0, q8_0)

• ขนาดหน้าต่างบริบท (2K–16K โทเค็น)

• การควบคุมขนาดแบทช์

• การถ่ายโอนงานไปยังเลเยอร์ GPU

• รองรับ Flash Attention

🔧 ทำงานในพื้นหลัง

บริการเบื้องหน้าจะทำให้เซิร์ฟเวอร์ทำงานอยู่เสมอแม้ว่าคุณจะสลับแอป หยุดได้ทุกเมื่อจากแถบแจ้งเตือน

━━━━━━━━━━━━━━━━━━━━

โมเดลที่รองรับ

ใช้งานได้กับโมเดลรูปแบบ GGUF ทุกแบบ จุดเริ่มต้นที่แนะนำ:

• Llama 3.2 (1B / 3B)

• Phi-3 Mini

• Gemma 2 (2B)

• Qwen 2.5 (1.5B / 3B)

• Mistral 7B (Q4 quantized)

โมเดล quantized ขนาดเล็กกว่า (Q4_K_M, Q4_0) ทำงานได้ดีที่สุดบนโทรศัพท์ โมเดลจะถูกจัดเก็บไว้ในเครื่องและคงอยู่ตลอดการใช้งาน

━━━━━━━━━━━━━━━━━━━

กรณีการใช้งาน

• ผู้ช่วย AI ส่วนตัวที่ไม่ต้องพึ่งพาคลาวด์

• การพัฒนาและทดสอบแอปที่ใช้ LLM

• AI ออฟไลน์ในพื้นที่ที่มีการเชื่อมต่อจำกัด

• การเรียนรู้และทดลองกับโมเดลโอเพนซอร์ส

• การให้บริการ AI แก่อุปกรณ์หลายเครื่องในเครือข่ายบ้านของคุณ

━━━━━━━━━━━━━━━━━━━━

ไม่มีโฆษณา ไม่มีการติดตาม ไม่มีบัญชี มีเพียง AI บนโทรศัพท์ของคุณ

ดาวน์โหลด LLM Hoster และเริ่มโฮสต์เซิร์ฟเวอร์ AI ส่วนตัวของคุณได้เลยวันนี้