LLM Hoster

LLM Hoster

JoblessAiDeveloper
2026年06月11日
  • 12.4 MB

    文件大小

  • 安全
  • Everyone

  • Android OS

关于LLM Hoster

在手机上本地运行 LLM 的 AI 模型,并通过 LAN 提供服务。

将您的安卓手机变成强大的私有AI服务器——无需云端,无需订阅,数据不会离开您的设备。

LLM Hoster 让您可以直接在手机上下载并运行大型语言模型 (LLM),使用 llama.cpp 推理引擎,并通过本地网络提供完全兼容的 API。它可与任何支持 baseAPI/v1API 的客户端配合使用,例如 Open WebUI、Continue.dev、Chatbox、LM Studio 或您自己的应用程序。

━━━━━━━━━━━━━━━━━━━━

🔒 完全私密

您的数据永远不会离开您的设备。推理无需联网。无需 API 密钥,无需支付云费用,无需遥测数据。手机上发生的一切,都只会保留在您的手机上。

📥 一键模型下载

只需轻点一下,即可浏览并下载 Hugging Face 的 GGUF 模型。只需粘贴类似“author/model_name-GGUF”的仓库名称,应用即可自动查找并下载最适合移动设备的量化版本。

🌐 /v1 兼容 API

在您的局域网中公开真正的 REST API:

• GET /v1/models

• POST /v1/chat/completions

• POST /v1/completions

可从笔记本电脑、平板电脑或同一网络上的任何设备连接。

💬 内置聊天

直接在应用内与已加载的模型聊天。无需外部客户端即可快速对话。

⚡ 性能调优

针对您的设备微调推理:

• CPU 核心分配(2-8 个线程)

• 键值缓存量化(q4_0、q8_0)

• 上下文窗口大小(2K-16K 个 token)

• 批处理大小控制

• GPU 层卸载

• 支持 Flash Attention

🔧 后台运行

前台服务即使在您切换应用时也能保持服务器运行。您可以随时从通知栏停止它。

━━━━━━━━━━━━━━━━━━━━

支持的模型

适用于任何 GGUF 格式的模型。推荐起始版本:

• Llama 3.2 (1B / 3B)

• Phi-3 Mini

• Gemma 2 (2B)

• Qwen 2.5 (1.5B / 3B)

• Mistral 7B (Q4 量化)

较小的量化模型(Q4_K_M、Q4_0)在手机上运行效果最佳。模型存储在本地,并可在会话之间保留。

━━━━━━━━━━━━━━━━━━━━

应用场景

• 完全依赖云端的私有AI助手

• 开发和测试基于LLM的应用程序

• 在网络连接受限的地区使用离线AI

• 学习和试验开源模型

• 为家庭网络中的多个设备提供AI服务

━━━━━━━━━━━━━━━━━━━━

无广告。无追踪。无需注册账号。手机上的AI,触手可及。

立即下载LLM Hoster,开始托管您自己的私有AI服务器。

更多

最新版本1.6的更新日志

Last updated on 2026年06月11日
• Advanced Settings: New controls for GPU offloading, thread batches, and speculative decoding.
• Stability improvements and general UI cleanup.
更多

视频和屏幕截图

  • LLM Hoster 海报
  • LLM Hoster 截图 1
  • LLM Hoster 截图 2
  • LLM Hoster 截图 3
  • LLM Hoster 截图 4
  • LLM Hoster 截图 5
  • LLM Hoster 截图 6
  • LLM Hoster 截图 7

LLM Hoster APK信息

最新版本
1.6
类别
工具
文件大小
12.4 MB
Available on
内容分级
Everyone
安全报告
立即检查
安全检查已完成
无病毒
无间谍软件
无恶意软件
无病毒
无间谍软件
无恶意软件
包名:com.joblessaideveloper.llm_hoster
SHA-256:76e82c98eca99cc6e16be23cf1169a5f16a09c8d84a84165f148290097eacb3f
SHA-1:68aa73bbf0bb2ae0dc633c7ab1072401d6247465
显示更多
验证者: APKPURE

LLM Hoster历史版本

12.4 MB2026年06月11日
下载
APKPure 图标

在APKPure上极速安全下载应用

一键安装安卓XAPK/APK文件!

下载 APKPure
thank icon
We use cookies and other technologies on this website to enhance your user experience.
By clicking any link on this page you are giving your consent to our Privacy Policy and Cookies Policy.
Learn More about Policies