LLM AI Server with llama.cpp

ذكاء اصطناعي غير محدود، بدون الحاجة إلى الحوسبة السحابية. هاتفك هو الخادم.

شغّل نماذج التعلم الآلي القوية محليًا، بشكل خاص، وبكل حرية - بواجهة مستخدم بسيطة وسهلة الاستخدام.

يصبح جهاز أندرويد واحد بمثابة خادم الذكاء الاصطناعي الشخصي الخاص بك، والذي يمكنك الوصول إليه من أجهزة الكمبيوتر، والأجهزة اللوحية، وغيرها من الأجهزة على نفس الشبكة.

--

1. نظرة عامة

خادم الذكاء الاصطناعي لنماذج التعلم الآلي مع llama.cpp هو خادم محلي بالكامل لنماذج التعلم الآلي لنظام أندرويد، يتيح إنشاء النصوص والوسائط المتعددة بشكل خاص ودون اتصال بالإنترنت.

عائلات النماذج المدعومة: Gemma-4 / Gemma-4 Vision، Qwen / Qwen Vision، Mistral، LLaMA، Phi، Bonsai، وغيرها.

يتوافق خادم واجهة برمجة التطبيقات المدمج مع Ollama، وOpenAI، وAnthropic (Claude) Messages، وواجهات برمجة تطبيقات Google Gemini - مما يوفر نقاط نهاية للدردشة، والإكمال التلقائي، والإنشاء، والتضمين، والتجزئة/عد الرموز، وعرض النماذج.

خادم واجهة برمجة التطبيقات المدمج متوافق مع Ollama، وOpenAI، وAnthropic (Claude) Messages، وGoogle Gemini APIs - ويوفر نقاط نهاية للدردشة، والإكمال التلقائي، والإنشاء، والتضمين، والتجزئة/عد الرموز، وعرض النماذج.

شغّل نماذج التعلم الآلي القوية محليًا، وبشكل خاص، وبكل حرية - من خلال واجهة مستخدم سهلة الاستخدام وبسيطة.

يصبح جهاز أندرويد واحد بمثابة خادم الذكاء الاصطناعي الشخصي الخاص بك، والذي يمكنك الوصول إليه من أجهزة الكمبيوتر، والأجهزة اللوحية، والأجهزة الأخرى على نفس الشبكة.

1. نظرة عامة

خادم الذكاء الاصطناعي لنماذج التعلم الآلي مع llama.cpp هو خادم محلي بالكامل لنظام أندرويد، يتيح إنشاء النصوص والوسائط المتعددة بشكل خاص ودون اتصال بالإنترنت.

النماذج تعمل واجهة المستخدم الرسومية المدمجة على نفس المنفذ، وتدعم تبديل النماذج، وتعديل المعلمات، وعرض السجلات، وتثبيت تطبيقات الويب التقدمية (PWA).

تتيح خاصيتا MCP واستدعاء الدوال سير عمل مُعزز بالأدوات؛ مع إخراج مُهيكل عبر GBNF وJSON Schema.

--

2. المستخدمون المستهدفون والأجهزة المدعومة

صُمم للمستخدمين الذين يرغبون في بيئة LLM محلية بالكامل وخاصة:

- المستخدمون الذين يفضلون العمل دون اتصال بالإنترنت

- المطورون الذين يدمجون نظامًا خلفيًا محليًا

- المستخدمون المتقدمون الذين يضبطون أخذ العينات والأداء

- الباحثون الذين يختبرون سلوك الاستدلال

- المستخدمون الذين يركزون على الخصوصية

يمكن ضبط الأداء من خلال حجم السياق، وعدد الخيوط، وحجم الدفعة، وتفريغ وحدة معالجة الرسومات، وتكميم ذاكرة التخزين المؤقت KV، وفك تشفير MTP الاختياري.

--

3. الميزات الرئيسية

- البحث عن ملفات GGUF وتنزيلها باستخدام Hugging Face؛ إرشادات ملاءمة الجهاز، تنزيل mmproj بنقرة واحدة

- رؤية Qwen3-VL (مدمجة افتراضيًا)؛ توسيع n_ctx تلقائيًا للصور الكبيرة؛ الرجوع التلقائي من وحدة معالجة الرسومات إلى وحدة المعالجة المركزية

- استيراد ملفات GGUF محليًا؛ إعادة تسمية/حذف النموذج؛ دعم محول LoRA (يُطبق أثناء التشغيل، ويُدار من الإعدادات)

- فك تشفير MTP التخميني؛ معلمات تفصيلية (Mirostat، DRY، XTC، Min-p، Typical-p، الجزاءات، dynatemp)

- محرك llama.cpp مُحدَّث (b10621، الإصدار 0.3.0) - نماذج أحدث، وحدة معالجة الرسومات Adreno OpenCL

- واجهة برمجة تطبيقات Ollama: /api/chat، /api/generate، /api/ps، /api/show، /api/delete، /api/embed(dings)، /api/tokenize، /api/tags؛ خاصية keep_alive (إلغاء التحميل / التحميل المسبق / مدة السلاسل النصية)

- واجهة برمجة تطبيقات OpenAI: /v1/chat/completions، /v1/completions، /v1/responses، /v1/embeddings، /v1/models

- واجهة برمجة تطبيقات Anthropic (Claude): /v1/messages (بث مباشر، تفكير، صورة/صوت، استخدام الأداة)، /v1/messages/count_tokens، GET /v1/models؛ كتل محتوى المستند/PDF؛ التفكير عبر رأس anthropic-beta

- واجهة برمجة تطبيقات Google Gemini: generateContent/streamGenerateContent؛ GET /v1beta/models (قائمة/مفرد)؛ countTokens؛ embedContent/batchEmbedContents؛ وضع JSON (responseMimeType)؛ thinkingBudget

- واجهة Swagger UI على /swagger: وثائق OpenAPI 3.0 تفاعلية، يمكن الوصول إليها من الإعدادات ← "وثائق OpenAPI"

- لوحة فحص الاتصال في الإعدادات: تفحص جميع الواجهات وتعرض عناوين URL المتاحة (الشبكة المحلية، مزود الخدمة، إلخ)

- ملف تعريف LLM AI Server Guide مُدمج؛ استرجاع سجلات الجهاز عبر GET /api/diagnostics

- واجهة ويب متعددة اللغات (9 لغات)، دعم تطبيقات الويب التقدمية (PWA)؛ MCP واستدعاء الدوال

- نسخ احتياطي واستعادة ملف التعريف؛ اختيار تلقائي لقالب المطالبة

وثائق API كاملة، أمثلة، ومختبر تفاعلي:

https://micklab.web.app/llama-tester-en.html

---

4. البدء

أ) تشغيل واجهة برمجة التطبيقات/واجهة الويب ← فتح في المتصفح

1. انقر على "تشغيل واجهة برمجة التطبيقات/واجهة الويب" على الشاشة الرئيسية.

2. انقر على "فتح في المتصفح" لتشغيل واجهة الويب المُدمجة.

3. تواصل مع الآخرين وشغّل النموذج مباشرةً من واجهة الويب.

ابدأ تشغيل النموذج مباشرةً من واجهة الويب. ملاحظة: عند الاستخدام الأول، إذا لم يتم تنزيل النموذج، فستقوم واجهة المستخدم بتنزيله عند إرسال الرسالة الأولى.

ب) التشغيل المباشر

1. افتح قسم "التشغيل المباشر" على الشاشة الرئيسية.

2. أدخل نصًا واضغط على "إرسال" لتشغيل النموذج مباشرةً داخل التطبيق.

ج) أو استخدم الإعدادات لإعداد النموذج أولًا

1. افتح الإعدادات.

2. ابحث عن نموذج GGUF في Hugging Face، أو أدخل رابطًا مباشرًا، أو استورد ملف GGUF محليًا.

3. اضبط المعلمات (حجم السياق، درجة الحرارة، العقوبات، MTP، تفريغ GPU، إلخ).

4. اضغط على "حفظ الإعدادات"، ثم "حفظ وإغلاق" لتحميل النموذج.

5. يمكنك إنشاء نسخة احتياطية من ملف التعريف لاستعادتها لاحقًا.