LLM Hoster

حوّل هاتفك الأندرويد إلى خادم ذكاء اصطناعي قوي وخاص - بدون سحابة، بدون اشتراك، ولا بيانات تغادر جهازك.

يتيح لك LLM Hoster تنزيل وتشغيل نماذج لغوية كبيرة (LLMs) مباشرةً على هاتفك باستخدام محرك الاستدلال llama.cpp، ويوفر واجهة برمجة تطبيقات (API) متوافقة تمامًا عبر شبكتك المحلية. استخدمه مع أي تطبيق يدعم baseAPI/v1API - مثل Open WebUI، وContinue.dev، وChatbox، وLM Studio، أو تطبيقاتك الخاصة.

خصوصية تامة

بياناتك لا تغادر جهازك أبدًا. لا حاجة للإنترنت للاستدلال. لا مفاتيح API، ولا تكاليف سحابية، ولا بيانات تتبع. ما يحدث على هاتفك يبقى على هاتفك.

📥 تنزيل النماذج بنقرة واحدة

تصفح نماذج GGUF من Hugging Face وقم بتنزيلها بنقرة واحدة. ما عليك سوى لصق اسم المستودع، مثل "author/model_name-GGUF"، وسيقوم التطبيق تلقائيًا بالعثور على أفضل نسخة مُحسّنة للأجهزة المحمولة وتنزيلها.

🌐 واجهة برمجة تطبيقات متوافقة مع الإصدار 1

استخدم واجهة برمجة تطبيقات REST حقيقية على شبكتك المحلية:

• GET /v1/models

• POST /v1/chat/completions

• POST /v1/completions

اتصل من حاسوبك المحمول أو جهازك اللوحي أو أي جهاز آخر على نفس الشبكة.

💬 دردشة مدمجة

تحدث مع النموذج الذي قمت بتحميله مباشرةً داخل التطبيق. لا حاجة إلى عميل خارجي لإجراء محادثات سريعة.

⚡ تحسين الأداء

اضبط الاستدلال بدقة لجهازك:

• تخصيص أنوية المعالج (2-8 خيوط معالجة)

• تحديد كمية ذاكرة التخزين المؤقت KV (q4_0، q8_0)

• حجم نافذة السياق (2000-16000 رمز مميز)

• التحكم في حجم الدفعة

• تفريغ طبقة وحدة معالجة الرسومات

• دعم تنبيه الفلاش

🔧 يعمل في الخلفية

تحافظ خدمة تعمل في المقدمة على تشغيل الخادم حتى عند التبديل بين التطبيقات. يمكنك إيقافها في أي وقت من لوحة الإشعارات.

━━━━━━━━━━━━━━━━━━━━

النماذج المدعومة

يعمل مع أي نموذج بتنسيق GGUF. نقاط البداية الموصى بها:

• لاما 3.2 (1 مليار / 3 مليارات)

• فاي-3 ميني

• جيما 2 (مليارا)

• كوين 2.5 (1.5 مليار / 3 مليارات)

• ميسترال 7 مليار (كمي Q4)

النماذج الكمية الأصغر (Q4_K_M، Q4_0) تعمل بشكل أفضل على الهواتف. تُخزَّن النماذج محليًا وتستمر عبر الجلسات.

━━━━━━━━━━━━━━━━━━━━

حالات الاستخدام

• مساعد ذكاء اصطناعي خاص يعمل بدون الحاجة إلى خدمات سحابية

• تطوير واختبار تطبيقات مدعومة بتقنية LLM

• ذكاء اصطناعي يعمل دون اتصال بالإنترنت في المناطق ذات الاتصال المحدود

• تعلم وتجربة نماذج مفتوحة المصدر

• تشغيل الذكاء الاصطناعي على أجهزة متعددة ضمن شبكتك المنزلية

━━━━━━━━━━━━━━━━━━━━

بدون إعلانات. بدون تتبع. بدون حسابات. فقط ذكاء اصطناعي على هاتفك.

حمّل LLM Hoster وابدأ باستضافة خادم الذكاء الاصطناعي الخاص بك اليوم.