GGUF Generator
4.0 MB
Размер файла
- Безопасность
Everyone
Android 7.0+
Android OS
Oписание GGUF Generator
Генерируйте пары вопросов и ответов и обучайте компактные модели ИИ локально с помощью GGUF и LoRA.
Первый в мире переобучаемый GGUF — обучайте, адаптируйте к LoRA и квантуйте языковые модели на Android.
Единственное в мире приложение, позволяющее создавать, обучать, переобучать, адаптировать к LoRA и квантовать языковые модели GGUF полностью на вашем устройстве Android.
«Переобучаемый GGUF» означает, что экспортируемая вами модель содержит историю обучения и состояние оптимизатора — вы можете загрузить её в любое время, чтобы продолжить обучение с того места, где остановились.
Никакого облака, никакой подписки, никакие данные никогда не покидают ваш телефон.
--
1. Обзор — Что такое переобучаемый GGUF?
Стандартный файл GGUF предназначен только для инференса. GGUF Generator встраивает обучающий корпус и состояние оптимизатора Adam в каждый экспортированный файл GGUF, что позволяет перезагружать файл и беспрепятственно возобновлять обучение.
Представьте это как учебник, который помнит каждый урок — всегда готов к следующему.
Это первая в мире разработка в экосистеме llama.cpp.
---
2. Ключевые особенности
■ Интерактивное обучение (новый GGUF)
Обучите небольшую модель LLM с нуля через чат — инструкция за инструкцией, ответ за ответом.
- Двухэтапный ввод (инструкция → ответ): мгновенно обучите и проверьте вывод
- Переобучение: укрепите последнюю пару с помощью повторных проходов обучения
- Обучение на основе ответа: используйте последний ответ модели в качестве инструкции для обучения потоку разговора
- Пакетный импорт пар (JSONL): перестройка словаря + полное переобучение
- Дополнительное обучение: запоминайте режим ON, пока не будут воспроизведены все пары; режим OFF обучает целевой функции потерь
- Остановка обучения: остановите фоновое обучение в любое время; текущее состояние обучения сохраняется
- Экспорт GGUF: укажите имя модели; F32 / F16 / Q8_0 — готово для llama.cpp или Ollama
■ Интерактивное обучение (LoRA)
Примените тот же метод обучения на основе чата к адаптеру LoRA поверх любой существующей модели GGUF.
■ - Поддерживаемые архитектуры: LFM2 / Llama-3 / Gemma3 / Qwen3 (рекомендуется менее 1 млрд)
- Адаптер GGUF встраивает обучающие пары + состояние Adam → мгновенная перезагрузка и возобновление
- Укажите имя модели при экспорте; остановите фоновое обучение в середине процесса
■ Редактирование и генерация пар (автоматическое обучение данных)
Используйте внешний сервер LLM для автоматической генерации и редактирования обучающих пар.
- Генерируйте разнообразные пары вопросов и ответов из веб-адресов, Википедии или произвольной тематической подсказки
- Редактируйте, переводите, перефразируйте или создавайте новые пары с помощью LLM
- Расширение перевода и усиление парафразирования для многоязычных наборов данных
■ Преобразование квантования
Преобразуйте любой файл GGUF в другой тип квантования на устройстве.
■ Поддерживаемые модели: F32 / F16 / Q8_0 / Q6_K / Q5_K_M / Q5_1 / Q5_0 / Q4_K_M / Q4_1 / Q4_0 / Q3_K_M / Q2_K
■ Темный режим
Переключайтесь между режимами «Авто» / «Светлый» / «Темный» в настройках. Режим «Авто» следует системной теме.
---
3. Для кого это предназначено?
- Всем, кто хочет получить персонализированную небольшую модель-помощника, полностью обученную на их телефоне
- Разработчикам и исследователям, создающим специализированные LLM (боты для часто задаваемых вопросов, специализированные помощники)
- Пользователям, которые хотят добавить пользовательские знания или стиль языка к существующей модели с помощью LoRA
- Пользователям ИИ, для которых конфиденциальность является приоритетом — данные никогда не покидают устройство
- Студентам и энтузиастам, изучающим машинное обучение на практике
---
4. Начало работы
A) Создание модели с нуля
1. Откройте «Интерактивный (Новый GGUF)» → нажмите «Новый», чтобы инициализировать модель
2. Введите инструкцию → «Новое обучение» → введите ответ → «Новое обучение»
3. Нажмите «Экспорт GGUF», введите имя модели и сохраните
B) Тонкая настройка существующей модели с помощью LoRA
1. Откройте «Интерактивный (LoRA)» → «Загрузить модель», чтобы загрузить базовый GGUF
2. Выполните те же два шага ввода. Нажмите «Экспорт адаптера», введите имя и сохраните.
C) Автоматическая генерация пар → пакетное обучение
1. Откройте «Редактирование и генерация пар» → сгенерируйте пары из URL-адреса, Википедии или темы.
2. Сохраните как JSONL, затем перейдите в «Интерактивный» → «Импорт пар» для полностью автоматического обучения.
Сервер LLM (необходим для генерации пар):
Укажите приложению сервер, совместимый с Ollama (на том же устройстве или в локальной сети), через Настройки → URL-адрес сервера.
Что нового в последней версии 2026.11.14.1848
Added a new Experimental Lab menu.
Added training functionality for Echo-style GGUF models.
Added support for using text files and the clipboard as sources for automatic pair generation.
Информация GGUF Generator APK
Старые Версии GGUF Generator
Супер Быстрая и Безопасная Загрузка через Приложение APKPure
Один клик для установки XAPK/APK файлов на Android!





