GGUF Generator

Dünyanın ilk Yeniden Eğitilebilir GGUF'u — Android'de LLM'leri eğitin, LoRA'ya uyarlayın ve nicelleştirin.

Dünyada, GGUF dil modellerini tamamen Android cihazınızda oluşturmanıza, eğitmenize, yeniden eğitmenize, LoRA'ya uyarlamanıza ve nicelleştirmenize olanak tanıyan tek uygulama.

"Yeniden Eğitilebilir GGUF", dışa aktardığınız modelin eğitim geçmişini ve optimize edici durumunu içerdiği anlamına gelir — öğrenmeye kaldığınız yerden devam etmek için istediğiniz zaman yeniden yükleyin.

Bulut yok, abonelik yok, hiçbir veri telefonunuzdan asla ayrılmaz.

---

1. Genel Bakış — Yeniden Eğitilebilir GGUF Nedir?

Standart bir GGUF dosyası yalnızca çıkarım içindir. GGUF Generator, dışa aktarılan her GGUF'un içine eğitim veri kümesini ve Adam optimize edici durumunu yerleştirir, böylece dosyayı yeniden yükleyip eğitime sorunsuz bir şekilde devam etmek mümkün olur.

Bunu, her dersi hatırlayan bir ders kitabı gibi düşünün — her zaman bir sonrakine hazır.

Bu, llama.cpp ekosisteminde bir dünya ilki.

---

2. Temel Özellikler

■ Etkileşimli Öğrenme (Yeni GGUF)

Sohbet yoluyla sıfırdan küçük bir LLM modeli eğitin — adım adım talimat, yanıt yanıt.

- İki aşamalı giriş (talimat → yanıt): çıkarımı anında eğitin ve doğrulayın

- Yeniden öğrenme: son çifti tekrarlanan eğitim geçişleriyle güçlendirin

- Yanıt Öğrenme: konuşma akışını öğretmek için modelin son yanıtını talimat olarak kullanın

- Toplu çift içe aktarma (JSONL): kelime dağarcığı yeniden oluşturma + tam yeniden eğitim

- Ek Eğitim: ezberleme modu AÇIK, tüm çiftler yeniden üretilene kadar eğitim yapar; KAPALI, hedef kayba ulaşana kadar eğitim yapar

- Eğitimi Durdurma: arka plan eğitimini istediğiniz zaman durdurun; mevcut eğitilmiş durum korunur

- GGUF dışa aktarma: bir model adı belirtin; F32 / F16 / Q8_0 — llama.cpp veya Ollama için hazır

■ ​​Etkileşimli Öğrenme (LoRA)

Mevcut herhangi bir GGUF modelinin üzerine bir LoRA adaptörüne aynı sohbet tabanlı öğretimi uygulayın.

- Desteklenen mimariler: LFM2 / Llama-3 / Gemma3 / Qwen3 (1B'nin altında olması önerilir)

- Adaptör GGUF, eğitim çiftlerini + Adam durumunu içerir → anında yeniden yükleyin ve devam ettirin

- Dışa aktarırken model adını belirtin; arka plan eğitimini çalışma sırasında durdurun

■ Çift Düzenleme ve Oluşturma (Otomatik Eğitim Verileri)

Eğitim çiftlerini otomatik olarak oluşturmak ve düzenlemek için harici bir LLM sunucusu kullanın.

- Web URL'lerinden, Vikipedi'den veya serbest biçimli bir tema isteminden çeşitli Soru-Cevap çiftleri oluşturun

- LLM kullanarak yeni çiftleri düzenleyin, çevirin, yeniden ifade edin veya türetin

- Çok dilli veri kümeleri için çeviri genişletme ve yeniden ifade etme güçlendirme

■ Nicelleştirme Dönüştürme

Herhangi bir GGUF dosyasını cihaz üzerinde farklı bir nicelleştirme türüne dönüştürün.

- Desteklenenler: F32 / F16 / Q8_0 / Q6_K / Q5_K_M / Q5_1 / Q5_0 / Q4_K_M / Q4_1 / Q4_0 / Q3_K_M / Q2_K

■ Karanlık Mod

Ayarlarda Otomatik / Açık / Koyu arasında geçiş yapın. Otomatik, sistem temasını takip eder.

---

3. Bu Kimler İçin?

- Tamamen telefonlarında eğitilmiş kişiselleştirilmiş küçük bir asistan modeli isteyen herkes

- Alan odaklı LLM'ler (SSS botları, özel asistanlar) geliştiren geliştiriciler ve araştırmacılar

- LoRA aracılığıyla mevcut bir modele özel bilgi veya dil stili eklemek isteyen kullanıcılar

- Gizliliğe öncelik veren yapay zeka kullanıcıları — veriler asla cihazdan ayrılmaz

- Makine öğrenimini uygulamalı olarak öğrenen öğrenciler ve meraklılar

---

4. Başlangıç

A) Sıfırdan bir model oluşturma

1. "Etkileşimli (Yeni GGUF)" uygulamasını açın → bir model başlatmak için "Yeni"ye dokunun

2. Talimatı girin → "Yeni Öğren" → yanıtı girin → "Yeni Öğren"

3. "GGUF'u Dışa Aktar"a dokunun, bir model adı girin ve kaydedin

B) LoRA ile mevcut bir modeli ince ayar yapma

1. "Etkileşimli (LoRA)" uygulamasını açın → temel bir GGUF yüklemek için "Modeli Yükle"ye dokunun

2. Aynı iki adımlı girişi izleyin. "Adaptörü Dışa Aktar"a dokunun, bir ad girin ve kaydedin.

C) Otomatik çift oluşturma → toplu eğitim

1. "Çift Düzenleme ve Oluşturma"yı açın → bir URL, Vikipedi veya temadan çiftler oluşturun

2. JSONL olarak kaydedin, ardından tam otomatik eğitim için "Etkileşimli" → "Çiftleri İçe Aktar"a gidin

LLM sunucusu (çift oluşturma için gereklidir):

Uygulamayı Ayarlar → Sunucu URL'si aracılığıyla Ollama uyumlu bir sunucuya (aynı cihaz veya yerel ağ) yönlendirin.