GGUF Generator

Primo GGUF Riaddestrabile al mondo su Android: LoRA, apprendimento interattivo e quantizzazione.

L'unica app al mondo che permette di creare, addestrare, riaddestrare, adattare con LoRA e quantizzare modelli GGUF completamente su Android.

"GGUF Riaddestrabile" significa che il modello esportato contiene la cronologia di training e lo stato dell'ottimizzatore Adam — ricaricalo quando vuoi per riprendere esattamente da dove hai lasciato.

Nessun cloud, nessun abbonamento, nessun dato esce dal dispositivo.

---

1. Cos'è un GGUF Riaddestrabile?

Un file GGUF standard è solo per l'inferenza. GGUF Generator incorpora il corpus e lo stato Adam in ogni GGUF esportato.

Come un libro di testo che ricorda ogni lezione — sempre pronto per la prossima.

Prima mondiale nell'ecosistema llama.cpp.

---

2. Funzioni principali

■ Apprendimento interattivo (Nuovo GGUF)

Insegna a un piccolo LLM da zero tramite chat.

- Inserimento in due fasi (istruzione → risposta): addestra e verifica l'inferenza subito

- Riapprendi: rinforza l'ultimo pair con ripetizioni

- Apprendimento risposta: usa l'ultima risposta come istruzione

- Importa coppie (JSONL): ricostruzione vocab + riaddestramento completo

- Addestr. aggiuntivo: Memorizza ON = fino a riprodurre tutti i pair; OFF = fino alla loss target

- Interrompi: fermare il BG in qualsiasi momento; stato attuale conservato

- Esporta GGUF: specificare nome; F32 / F16 / Q8_0 — pronto per llama.cpp o Ollama

■ Apprendimento interattivo (LoRA)

Stesso approccio per un adattatore LoRA su un modello GGUF esistente.

- Architetture: LFM2 / Llama-3 / Gemma3 / Qwen3 (meno di 1B consigliato)

- Adattatore GGUF integra coppie + stato Adam → ricarica e riprendi

- Nome modello all'export; interruzione del BG possibile

■ Modifica e generazione di coppie

Usa un server LLM esterno per generare e modificare coppie di training.

- Coppie Q&A da URL, Wikipedia o tema libero

- Tradurre, riformulare o derivare nuove coppie con il LLM

- Espansione multilingua e amplificazione per parafrase

■ Conversione quantizzazione

F32 / F16 / Q8_0 / Q6_K / Q5_K_M / Q5_1 / Q5_0 / Q4_K_M / Q4_1 / Q4_0 / Q3_K_M / Q2_K

■ Modalità scura

Seleziona Auto / Chiaro / Scuro nelle Impostazioni.

---

3. Per chi?

- Addestrare un modello assistente personalizzato sul telefono

- Sviluppare LLM specializzati (FAQ, assistenti di dominio)

- Aggiungere conoscenza a un modello esistente via LoRA

- Utenti attenti alla privacy — dati mai condivisi

- Imparare il ML in modo pratico

---

4. Per iniziare

A) Creare un modello da zero

1. "Interattivo (Nuovo GGUF)" → "Nuovo"

2. Istruzione → "Nuovo apprendimento" → Risposta → "Nuovo apprendimento"

3. "Esporta GGUF" → nome e salva

B) Adattare con LoRA

1. "Interattivo (LoRA)" → "Carica modello"

2. Stessi passi; "Esporta adattatore" → nome e salva.

C) Generare coppie → addestramento batch

1. "Modifica & Genera" → generare da URL / Wikipedia / tema

2. JSONL → "Interattivo" → "Importa coppie"

Server LLM: configurare un server compatibile Ollama in Impostazioni → URL server.