TokForge Local AI Offline Chat

Nutzen Sie KI-Modelle auf Ihrem Smartphone. TokForge lädt ein Modell einmalig herunter und ermöglicht anschließend Chatten, Schreiben und Fotografieren direkt auf Ihrem Smartphone. Kein Konto, kein Abo erforderlich. Nach dem Download funktioniert die App sogar im Flugmodus.

Ein passendes Modell für Ihr Smartphone. TokForge schlägt Ihnen ein Modell in der optimalen Größe für Ihr Smartphone vor. Der Katalog zeigt Ihnen vor dem Download, welche Modelle passen. Wählen Sie aus offenen Modellen wie Qwen, Gemma, Llama, Mistral und Phi oder suchen Sie nach „Hugging Face“, um weitere zu entdecken. Geben Sie einfach Ihre gewünschte Aktion an, und TokForge wählt das passende Modell aus. Die entsprechenden Symbole „Optimal für Ihr Smartphone“, „Passt“ und „Zu groß“ werden angezeigt.

Ihr Smartphone, Ihre Route. TokForge nutzt Modelle auf der CPU oder GPU. Auf unterstützten Snapdragon-Smartphones kann die App die NPU, den KI-Chip des Smartphones, verwenden. Kurze Überprüfungen auf Ihrem Smartphone wählen die optimale Route aus. Eine Karte in den Einstellungen erklärt Ihnen die Funktionen Ihres Smartphones in einfachen Worten.

TokForge wählt die optimale Route für Ihr Smartphone aus. Die NPU, wann immer Sie sie brauchen. Auf unterstützten Snapdragon-Smartphones können einige Modelle, wie z. B. das Qwen3.5 4B, Ihre Eingabe auf der NPU lesen, während die CPU die Antwort schreibt. Diese Funktion ist optional und wird mit einem einmaligen Paket aktiviert. Sie wird erst nach einer Überprüfung auf Ihrem Smartphone genutzt.

Chat und Rollenspiel. Erstellen Sie Charaktere oder importieren Sie Charakterkarten (PNG oder JSON) von chub.ai, TavernAI und SillyTavern. Personas, Hintergrundgeschichten, alternative Begrüßungen und Gruppenchats, in denen jeder Charakter seine eigene Stimme hat.

Bilder auf Ihrem Smartphone erstellen. Geben Sie eine Eingabe ein und erhalten Sie ein Bild – auch ohne Internetverbindung. Die Bildgenerierung erfolgt auf der CPU und auf unterstützten Smartphones auf der GPU oder der NPU. Die GPU-Variante erreicht nach einer Überprüfung auf Ihrem Smartphone mehr Geräte.

Agenten. Delegieren Sie kleine Aufgaben, wie z. B. das Zusammenfassen eines Textes oder das Nachschlagen von Informationen. Nutzen Sie einen vorgefertigten Agenten oder erstellen Sie Ihren eigenen. Einige integrierte Agenten gehen beim Ausführen online. Beginnen Sie mit einer Voreinstellung und verfolgen Sie jeden Schritt.

Ein Terminal, falls gewünscht. Eine optionale Kommandozeilen-Shell befindet sich in einem eigenen Ordner innerhalb der App. Sie bleibt deaktiviert, bis Sie sie in den erweiterten Einstellungen aktivieren – auf Geräten, die den Sicherheitscheck bestehen. Der Internetzugang ist standardmäßig deaktiviert. Wenn ein Modell einen Befehl ausführen möchte, wird Ihnen dies zuerst angezeigt. Die Ausführung erfolgt erst nach Tippen auf „Ausführen“.

Sprechen Sie mit dem System. Antworten können in verschiedenen Kokoro-Stimmen oder mit einer Stimme aus einer kurzen Aufnahme vorgelesen werden. Spracheingabe ist möglich.

Fragen Sie Ihre Dokumente. Fügen Sie eine PDF-, DOCX-, EPUB-, Markdown-, CSV- oder Textdatei hinzu und stellen Sie Fragen dazu. Langzeitgedächtnis und Wissensgraph behalten den Überblick über die relevanten Informationen in den verschiedenen Gesprächen.

Websuche, wann immer Sie sie benötigen. Standardmäßig deaktiviert. Wenn aktiviert, wird nur die Suchanfrage gesendet.

Abliterierte Modelle – Ihre Wahl. Der Katalog listet auch abliterierte Versionen einiger Qwen-Modelle auf: dasselbe Modell, optimiert, um weniger Anfragen abzulehnen. Sie entscheiden, ob Sie eines herunterladen möchten.

Datenschutz. Chats und Dokumente bleiben auf Ihrem Smartphone. Kein Konto, keine eigenen Analysen. Online-Funktionen umfassen Modell-Downloads, Websuche, Spracheingabe Ihres Smartphones, die Bestenliste, einen Remote-Server (der Ihre Chats empfängt) sowie die integrierte Wetter- und Agentenfunktion. Beim Lesen eines Fotos oder Videos sendet die Texterkennung von Google Nutzungsstatistiken, nicht Ihre Bilder oder Texte.

Benchmarking und Optimierung. AutoForge misst Modelle auf Ihrem Smartphone und speichert die besten Einstellungen. Ob Sie ein Ergebnis in der öffentlichen Bestenliste unter leaderboard.tokforge.ai veröffentlichen, bleibt Ihnen überlassen.

Sichern und stellen Sie Ihre Chats, Charaktere und Einstellungen wieder her. Verbinden Sie Ihren eigenen OpenAI-kompatiblen Server. Eine lokale Entwickler-API, standardmäßig deaktiviert. Verfügbar in 8 Sprachen.

Neue Funktionen als Erster erhalten. Melden Sie sich über diese Seite für das Beta-Programm an, um neue Versionen als Erster zu erhalten und uns Ihre Erfahrungen in unserem Discord-Server mitzuteilen. Sie können jederzeit austreten.

Community.

Discord: discord.gg/Acv3CBtfVm

Bestenliste: leaderboard.tokforge.ai

Web: tokforge.ai

iPhone und iPad: TokForge ist als öffentliche Betaversion auf TestFlight verfügbar.