KI-Provider & Modelle

Ryokan verwendet KI-Modelle, um deine Geschichten weiterzuschreiben. Du entscheidest selbst, welches Modell du nutzen möchtest – über einen Cloud-Anbieter oder direkt auf deinem eigenen Gerät.

Unterstützte KI-Provider

Ryokan unterstützt verschiedene Cloud-Anbieter:

OpenRouter – Zugriff auf zahlreiche Modelle unterschiedlicher Entwickler.
NanoGPT – Verschiedene KI-Modelle über eine gemeinsame API.
OpenAI – Direkter Zugriff auf OpenAI-Modelle.
Anthropic – Claude-Modelle.
Google Gemini – Googles Gemini-Modelle.
xAI / Grok – KI-Modelle von xAI.

Zusätzlich kannst du eigene OpenAI-kompatible API-Endpunkte verbinden.

API-Schlüssel einrichten

Für die Nutzung von Cloud-Modellen benötigst du normalerweise einen API-Schlüssel. Diesen erhältst du über die Website des jeweiligen Anbieters.

Öffne in Ryokan die Einstellungen → API Verbindung, wähle deinen Provider und füge deinen Schlüssel über API-Schlüssel hinzufügen ein.

Anschließend lädt Ryokan die verfügbaren Modelle automatisch. Wähle eines aus, um es für deine Geschichten zu verwenden.

Beim ersten Start führt dich der Einrichtungsassistent durch diese Schritte.

Wichtig: Dein API-Schlüssel ist vertraulich. Teile ihn nicht mit anderen Personen.

Modelle und Kosten

Ryokan selbst ist kostenlos. Ob Kosten für die KI entstehen, hängt vom gewählten Anbieter und Modell ab.

Einige Anbieter stellen kostenlose Modelle bereit, während andere die Nutzung anhand von Tokens abrechnen. Tokens sind kleine Texteinheiten, aus denen Eingaben und generierte Antworten bestehen.

Die Modellauswahl in Ryokan bietet verschiedene Möglichkeiten:

Suche: Finde bestimmte Modelle schnell wieder.
Kostenlos: Filtere nach verfügbaren kostenlosen Modellen.
Favoriten: Speichere häufig verwendete Modelle.
Zuletzt: Greife auf kürzlich verwendete Modelle zu.
Preisangaben: Vergleiche die angezeigten Modellpreise, sofern entsprechende Informationen verfügbar sind.

Kostenlose Modelle können Nutzungslimits haben. Preise und Verfügbarkeit werden vom jeweiligen Anbieter bestimmt und können sich ändern.

Lokale KI-Modelle

Du kannst Ryokan auch ohne Cloud-Anbieter verwenden. Unterstützt werden unter anderem:

LM Studio
Ollama
llama.cpp
KoboldCPP

Starte dafür einen lokalen Modellserver und lade dein gewünschtes Modell. Wähle anschließend das entsprechende Programm als Anbieter in Ryokan aus.

Die üblichen Serveradressen sind bereits hinterlegt. Bei Bedarf kannst du den API-Endpunkt selbst anpassen.

Lokale Modelle benötigen normalerweise keinen API-Schlüssel und verursachen keine nutzungsabhängigen Cloud-API-Gebühren. Allerdings muss dein Gerät ausreichend leistungsfähig sein.

Mehrere Verbindungen verwenden

Du kannst in Ryokan mehrere Verbindungsprofile erstellen und zwischen ihnen wechseln.

So kannst du beispielsweise verschiedene Cloud-Provider nutzen oder jederzeit zu deinem lokalen Modell wechseln, ohne deine Verbindungen jedes Mal neu einzurichten.

Probiere unterschiedliche Modelle aus und finde heraus, welcher Schreibstil am besten zu deinen Geschichten passt.

Tipp: Für deine erste Geschichte reichen ein verbundener Provider und ein ausgewähltes Modell. Erweiterte Einstellungen kannst du später ausprobieren.