Beschreibung
SillyTavern, oft als ST bezeichnet, ist eine benutzerfreundliche Oberfläche, die für Power-User entwickelt wurde, die mit Textgenerierungs-LLMs, Bildgenerierungs-Engines und TTS-Sprachmodellen interagieren möchten. Im Februar 2023 als Fork von TavernAI 1.2.8 gestartet, hat sich SillyTavern zu einer robusten Plattform entwickelt, die von einer engagierten Community von über 300 Mitwirkenden unterstützt wird. Das Projekt ist kostenlos und Open Source, was sicherstellt, dass es für alle Nutzer zugänglich bleibt.
Das Hauptziel von SillyTavern ist es, den Nutzern so viel Nutzen und Kontrolle über ihre LLM-Eingaben wie möglich zu bieten. Die Benutzeroberfläche ist so gestaltet, dass sie die Lernkurve im Zusammenhang mit LLMs berücksichtigt und den Prozess angenehm und lohnend macht. Nutzer können SillyTavern auf verschiedenen Plattformen installieren, darunter Windows, Linux, Mac und Android, mit minimalen Hardwareanforderungen. Für optimale Leistung, insbesondere bei LLM-Inferenz, wird eine NVIDIA-Grafikkarte der 3000er-Serie mit mindestens 6 GB VRAM empfohlen.
SillyTavern arbeitet mit einem Zwei-Zweigen-Entwicklungssystem: dem 'release'-Zweig, der stabil ist und monatlich aktualisiert wird, und dem 'staging'-Zweig, der die neuesten Funktionen enthält, aber instabil sein kann. Nutzer können Charakterkarten erstellen und anpassen, die für die Aufrechterhaltung persistenter Gespräche unerlässlich sind. Diese Charakterkarten können alles von fiktiven Charakteren bis hin zu maßgeschneiderten Assistenten darstellen und bieten ein reichhaltiges interaktives Erlebnis.
Die Plattform unterstützt auch verschiedene LLM-Backends, darunter AI Horde, OpenAI-kompatible APIs und mehr, sodass die Nutzer ihre bevorzugte Inferenzquelle wählen können. Mit Funktionen wie erweiterten Textgenerierungseinstellungen, Gruppenchat und umfangreichen UI-Anpassungsoptionen spricht SillyTavern eine breite Palette von Nutzerpräferenzen an. Darüber hinaus bietet es integrierte Unterstützung für Dokumentenreferenzen, Chat-Befehle und eine Skript-Engine, die das gesamte Benutzererlebnis verbessert.
Für diejenigen, die an der Erweiterung der Funktionalität von SillyTavern interessiert sind, unterstützt die Plattform verschiedene Erweiterungen, darunter emotionale Ausdrucksformen von Charakteren, automatische Zusammenfassungen des Chatverlaufs und Text-zu-Sprache-Funktionen. Nutzer können auch über Discord und Reddit mit der Community interagieren und zur fortlaufenden Entwicklung dieses innovativen Werkzeugs beitragen.
SillyTavern's Kernfunktionen
Lokal installierte Benutzeroberfläche
Unterstützt Textgenerierungs-LLMs
Bildgenerierungs-Engines
TTS-Sprachmodelle
Charakterkarten für persistente Gespräche
Erweiterte Textgenerierungseinstellungen
Gruppenchat-Funktionalität
Umfangreiche UI-Anpassungsoptionen
Integrierte RAG-Unterstützung
Skript-Engine für Chat-Befehle
Wie verwendet man SillyTavern?
SillyTavern installieren: Befolgen Sie die Installationsanleitung für Ihre Plattform.
Backend auswählen: Wählen Sie ein LLM-Backend für die Inferenz.
Charakterkarte erstellen: Definieren Sie eine Charakterkarte für Ihre Gespräche.
Chatten beginnen: Geben Sie Eingaben ein, um mit dem LLM zu interagieren.
Einstellungen anpassen: Passen Sie die UI- und Textgenerierungseinstellungen nach Bedarf an.
SillyTavern's Anwendungsfälle
- Interaktive Erzählungen
- KI-unterstütztes Schreiben
- Charakterentwicklung
- Bildungswerkzeuge
- Kreatives Brainstorming
