Beschreibung
Diorama ist ein innovatives Tool, das eine einfache Skizze oder einen einzelnen Satz in eine spielbare Papier-Diorama-Welt umwandelt. Entwickelt während des Meta AI Global Hackathon, nutzt diese Anwendung die Muse- und SAM-Modelle von Meta, um immersive, interaktive Umgebungen direkt aus Benutzereingaben zu erstellen. Der Prozess beginnt mit einer Kreideskizze oder einer textuellen Beschreibung, die Diorama dann interpretiert, um eine detaillierte, mehrschichtige Welt zu konstruieren.
Weiterlesen
Die Kernfunktionalität umfasst Muse Spark, das die Eingabe liest, das Layout der Welt plant, und Muse Image, das sie im Stil von ausgeschnittenem Papier und Pappe malt. SAM 3.1 spielt eine entscheidende Rolle, indem es das gemalte Bild in einzelne Papierkarten schneidet, wobei eine Tiefenkarte verwendet wird, um jede Karte in ihrem eigenen Abstand zu positionieren, wodurch ein Gefühl von Dreidimensionalität entsteht. Dies ermöglicht es, dass Elemente wie Laternenpfähle, Wellen und Boote als distinct interaktive Komponenten innerhalb der Szene erscheinen.
Jede generierte Welt ist nicht nur ein statisches Bild, sondern eine dynamische Bühne, auf der ein Heldencharakter gehen, mit Objekten interagieren und mit der Umgebung in Kontakt treten kann. Beispielsweise werden Laternenpfähle zu leuchtenden Papierlampen, Zickzackwellen verwandeln sich in gefaltete Papiermeere, und Boote schaukeln auf dem Wasser. Selbst komplexe Details wie eine Seilbrücke sind begehbar, Wasserfälle fließen, und einzelne Fische sind ausgeschnittene Figuren, die schwimmen und die Szene zum Leben erwecken. Das Tool stellt sicher, dass jedes Element, vom Wärter, der in einer Tür des Leuchtturms wartet, bis zu einem schwenkenden Lichtstrahl, so dargestellt wird, wie es in der ursprünglichen Skizze gezeichnet wurde.
Der Erstellungsprozess von Diorama ist stark automatisiert, wobei die Modelle von Meta die kreativen Aspekte übernehmen, während der Code jede Ausgabe misst und überprüft, um die Spielbarkeit sicherzustellen. Eine typische Welt mit vier Plätzen benötigt etwa 17 Minuten zum Aufbau und umfasst rund 200 Aufrufe der Meta-Modelle. Das System integriert auch Muse Spark für die Gestaltung der Welt und der Geschichte, Muse Image für das Malen und Übermalen von Regionen sowie SAM 3.1 für das Ausschneiden von Elementen wie Dingen, Böden, Treppen und Wasser. Zusätzliche Modelle wie Muse Voice Transcribe und Muse Code (der Agent des Studios) werden für die Sprachsteuerung und die interaktive Bearbeitung der Welt verwendet.
Benutzer können Welten mit einem Befehlszeilentool oder einer Studio-App im Browser erstellen. Die generierten Welten sind direkt im Browser auf Computern oder Handys spielbar, ohne dass eine Installation oder Anmeldung erforderlich ist. Spieler können klicken, um zu gehen, mit Objekten zu interagieren und mit Charakteren zu sprechen. Diorama ermöglicht es den Nutzern auch, ihre Kreationen als statische Webseiten zu exportieren, die auf Plattformen wie GitHub Pages oder itch.io geteilt werden können. Das Projekt wurde während des Meta AI Global Hackathon am 26. Oktober 2026 initiiert und läuft lokal, wobei es eine einzigartige Mischung aus KI-gesteuerter Kreativität und interaktivem Geschichtenerzählen bietet.
- KategorieKI-Tools für die Spieleentwicklung
- PreismodellKostenlos
- BereitstellungLocal CLI + Studio App
- PlattformenWeb Browser (Computer, Phone)
Diorama's Kernfunktionen
Skizze-zu-Welt-Generierung: Wandelt Kreideskizzen oder einzelne Sätze in spielbare Diorama-Welten um.
Browserbasierte Spielbarkeit: Welten sind direkt in einem Webbrowser auf Computern und Handys spielbar.
Interaktive Umgebungen: Ermöglicht es Charakteren, zu gehen, mit Objekten zu interagieren und sich mit der Szene auseinanderzusetzen.
Tiefenbasierte Kartenerstellung: Verwendet SAM 3.1 und Tiefenkarten, um Gemälde in mehrdistanzierte Papierkarten zu schneiden.
Automatisierter Weltaufbau: Nutzt Meta's Muse Spark und Muse Image für Planung und Malen.
Dynamische Elemente: Beinhaltet fließendes Wasser, schwimmende Fische und begehbare Strukturen wie Seilbrücken.
Charakterintegration: Malt und integriert 3D-Charaktermodelle als Sprites innerhalb der Welt.
Geräusche und Stimmen: Fügt Ambiente, Schritte, Musik und Charakterstimmen mit ElevenLabs und MusicGen hinzu.
Automatisierte Spielbarkeitsüberprüfung: Bots gehen und nutzen jeden Platz, um sicherzustellen, dass er spielbar ist.
Studio-App: Bietet eine browserbasierte Schnittstelle zum Beschreiben, Erstellen und Korrigieren von Welten.
Befehlszeilentool: Bietet eine lokale Befehlszeilenschnittstelle zur Erstellung von Welten.
Export als statische Webseite: Ermöglicht den Export von Welten als statische Webseiten für einfaches Teilen und Hosting.
Echtzeit-Bearbeitung: Muse Code-Agent ermöglicht interaktive Änderungen an der Welt innerhalb des Studios.
Eingabeflexibilität: Akzeptiert sowohl visuelle Skizzen als auch textuelle Geschichtsbeschreibungen.
Kritik- und Übermal-System: Muse Spark kritisiert Gemälde, und nur markierte Bereiche werden von Muse Image übermalt.
Wie verwendet man Diorama?
Diorama einrichten: Initialisiere einen leeren Ordner und führe `npx -y @gtanczyk/diorama setup` aus, um deine Umgebung und API-Schlüssel zu konfigurieren.
Beschreibe deine Welt: Verwende die Studio-App oder die Befehlszeile, um einen einzelnen Satz anzugeben oder Skizzen für deine gewünschte Welt einzufügen.
Baue das Diorama: Sieh zu, wie Diorama deine Welt Platz für Platz konstruiert, indem es die KI-Modelle von Meta nutzt.
Spiele und interagiere: Gehe durch deine neu gebaute Welt im Browser, klicke, um dich zu bewegen, mit Objekten zu interagieren und mit Charakteren zu sprechen.
Verfeinere mit dem Agenten: Nutze den Agenten des Studios, um interaktiv Änderungen vorzunehmen oder Elemente in deiner Welt zu korrigieren.
Exportiere deine Welt: Exportiere die fertige Welt als statische Webseite mit `npx -y @gtanczyk/diorama export <world>` zum Teilen.
Diorama's Anwendungsfälle
- Interaktives Geschichtenerzählen
- Spiel-Prototyping
- Kreative Visualisierung
- Erstellung von Bildungsinhalten
- Personalisierte digitale Kunst
- Konzeptkunst-Exploration
- Webbasierte Erlebnisse






