Description
Diorama est un outil innovant qui convertit un simple croquis ou une phrase unique en un monde de diorama en papier jouable. Développée lors du Meta AI Global Hackathon, cette application utilise les modèles Muse et SAM de Meta pour créer des environnements immersifs et interactifs directement à partir des entrées des utilisateurs.
Lire la suite
Le fonctionnement principal implique Muse Spark, qui lit l'entrée, planifie la disposition du monde, et Muse Image, qui le peint dans un style de papier découpé et de carton. SAM 3.1 joue un rôle crucial en découpant l'image peinte en cartes en papier individuelles, utilisant une carte de profondeur pour positionner chaque carte à sa propre distance, créant ainsi une impression de tridimensionnalité. Cela permet à des éléments comme des lampadaires, des vagues et des bateaux d'apparaître comme des composants distincts et interactifs dans la scène.
Chaque monde généré n'est pas simplement une image statique mais une scène dynamique où un personnage héros peut marcher, interagir avec des objets et s'engager avec l'environnement. Par exemple, les lampadaires deviennent des lampes en papier lumineuses, les vagues en zigzag se transforment en mers en papier plié, et les bateaux flottent sur l'eau. Même des détails complexes comme un pont en corde sont rendus praticables, les cascades coulent, et des poissons individuels sont des découpes qui nagent, donnant vie à la scène. L'outil garantit que chaque élément, du gardien attendant dans l'entrée d'un phare à un faisceau lumineux balayeur, est rendu tel qu'il a été dessiné dans le croquis initial.
Le processus de création de Diorama est hautement automatisé, les modèles de Meta gérant les aspects créatifs tandis que le code mesure et vérifie chaque résultat pour garantir la jouabilité. Un monde typique de quatre lieux prend environ 17 minutes à construire, impliquant environ 200 appels de modèles Meta. Le système intègre également Muse Spark pour concevoir le monde et l'histoire, Muse Image pour peindre et repeindre des régions, et SAM 3.1 pour découper des éléments comme des objets, des sols, des escaliers et de l'eau. Des modèles supplémentaires comme Muse Voice Transcribe et Muse Code (l'agent du Studio) sont utilisés pour l'entrée vocale et l'édition interactive du monde.
Les utilisateurs peuvent construire des mondes en utilisant un outil en ligne de commande ou une application Studio dans le navigateur. Les mondes générés sont jouables directement dans le navigateur sur des ordinateurs ou des téléphones, sans nécessiter d'installation ou d'inscription. Les joueurs peuvent cliquer pour marcher, interagir avec des objets et parler à des personnages. Diorama permet également aux utilisateurs d'exporter leurs créations en tant que pages web statiques, les rendant partageables sur des plateformes comme GitHub Pages ou itch.io. Le projet a été initié lors du Meta AI Global Hackathon le 26 octobre 2026 et fonctionne localement, offrant un mélange unique de créativité alimentée par l'IA et de narration interactive.
- CatégorieOutils IA de développement de jeux
- Modèle tarifaireGratuit
- DéploiementLocal CLI + Studio App
- PlateformesWeb Browser (Computer, Phone)
Fonctionnalités principales de Diorama
Génération de croquis en monde : Transforme des croquis au crayon ou des phrases uniques en mondes de diorama jouables.
Jouabilité basée sur le navigateur : Les mondes sont jouables directement dans un navigateur web sur des ordinateurs et des téléphones.
Environnements interactifs : Permet aux personnages de marcher, d'interagir avec des objets et de s'engager avec la scène.
Création de cartes basées sur la profondeur : Utilise SAM 3.1 et des cartes de profondeur pour découper des peintures en cartes en papier à distances multiples.
Construction de monde automatisée : Tire parti de Muse Spark et Muse Image de Meta pour la planification et la peinture.
Éléments dynamiques : Inclut de l'eau qui coule, des poissons nageants et des structures praticables comme des ponts en corde.
Intégration de personnages : Peint et intègre des modèles de personnages 3D en tant que sprites dans le monde.
Sons et voix : Ajoute de l'ambiance, des pas, de la musique et des voix de personnages en utilisant ElevenLabs et MusicGen.
Vérification automatisée de la jouabilité : Des bots marchent et utilisent chaque lieu pour s'assurer qu'il est jouable.
Application Studio : Fournit une interface basée sur le navigateur pour décrire, construire et corriger des mondes.
Outil en ligne de commande : Offre une interface en ligne de commande locale pour la création de mondes.
Exportation de pages web statiques : Permet d'exporter des mondes en tant que pages web statiques pour un partage et un hébergement faciles.
Édition en temps réel : L'agent Muse Code permet des changements interactifs dans le monde au sein du Studio.
Flexibilité d'entrée : Accepte à la fois des croquis visuels et des descriptions d'histoires textuelles.
Système de critique et de repeinture : Muse Spark critique les peintures, et seules les régions signalées sont repeintes par Muse Image.
Comment utiliser Diorama ?
Configurer Diorama : Initialisez un dossier vide et exécutez `npx -y @gtanczyk/diorama setup` pour configurer votre environnement et vos clés API.
Décrivez votre monde : Utilisez l'application Studio ou la ligne de commande pour fournir une phrase unique ou déposer des croquis pour votre monde souhaité.
Construisez le diorama : Regardez Diorama construire votre monde lieu par lieu, en tirant parti des modèles d'IA de Meta.
Jouez et interagissez : Parcourez votre nouveau monde construit dans le navigateur, en cliquant pour vous déplacer, interagir avec des objets et parler à des personnages.
Affinez avec l'agent : Utilisez l'agent du Studio pour apporter des modifications ou corriger des éléments dans votre monde de manière interactive.
Exportez votre monde : Exportez le monde terminé en tant que page web statique en utilisant `npx -y @gtanczyk/diorama export <world>` pour le partage.
Cas d'utilisation de Diorama
- Narration interactive
- Prototypage de jeux
- Visualisation créative
- Création de contenu éducatif
- Art numérique personnalisé
- Exploration d'art conceptuel
- Expériences basées sur le web






