Zum Hauptinhalt springen
ToolPotion
KI-Berater
Einreichen

TML-d24-varloop-research

LLMs#96KI-Modelle & LLMsOpen Source · Web

TML-d24-varloop-research ist ein multimodales Forschungsmodell, das von Thinking Machines Lab, Inc. entwickelt wurde. Es akzeptiert sowohl Text- als auch Bildeingaben, um Texte auszugeben. Dieses Modell ist ein variabel geschleiftes Pendant zu Inkling 2 Mini, das es ermöglicht, die Anzahl der geschleiften Schichten zur Inferenzzeit auszuwählen. Es wird mit offenen Gewichten veröffentlicht, um die Forschung zu geschleiften Modellen zu unterstützen.

URL besuchen
Teilen
Screenshot von TML-d24-varloop-research
Screenshot von TML-d24-varloop-research

TML-d24-varloop-research ist ein multimodales Forschungsmodell, das von Thinking Machines Lab, Inc. entwickelt wurde und sowohl Text- als auch Bildeingaben verarbeitet, um Texte auszugeben. Es wurde am 20. November 2026 unter einer Apache 2.0-Lizenz veröffentlicht und stellt einen bedeutenden Beitrag im Bereich der geschleiften Modelle dar, da es eine variabel geschleifte Architektur bietet, im Gegensatz zu seinem festen Pendant, Inkling 2 Mini. Forscher können die Anzahl der Schleifen während der Inferenz dynamisch anpassen, was sauberere Vergleiche darüber ermöglicht, wie zusätzliche Berechnungen die internen Prozesse und die Gesamtfähigkeiten eines Modells beeinflussen.

Weiterlesen

Das Modell wird als offene Gewichte über Hugging Face verteilt, mit einer einzelnen Checkpoint-Größe von etwa 20 GB. Es erfordert eine Maschine mit mindestens 32 GB GPU- oder einheitlichem Speicher, die mit Konfigurationen wie NVIDIA DGX Spark, NVIDIA GPUs (z. B. GeForce RTX 5090 oder RTX PRO 6000 Blackwell) oder Apple Silicon Macs kompatibel ist. TML-d24-varloop-research unterstützt lokale Inferenz mit verschiedenen Frameworks, einschließlich Hugging Face, SGLang, vLLM, TokenSpeed, NVIDIA Dynamo, Unsloth, llama.cpp, Llama App, Ollama und Exo Labs. Es unterstützt auch das Nachtraining mit Miles und SkyRL.

Architektonisch ist TML-d24-varloop-research ein 24-schichtiger Decoder-Transformer mit spärlichen Mixture-of-Experts (MoE) Feed-Forward-Schichten. Die mittleren 12 Schichten können eine variable Anzahl von Durchläufen ausführen, wobei Gewichte geteilt werden, und wurden mit 1 bis 5 Durchläufen trainiert. Jede Schicht leitet Tokens an 8 von 128 Experten weiter, und die Aufmerksamkeit ist eine Hybridform aus lokalen und globalen Schichten. Das Modell ist nativ multimodal, kodiert Bilder über einen Vision-Transformer und verarbeitet sie gemeinsam mit Text in einem gemeinsamen verborgenen Raum. Es verfügt über 26,4 Milliarden Parameter (3,4 Milliarden aktiv bei 1 Durchlauf) und unterstützt NVFP4 und MXFP8-Zahlen. Es verarbeitet UTF-8-kodierten Text und pixelbasierte Bildeingaben (40px bis 4096px pro Dimension) mit einem Kontextfenster von bis zu 1 Million Tokens.

Die Trainingsdaten für TML-d24-varloop-research umfassen eine breite Palette von Inhaltstypen aus öffentlich verfügbaren Quellen, Drittanbieterakquisitionen und intern/synthetisch generierten Daten. Die Datenaufbereitung umfasste Reinigung, Duplikatsentfernung und Filterung, um Qualität und Sicherheit zu gewährleisten. Das Modell teilt sein Vortraining und die erste Phase des Midtrainings mit Inkling 2 Mini, weicht jedoch in späteren Phasen ab, insbesondere in seinem variablen Schleifentraining, bei dem 1 bis 5 Durchläufe ausgewählt wurden. Während die Bewertungen eine unterschiedliche Leistung im Vergleich zu Inkling 2 Mini über Benchmarks wie Agentic Coding, Vision Interpretation und Reasoning zeigen, ist es hauptsächlich als Forschungsartefakt gedacht und wird aufgrund potenziell unvorhersehbaren Verhaltens bei unterschiedlichen Durchlaufzahlen und allgemeinen Einschränkungen, die für Grundmodelle typisch sind, wie Halluzinationen und Vorurteile aus den Trainingsdaten, nicht für den Produktionsgebrauch empfohlen.

  • KategorieKI-Modelle & LLMs
  • PreismodellOpen Source
  • BereitstellungLäuft lokal
  • PlattformenWeb

  • Multimodale Eingabe: Akzeptiert sowohl Text- als auch Bildeingaben

  • Textausgabe: Generiert Texte basierend auf Eingaben

  • Variable Schleifen: Anzahl der geschleiften Schichten kann zur Inferenzzeit gewählt werden

  • Offene Gewichte: Zum Download verfügbar zur Unterstützung der Forschung

  • 26,4 Milliarden Parameter: Großes Modell mit 3,4 Milliarden aktiven Parametern bei 1 Durchlauf

  • Mehrsprachige Unterstützung: Allgemeine Unterstützung für mehrere Sprachen

  • Apache 2.0 Lizenz: Open-Source-Lizenzierung für Nutzung und Modifikation

  • Unterstützung für lokale Inferenz: Kompatibel mit Hugging Face, SGLang, vLLM, TokenSpeed, NVIDIA Dynamo, Unsloth, llama.cpp, Llama App, Ollama, Exo Labs

  • Unterstützung für Nachtraining: Kann mit Miles und SkyRL nachtrainiert werden

  • Spärliche Mixture-of-Experts (MoE): Nutzt MoE-Feed-Forward-Schichten

  • Hybride Aufmerksamkeit: Kombiniert lokale und globale Aufmerksamkeits-Schichten

  • Native Multimodalität: Bilder werden über Vision-Transformer kodiert und gemeinsam mit Text verarbeitet

  • Hohes Kontextfenster: Unterstützt bis zu 1 Million Tokens

  • Gemischte Präzisionszahlen: Unterstützt NVFP4 und MXFP8

  1. Gewichte herunterladen: Greifen Sie über Hugging Face auf die Modellgewichte zu.

  2. Hardware vorbereiten: Stellen Sie sicher, dass eine einzelne Maschine mit mindestens 32 GB GPU- oder einheitlichem Speicher verfügbar ist.

  3. Software installieren: Richten Sie die erforderlichen Inferenz-Frameworks wie Hugging Face, SGLang oder vLLM sowie deren Abhängigkeiten ein.

  4. Modell konfigurieren: Laden Sie den 20 GB-Checkpoint in Ihr gewähltes Framework.

  5. Schleifendurchläufe festlegen: Wählen Sie die gewünschte Anzahl an geschleiften Schichten für die Inferenz.

  6. Eingaben bereitstellen: Füttern Sie UTF-8-kodierten Text und pixelbasierte Bilder (40px-4096px Dimensionen) in das Modell ein.

  7. Ausgabe generieren: Erhalten Sie Texteingaben vom Modell basierend auf den bereitgestellten Eingaben.

  • Multimodale Forschung
  • Studien zu geschleiften Modellen
  • Textgenerierung aus Bildern
  • Mehrsprachige Textverarbeitung
  • Entwicklung von Modellen mit offenen Gewichten
  • Bereitstellung lokaler Inferenz
  • Modellfeinabstimmung

TML-d24-varloop-research Bewertungen

Wird geladen...

Beliebte KI-Tools wie TML-d24-varloop-research

Inkling 2 Mini ist ein vielseitiges multimodales Modell, das von Thinking Machines Lab, Inc. entwickelt wurde. Es akzeptiert sowohl Text- als auch Bildinputs, um Textausgaben zu…

KI-Modelle & LLMs

Platz 39 in LLMs

Tool ansehen

Vielseitiges multimodales Modell, das von Thinking Machines Lab, Inc. entwickelt wurde. Es akzeptiert sowohl Text- als auch Bildinputs, um Textausgaben zu…Inkling 2 Mini ist ein vielseitiges multimodales Modell, das von Thinking Machines Lab, Inc. entwickelt wurde. Es akzeptiert sowohl Text- als auch Bildinputs, um Textausgaben zu…

KI-Modelle & LLMs
Platz 39 in LLMs

Intern Large Models, entwickelt vom Shanghai AI Laboratory, bietet Open-Source LLMs und MLLMs. Die Suite umfasst Modelle wie InternVL und InternLM-XComposer sowie eine Toolchain…

KI-Modelle & LLMs

Platz 49 in LLMs

Tool ansehen

Intern Large Models, entwickelt vom Shanghai AI Laboratory, bietet Open-Source LLMs und MLLMs. Die Suite umfasst Modelle wie InternVL und InternLM-XComposer sowie eine Toolchain…

KI-Modelle & LLMs
Platz 49 in LLMs

Inkling 2 Small ist ein vielseitiges multimodales Modell, das sowohl Text- als auch Bildinputs akzeptiert und Textausgaben generiert. Es unterstützt Englisch und andere Sprachen…

KI-Modelle & LLMs

Platz 34 in LLMs

Tool ansehen

Vielseitiges multimodales Modell, das sowohl Text- als auch Bildinputs akzeptiert und Textausgaben generiert. Es unterstützt Englisch und andere Sprachen…Inkling 2 Small ist ein vielseitiges multimodales Modell, das sowohl Text- als auch Bildinputs akzeptiert und Textausgaben generiert. Es unterstützt Englisch und andere Sprachen…

KI-Modelle & LLMs
Platz 34 in LLMs

Multimodales KI-Modell mit 975B Parametern, das für Entwickler konzipiert wurde. Es akzeptiert Text-, Bild- und Audioeingaben und generiert Textausgaben für…Inkling ist ein multimodales KI-Modell mit 975B Parametern, das für Entwickler konzipiert wurde. Es akzeptiert Text-, Bild- und Audioeingaben und generiert Textausgaben für…

EmpfohlenKI-Modelle & LLMs
Top 5 KI-Modelle ansehen

SenseNova-Loop-9B-Preview ist ein multimodales Sprachmodell, das für Langzeitkontexte und agentische Arbeitsabläufe entwickelt wurde. Es verarbeitet sowohl Text als auch Bilder,…

KI-Modelle & LLMs

Platz 85 in LLMs

Tool ansehen

Multimodales Sprachmodell, das für Langzeitkontexte und agentische Arbeitsabläufe entwickelt wurde. Es verarbeitet sowohl Text als auch Bilder,…SenseNova-Loop-9B-Preview ist ein multimodales Sprachmodell, das für Langzeitkontexte und agentische Arbeitsabläufe entwickelt wurde. Es verarbeitet sowohl Text als auch Bilder,…

KI-Modelle & LLMs
Platz 85 in LLMs

Inkling-Small ist ein vielseitiges multimodales Modell, das Text-, Bild- und Audioeingaben verarbeitet, um Texte auszugeben. Es unterstützt Entwickler bei der Erstellung von…

KI-Modelle & LLMs

Platz 27 in LLMs

Tool ansehen

Vielseitiges multimodales Modell, das Text-, Bild- und Audioeingaben verarbeitet, um Texte auszugeben. Es unterstützt Entwickler bei der Erstellung von…Inkling-Small ist ein vielseitiges multimodales Modell, das Text-, Bild- und Audioeingaben verarbeitet, um Texte auszugeben. Es unterstützt Entwickler bei der Erstellung von…

KI-Modelle & LLMs
Platz 27 in LLMs

Llama-4-Scout-17B-16E-Instruct ist ein multimodales KI-Modell, das von Meta entwickelt wurde. Es nutzt eine Mischung-von-Experten-Architektur, um fortschrittliche Text- und…

KI-Modelle & LLMs
Tool ansehen

Multimodales KI-Modell, das von Meta entwickelt wurde. Es nutzt eine Mischung-von-Experten-Architektur, um fortschrittliche Text- und…Llama-4-Scout-17B-16E-Instruct ist ein multimodales KI-Modell, das von Meta entwickelt wurde. Es nutzt eine Mischung-von-Experten-Architektur, um fortschrittliche Text- und…

KI-Modelle & LLMs
Top 5 KI-Modelle ansehen

Die BigModel Plattform bietet eine umfassende Suite von KI-Modellen, einschließlich LLMs und multimodalen visuellen Modellen, die darauf ausgelegt sind, KI-Technologie mit…

KI-Modelle & LLMs

Platz 25 in KI-Modelle & LLMs

Tool ansehen

Die BigModel Plattform bietet eine umfassende Suite von KI-Modellen, einschließlich LLMs und multimodalen visuellen Modellen, die darauf ausgelegt sind, KI-Technologie mit…

KI-Modelle & LLMs
Platz 25 in KI-Modelle & LLMs
1 von 8