Zum Hauptinhalt springen
ToolPotion
KI-Berater
Einreichen

ERNIE-5.5-Flash-Base-BF16

ERNIE-5.5-Flash-Base-BF16 ist ein effizientes sparsames Mixture-of-Experts (MoE) Sprachmodell mit insgesamt 280 Milliarden Parametern. Vortrainiert auf 33,5 Billionen Tokens unterstützt es Fine-Tuning und Inferenz mit einem Kontext von 1 Million Tokens. Dieses Modell ist für verschiedene Anwendungen konzipiert, einschließlich Domänenanpassung, Instruktions-Tuning und Forschung im Bereich Reinforcement Learning, und bietet starke Leistungen über mehrere Benchmarks hinweg.

URL besuchen
Teilen
Screenshot von ERNIE-5.5-Flash-Base-BF16
Screenshot von ERNIE-5.5-Flash-Base-BF16

ERNIE-5.5-Flash-Base-BF16 ist ein anspruchsvolles sparsames Mixture-of-Experts (MoE) Sprachmodell, das von Baidu entwickelt wurde. Es verfügt über insgesamt 280 Milliarden Parameter, von denen 14 Milliarden pro Token aktiviert werden, was es äußerst effizient für komplexe Sprachaufgaben macht. Das Modell wurde von Grund auf auf einem umfangreichen Datensatz von 33,5 Billionen Tokens vortrainiert und nutzt einen Trainingskontext von bis zu 128.000 Tokens. Für Fine-Tuning und Inferenz unterstützt es eine beeindruckende Kontextlänge von 1 Million Tokens, die ein tiefes Verständnis und die Generierung von Langtextinhalten ermöglicht.

Weiterlesen

Mit Effizienz als Kernprinzip überarbeitet ERNIE 5.5 Flash jede Komponente, von Aufmerksamkeitsmechanismen und Residualverbindungen bis hin zu MoE-Schichten und dem Ausgabekopf. Dieser ganzheitliche Ansatz gewährleistet optimale Leistung bei der Verwaltung von Rechenressourcen, KV-Cache und Kosten für Langkontexte. Die Vortrainingsdaten betonen Fähigkeiten, die für fortgeschrittene Anwendungen entscheidend sind, wie das Verständnis von Code im Repository-Maßstab und das Verständnis von Langkontexten, was Entwicklern ermöglicht, auf seinen allgemeinen Fähigkeiten für vielfältige Anwendungsfälle aufzubauen.

ERNIE-5.5-Flash-Base-BF16 stellt den Checkpoint am Ende des Vortrainings dar und dient als grundlegendes Modell vor allen Zwischen- oder Nachtrainingsphasen. Dies macht es zu einem idealen Ausgangspunkt für Forscher und Entwickler, die sich mit Domänenanpassung, Instruktions-Tuning und Reinforcement Learning beschäftigen. Das Modell hat in einer einheitlichen Evaluierungs-Pipeline starke Ergebnisse gezeigt und in Benchmarks zu Wissen, Schlussfolgerungen, Mathematik, Code, mehrsprachigen Aufgaben und dem Verständnis von Langkontexten hervorragend abgeschnitten.

Die Architektur umfasst ein 280B-A14B Hybrid-Attention MoE mit 43 Schichten, darunter 1 dichte FFN und 42 Multi-Router Latent MoE-Schichten. Es verfügt über 37 Heavily Compressed Attention (HCA) Schichten und 6 Multi-head Latent Attention (MLA + DSA) Schichten mit sparsamer Aufmerksamkeit. Das Modell nutzt 512 geroutete Experten (Top-10) plus 1 gemeinsamen Experten pro MoE-Schicht. Innovationen wie Low-Rank Gated Attention, Virtual Head Attention (VHA), Multi-Router Latent MoE, ECHO, manifold-constrained Hyper-Connections (mHC) und MultiMax Output Head tragen zu seinen fortschrittlichen Fähigkeiten und seiner Effizienz bei. Der Tokenizer unterstützt etwa 200.000 Einträge und tokenisiert Zahlen von rechts nach links in Gruppen von bis zu drei Ziffern.

Die Bereitstellung wird mit SGLang und vLLM unterstützt, was eine Produktionsbereitstellung mit Kontextlängen von bis zu 1.048.576 Tokens ermöglicht. Das Modell ist unter der ERNIE 5.5 Flash Base Model License Agreement v1.0 verfügbar.

  • KategorieKI-Modelle & LLMs
  • BereitstellungCloud
  • PlattformenWeb

  • 280 Milliarden Gesamtparameter

  • 14 Milliarden aktivierte Parameter pro Token

  • Vortrainiert auf 33,5 Billionen Tokens

  • Training Kontext bis zu 128.000 Tokens

  • Fine-Tuning und Inferenz unterstützen 1 Million-Token Kontext

  • Effiziente sparsames Mixture-of-Experts (MoE) Architektur

  • Hybrid-Attention MoE mit 43 Schichten

  • 37 Heavily Compressed Attention (HCA) Schichten

  • 6 Multi-head Latent Attention (MLA + DSA) Schichten

  • 512 geroutete Experten (Top-10) plus 1 gemeinsamer Experte pro MoE-Schicht

  • Low-Rank Gated Attention und Virtual Head Attention (VHA)

  • Multi-Router Latent MoE für präzise Expertenauswahl

  • ECHO für Multi-Horizon-Verlust und spekulative Dekodierung

  • Manifold-constrained Hyper-Connections (mHC) für Signalübertragung

  • MultiMax Output Head für schärfere Wortschatzverteilung

  • Etwa 200.000-Eintrag BPE-Tokenizer

  • Unterstützung für SGLang und vLLM für Produktionsbereitstellung

  1. Zugriff auf die Modellseite: Navigieren Sie zur ERNIE-5.5-Flash-Base-BF16 Seite auf Hugging Face.

  2. Dateien erkunden: Überprüfen Sie die auf der Seite verfügbaren Modell-Dateien und Dokumentationen.

  3. Modell herunterladen: Laden Sie den ERNIE-5.5-Flash-Base-BF16 Modell-Checkpoint herunter.

  4. vLLM und Plugin installieren: Installieren Sie vLLM und das ERNIE 5.5 Plugin für die Bereitstellung.

  5. Server starten: Verwenden Sie SGLang oder vLLM, um den Modellserver zu starten.

  6. Anfragen senden: Senden Sie Anfragen an den Completions-Endpunkt mit Tools wie curl für die Inferenz.

  • Textgenerierung
  • Domänenanpassung
  • Instruktions-Tuning
  • Forschung im Bereich Reinforcement Learning
  • Codeverständnis
  • Langkontextverständnis
  • Mehrsprachige Anwendungen
  • Schlussfolgerungsaufgaben
  • Agentische Anwendungen

Von Baidu

Ein Modell in Baidu Wenxin Assistant.

ERNIE-5.5-Flash-Base-BF16 Bewertungen

Wird geladen...

Beliebte KI-Tools wie ERNIE-5.5-Flash-Base-BF16

ERNIE-5.5-Flash-Base ist ein effizientes sparsames Mixture-of-Experts (MoE) Sprachmodell mit insgesamt 280 Milliarden Parametern, das für die Textgenerierung entwickelt wurde. Es…

KI-Modelle & LLMs
Tool ansehen

Effizientes sparsames Mixture-of-Experts (MoE) Sprachmodell mit insgesamt 280 Milliarden Parametern, das für die Textgenerierung entwickelt wurde. Es…ERNIE-5.5-Flash-Base ist ein effizientes sparsames Mixture-of-Experts (MoE) Sprachmodell mit insgesamt 280 Milliarden Parametern, das für die Textgenerierung entwickelt wurde. Es…

KI-Modelle & LLMs
Top 100 LLMs ansehen

DeepSeek-V4-Pro ist ein fortschrittliches KI-Modell, das für effiziente Kontextintelligenz mit Millionen von Tokens entwickelt wurde. Es verfügt über eine hybride…

KI-Modelle & LLMs
Tool ansehen

Fortschrittliches KI-Modell, das für effiziente Kontextintelligenz mit Millionen von Tokens entwickelt wurde. Es verfügt über eine hybride…DeepSeek-V4-Pro ist ein fortschrittliches KI-Modell, das für effiziente Kontextintelligenz mit Millionen von Tokens entwickelt wurde. Es verfügt über eine hybride…

EmpfohlenKI-Modelle & LLMs
Top 100 LLMs ansehen

DeepSeek-V3 ist ein Mixture-of-Experts-Sprachmodell mit 671 Milliarden Parametern, das für effiziente Inferenz und kosteneffektives Training entwickelt wurde. Es glänzt in…

KI-Modelle & LLMs

Platz 42 in LLMs

Tool ansehen

Mixture-of-Experts-Sprachmodell mit 671 Milliarden Parametern, das für effiziente Inferenz und kosteneffektives Training entwickelt wurde. Es glänzt in…DeepSeek-V3 ist ein Mixture-of-Experts-Sprachmodell mit 671 Milliarden Parametern, das für effiziente Inferenz und kosteneffektives Training entwickelt wurde. Es glänzt in…

EmpfohlenKI-Modelle & LLMs
Platz 42 in LLMs

DeepSeek-V4-Pro-DSpark ist ein fortschrittliches Sprachmodell mit einer hybriden Aufmerksamkeitsarchitektur und manifold-beschränkten Hyperverbindungen. Es unterstützt eine…

KI-Modelle & LLMs

Platz 71 in LLMs

Tool ansehen

Fortschrittliches Sprachmodell mit einer hybriden Aufmerksamkeitsarchitektur und manifold-beschränkten Hyperverbindungen. Es unterstützt eine…DeepSeek-V4-Pro-DSpark ist ein fortschrittliches Sprachmodell mit einer hybriden Aufmerksamkeitsarchitektur und manifold-beschränkten Hyperverbindungen. Es unterstützt eine…

KI-Modelle & LLMs
Platz 71 in LLMs

AliceAI-Foundation-80B-A3B-Base ist ein grundlegendes Sprachmodell mit einer hybriden Architektur und MoE-Schichten, das über 80 Milliarden Parameter verfügt. Es glänzt bei…

KI-Modelle & LLMs

Platz 29 in LLMs

Tool ansehen

Grundlegendes Sprachmodell mit einer hybriden Architektur und MoE-Schichten, das über 80 Milliarden Parameter verfügt. Es glänzt bei…AliceAI-Foundation-80B-A3B-Base ist ein grundlegendes Sprachmodell mit einer hybriden Architektur und MoE-Schichten, das über 80 Milliarden Parameter verfügt. Es glänzt bei…

KI-Modelle & LLMs
Platz 29 in LLMs

Ling-3.0-flash ist ein hybrides Denkmodell der nächsten Generation, das für Effizienz und Leistung entwickelt wurde. Mit 124 Milliarden Parametern glänzt es in der Argumentation,…

KI-Modelle & LLMs

Platz 65 in LLMs

Tool ansehen

Hybrides Denkmodell der nächsten Generation, das für Effizienz und Leistung entwickelt wurde. Mit 124 Milliarden Parametern glänzt es in der Argumentation,…Ling-3.0-flash ist ein hybrides Denkmodell der nächsten Generation, das für Effizienz und Leistung entwickelt wurde. Mit 124 Milliarden Parametern glänzt es in der Argumentation,…

KI-Modelle & LLMs
Platz 65 in LLMs

DeepSeek-V3

KI-GitHub-Repos

DeepSeek-V3 ist ein offenes Mixture-of-Experts-Sprachmodell von DeepSeek mit insgesamt 671 Milliarden Parametern und 37 Milliarden aktivierten pro Token. Es wurde auf 14,8…

KI-Modelle & LLMs
Tool ansehen

KI-GitHub-Repos

Offenes Mixture-of-Experts-Sprachmodell von DeepSeek mit insgesamt 671 Milliarden Parametern und 37 Milliarden aktivierten pro Token. Es wurde auf 14,8…DeepSeek-V3 ist ein offenes Mixture-of-Experts-Sprachmodell von DeepSeek mit insgesamt 671 Milliarden Parametern und 37 Milliarden aktivierten pro Token. Es wurde auf 14,8…

KI-Modelle & LLMs
Top 250 KI-GitHub-Repos ansehen

Kimi-K2-Instruct ist ein hochmodernes Mixture-of-Experts-Sprachmodell, das für fortgeschrittene KI-Aufgaben entwickelt wurde. Es zeichnet sich durch hervorragende Leistungen in…

KI-Modelle & LLMs

Platz 51 in LLMs

Tool ansehen

Hochmodernes Mixture-of-Experts-Sprachmodell, das für fortgeschrittene KI-Aufgaben entwickelt wurde. Es zeichnet sich durch hervorragende Leistungen in…Kimi-K2-Instruct ist ein hochmodernes Mixture-of-Experts-Sprachmodell, das für fortgeschrittene KI-Aufgaben entwickelt wurde. Es zeichnet sich durch hervorragende Leistungen in…

KI-Modelle & LLMs
Platz 51 in LLMs
1 von 8