Aller au contenu principal
ToolPotion
Conseiller IA
Soumettre

Langfuse AI Gateway

Langfuse AI Gateway est une plateforme d'ingénierie AI open-source conçue pour gérer et observer les appels et agents AI. Basée sur OpenTelemetry, elle offre des capacités d'observabilité des agents, d'évaluations et de gestion des prompts/compétences. Les utilisateurs peuvent auto-héberger la passerelle ou utiliser Langfuse Cloud pour leurs besoins en infrastructure AI, garantissant un contrôle complet sur les opérations AI.

Voir le dépôt
Partager
Voir le dépôt
Partager

Langfuse AI Gateway est une plateforme d'ingénierie AI open-source qui fournit une solution unifiée pour gérer et observer les appels et agents AI. Elle est construite sur OpenTelemetry, une norme de l'industrie pour les données de télémétrie, garantissant une observabilité robuste et évolutive à travers toutes les interactions AI.

Lire la suite

Les fonctionnalités clés de Langfuse AI Gateway incluent l'observabilité des agents, qui permet aux développeurs de surveiller le comportement et la performance de leurs agents AI en temps réel. Cela est crucial pour le débogage, l'optimisation et la compréhension de la manière dont les agents interagissent avec divers modèles AI et sources de données. La plateforme prend également en charge des capacités d'évaluation complètes, permettant aux utilisateurs d'évaluer la qualité et l'efficacité de leurs modèles et prompts AI.

De plus, Langfuse AI Gateway offre des fonctionnalités de gestion des prompts et des compétences, fournissant un moyen structuré d'organiser, de versionner et de déployer des prompts et des compétences AI. Cela aide à maintenir la cohérence et à améliorer la réutilisabilité des composants AI à travers différents projets. La passerelle prend en charge divers fournisseurs AI, y compris Google Vertex AI, et permet des URL de base personnalisées et des en-têtes supplémentaires pour des services comme OpenAI et Azure.

Les utilisateurs ont la flexibilité de soit auto-héberger Langfuse AI Gateway, leur donnant un contrôle total sur leurs données et leur infrastructure, soit d'utiliser Langfuse Cloud pour une expérience de service géré. La plateforme est continuellement développée, avec des mises à jour récentes axées sur l'amélioration de la communication web HTTP/2, l'ajout de nouveaux fournisseurs de passerelle, l'amélioration de l'accessibilité des paramètres et la garantie de l'exactitude des coûts. C'est une solution robuste pour les développeurs et les organisations cherchant à rationaliser leurs flux de travail d'ingénierie AI et à obtenir des informations plus approfondies sur leurs systèmes AI.

  • CatégorieMLOps et déploiement de modèles
  • Modèle tarifaireOpen source
  • DéploiementAuto-hébergé, Cloud
  • PlateformesWeb

  • Plateforme d'ingénierie AI open-source

  • Fonctionnalité de passerelle AI

  • Observabilité des agents

  • Évaluations des modèles AI

  • Gestion des prompts

  • Gestion des compétences

  • Construit sur OpenTelemetry

  • Prend en charge Google Vertex AI en tant que fournisseur

  • URLs de base personnalisées pour OpenAI et Azure

  • En-têtes supplémentaires pour OpenAI et Azure

  • Option d'auto-hébergement

  • Option Langfuse Cloud

  • Support HTTP/2 pour le Web

  • Mécanisme de réessai de résolution immédiate

  • Exactitude des coûts pour l'analytique

  1. Cloner le dépôt : Obtenez le code source de Langfuse AI Gateway en clonant le dépôt GitHub.

  2. Installer les dépendances : Configurez les dépendances nécessaires en Rust et autres dépendances du projet comme spécifié dans les fichiers du projet.

  3. Configurer la passerelle : Personnalisez les paramètres de la passerelle, y compris les points de terminaison des fournisseurs AI et les détails d'authentification.

  4. Construire le service : Compilez le service Rust en utilisant les scripts de construction fournis ou le Dockerfile.

  5. Exécuter la passerelle : Exécutez le service de la passerelle AI, soit localement, soit déployé sur votre infrastructure.

  6. Intégrer les appels AI : Dirigez vos appels AI à travers Langfuse AI Gateway pour activer l'observabilité et la gestion.

  • Surveillance des agents AI
  • Évaluation des modèles AI
  • Gestion de l'ingénierie des prompts
  • Routage centralisé des appels AI
  • Intégration API AI personnalisée
  • Infrastructure AI auto-hébergée
  • Optimisation des coûts AI

Chez Langfuse

Une fonctionnalité de Langfuse.

Avis sur Langfuse AI Gateway

Chargement...

Outils IA populaires comme Langfuse AI Gateway

Langfuse

Dépôts GitHub d'IA

Langfuse est une plateforme d'ingénierie AI open-source offrant des évaluations LLM, de l'observabilité, des métriques, la gestion des prompts, et plus encore. Elle s'intègre avec…

MLOps et déploiement de modèles

N°26 en Dépôts GitHub d'IA

Voir l'outil

Dépôts GitHub d'IA

Plateforme d'ingénierie AI open-source offrant des évaluations LLM, de l'observabilité, des métriques, la gestion des prompts, et plus encore. Elle s'intègre avec…Langfuse est une plateforme d'ingénierie AI open-source offrant des évaluations LLM, de l'observabilité, des métriques, la gestion des prompts, et plus encore. Elle s'intègre avec…

MLOps et déploiement de modèles
N°26 en Dépôts GitHub d'IA

Plateforme AI open source conçue pour les agents, les LLMs et les modèles ML. Elle permet aux équipes de déboguer, évaluer, surveiller et optimiser efficacement les…MLflow est une plateforme AI open source conçue pour les agents, les LLMs et les modèles ML. Elle permet aux équipes de déboguer, évaluer, surveiller et optimiser efficacement les…

En vedetteMLOps et déploiement de modèles
N°12 en Frameworks IA

LangSmith est une plateforme d'observabilité des agents IA et des LLM qui offre une visibilité complète sur le comportement des agents. Elle aide à déboguer les agents, à…

MLOps et déploiement de modèles

N°37 en Plateformes IA

Voir l'outil

Plateforme d'observabilité des agents IA et des LLM qui offre une visibilité complète sur le comportement des agents. Elle aide à déboguer les agents, à…LangSmith est une plateforme d'observabilité des agents IA et des LLM qui offre une visibilité complète sur le comportement des agents. Elle aide à déboguer les agents, à…

En vedetteMLOps et déploiement de modèles
N°37 en Plateformes IA

RagaAI Catalyst

Dépôts GitHub d'IA

RagaAI Catalyst est un SDK Python conçu pour l'observabilité, la surveillance et l'évaluation de l'IA. Il offre des fonctionnalités telles que le traçage d'agents et d'outils, le…

MLOps et déploiement de modèles

N°148 en MLOps et déploiement de modèles

Voir l'outil

Dépôts GitHub d'IA

SDK Python conçu pour l'observabilité, la surveillance et l'évaluation de l'IA. Il offre des fonctionnalités telles que le traçage d'agents et d'outils, le…RagaAI Catalyst est un SDK Python conçu pour l'observabilité, la surveillance et l'évaluation de l'IA. Il offre des fonctionnalités telles que le traçage d'agents et d'outils, le…

MLOps et déploiement de modèles
N°148 en MLOps et déploiement de modèles

HoneyHive

Applications IA

HoneyHive fournit une couche d'observabilité pour les agents IA en production, unifiant la surveillance et l'évaluation. Elle permet des boucles d'amélioration continue,…

MLOps et déploiement de modèles

N°32 pour Ingénieurs en prompts

Voir l'outil

Applications IA

Fournit une couche d'observabilité pour les agents IA en production, unifiant la surveillance et l'évaluation. Elle permet des boucles d'amélioration continue,…HoneyHive fournit une couche d'observabilité pour les agents IA en production, unifiant la surveillance et l'évaluation. Elle permet des boucles d'amélioration continue,…

En vedetteMLOps et déploiement de modèles
N°32 pour Ingénieurs en prompts

OpenLIT

Applications IA

OpenLIT est une plateforme open-source pour l'ingénierie IA, offrant une observabilité pour les applications GenAI et LLM. Elle propose le traçage, l'évaluation et la gestion des…

MLOps et déploiement de modèles

N°38 pour Ingénieurs en prompts

Voir l'outil

Applications IA

Plateforme open-source pour l'ingénierie IA, offrant une observabilité pour les applications GenAI et LLM. Elle propose le traçage, l'évaluation et la gestion des…OpenLIT est une plateforme open-source pour l'ingénierie IA, offrant une observabilité pour les applications GenAI et LLM. Elle propose le traçage, l'évaluation et la gestion des…

MLOps et déploiement de modèles
N°38 pour Ingénieurs en prompts

Opik par Comet

Applications IA

Opik est une plateforme d'observabilité AI open-source qui aide les développeurs à tester, expédier et améliorer continuellement des systèmes agentiques. Elle fournit des outils…

MLOps et déploiement de modèles
Voir l'outil

Applications IA

Plateforme d'observabilité AI open-source qui aide les développeurs à tester, expédier et améliorer continuellement des systèmes agentiques. Elle fournit des outils…Opik est une plateforme d'observabilité AI open-source qui aide les développeurs à tester, expédier et améliorer continuellement des systèmes agentiques. Elle fournit des outils…

MLOps et déploiement de modèles
Voir le Top 250 Applications IA

Langtrace

Applications IA

Langtrace est une plateforme d'observabilité et d'évaluation open-source conçue pour aider les développeurs à transformer les prototypes d'IA en produits de niveau entreprise.…

MLOps et déploiement de modèles

N°109 en MLOps et déploiement de modèles

Voir l'outil

Applications IA

Plateforme d'observabilité et d'évaluation open-source conçue pour aider les développeurs à transformer les prototypes d'IA en produits de niveau entreprise.…Langtrace est une plateforme d'observabilité et d'évaluation open-source conçue pour aider les développeurs à transformer les prototypes d'IA en produits de niveau entreprise.…

MLOps et déploiement de modèles
N°109 en MLOps et déploiement de modèles
1 sur 8