Description
MLflow est la plus grande plateforme d'ingénierie AI open source adaptée aux agents, aux grands modèles de langage (LLMs) et aux modèles d'apprentissage automatique (ML). Elle permet aux équipes de toutes tailles de déboguer, évaluer, surveiller et optimiser des applications AI de qualité production tout en gérant efficacement les coûts et en contrôlant l'accès aux modèles et aux données.
Avec plus de 30 millions de téléchargements mensuels, MLflow est utilisé par des milliers d'organisations pour déployer en toute confiance l'AI en production. Son ensemble de fonctionnalités complet comprend l'observabilité de qualité production, l'évaluation, la gestion des prompts et l'optimisation, ainsi qu'une passerelle AI pour gérer les coûts et l'accès aux modèles. La plateforme prend en charge un large éventail d'intégrations, y compris OpenAI, Claude, Gemini et LangChain, entre autres.
Les capacités d'observabilité de MLflow permettent aux utilisateurs de capturer des traces complètes de leurs applications LLM et agents, fournissant des informations approfondies sur leur comportement. Basé sur OpenTelemetry, il prend en charge tout fournisseur de LLM et cadre d'agent, permettant aux utilisateurs de surveiller efficacement la qualité de production, les coûts et la sécurité.
Les fonctionnalités d'évaluation permettent des évaluations systématiques, le suivi des métriques de qualité au fil du temps et l'identification des régressions avant qu'elles n'atteignent la production. Les utilisateurs peuvent choisir parmi plus de 50 métriques intégrées et juges LLM ou définir les leurs via des API flexibles. De plus, MLflow détecte automatiquement les problèmes dans les traces à l'aide d'analyses alimentées par l'AI à travers diverses dimensions, y compris la justesse, la latence, l'exécution, l'adhérence, la pertinence et la sécurité.
Pour la gestion des prompts, MLflow permet aux utilisateurs de versionner, tester et déployer des prompts avec un suivi complet de la lignée. Il optimise également les prompts en utilisant des algorithmes de pointe pour améliorer les performances. La passerelle API unifiée simplifie les interactions avec tous les fournisseurs de LLM, gérant les limites de taux et contrôlant les coûts via une interface compatible avec OpenAI.
Le serveur d'agents MLflow facilite le déploiement d'agents en production avec une seule commande, offrant une solution d'hébergement basée sur FastAPI avec validation automatique des requêtes et traçage intégré. En tant que plateforme entièrement open source sous la licence Apache 2.0, MLflow est gratuite à utiliser sans verrouillage fournisseur, la rendant compatible avec n'importe quel cloud, cadre ou outil. Sa préparation à la production est validée par son utilisation à grande échelle par des entreprises du Fortune 500 et de nombreuses équipes dans le monde entier.
Fonctionnalités principales de MLflow
Open Source
Prêt pour la Production
Observabilité
Évaluation Automatisée des LLM
Gestion des Prompts
Passerelle AI
Serveur d'Agents
Intégrations avec plus de 100 cadres AI
Collecte de Retours Humains
Suivi des Coûts
Premiers pas avec MLflow
Capturer des traces : Ajoutez un code minimal pour commencer à capturer des traces, des métriques et des paramètres.
Exécuter le code : Exécutez votre code comme d'habitude tout en explorant les traces et les métriques dans l'interface MLflow.
Déployer des agents : Utilisez une seule commande pour déployer des agents en production.
Surveiller les applications : Utilisez les fonctionnalités d'observabilité pour suivre la qualité de production et les coûts.
Cas d'utilisation de MLflow
- Surveillance des Applications AI
- Évaluation des LLM
- Optimisation des Prompts
- Déploiement d'Agents
- Gestion des Coûts
