Descrição
MLflow é a maior plataforma de engenharia de IA open-source voltada para agentes, modelos de linguagem de grande escala (LLMs) e modelos de aprendizado de máquina (ML). Ela capacita equipes de todos os tamanhos a depurar, avaliar, monitorar e otimizar aplicações de IA com qualidade de produção, enquanto gerencia efetivamente os custos e controla o acesso a modelos e dados.
Com mais de 30 milhões de downloads mensais, o MLflow é confiável por milhares de organizações para implantar IA em produção com confiança. Seu conjunto abrangente de recursos inclui observabilidade de qualidade de produção, avaliação, gerenciamento de prompts e otimização, além de um Gateway de IA para gerenciar custos e acesso a modelos. A plataforma suporta uma ampla gama de integrações, incluindo OpenAI, Claude, Gemini e LangChain, entre outros.
As capacidades de observabilidade do MLflow permitem que os usuários capturem rastros completos de suas aplicações LLM e agentes, fornecendo insights profundos sobre seu comportamento. Construído sobre OpenTelemetry, ele suporta qualquer provedor de LLM e framework de agente, permitindo que os usuários monitorem a qualidade de produção, custos e segurança de forma eficaz.
Os recursos de avaliação permitem avaliações sistemáticas, rastreando métricas de qualidade ao longo do tempo e identificando regressões antes que cheguem à produção. Os usuários podem escolher entre mais de 50 métricas integradas e juízes de LLM ou definir suas próprias através de APIs flexíveis. Além disso, o MLflow detecta automaticamente problemas em rastros usando análise impulsionada por IA em várias dimensões, incluindo correção, latência, execução, conformidade, relevância e segurança.
Para gerenciamento de prompts, o MLflow permite que os usuários versionem, testem e implantem prompts com rastreamento completo de linhagem. Ele também otimiza prompts usando algoritmos de ponta para melhorar o desempenho. O gateway de API unificado simplifica as interações com todos os provedores de LLM, gerenciando limites de taxa e controlando custos através de uma interface compatível com OpenAI.
O Servidor de Agentes do MLflow facilita a implantação de agentes em produção com um único comando, oferecendo uma solução de hospedagem baseada em FastAPI com validação automática de solicitações e rastreamento embutido. Como uma plataforma totalmente open-source sob a licença Apache 2.0, o MLflow é gratuito para uso, sem bloqueio de fornecedor, tornando-o compatível com qualquer nuvem, framework ou ferramenta. Sua prontidão para produção é validada pelo seu uso em larga escala por empresas da Fortune 500 e inúmeras equipes em todo o mundo.
Recursos principais de MLflow
Open Source
Pronto para Produção
Observabilidade
Avaliação Automatizada de LLM
Gerenciamento de Prompts
Gateway de IA
Servidor de Agentes
Integrações com mais de 100 frameworks de IA
Coleta de Feedback Humano
Rastreamento de Custos
Primeiros passos com MLflow
Capturar rastros: Adicione um código mínimo para começar a capturar rastros, métricas e parâmetros.
Executar código: Execute seu código como de costume enquanto explora rastros e métricas na interface do MLflow.
Implantar agentes: Use um único comando para implantar agentes em produção.
Monitorar aplicações: Utilize recursos de observabilidade para rastrear a qualidade de produção e custos.
Casos de uso de MLflow
- Monitoramento de Aplicações de IA
- Avaliação de LLM
- Otimização de Prompts
- Implantação de Agentes
- Gerenciamento de Custos
