Pular para o conteúdo principal
ToolPotion
Consultor de IA
Enviar

Langfuse AI Gateway

Langfuse AI Gateway é uma plataforma de engenharia de IA de código aberto projetada para gerenciar e observar chamadas e agentes de IA. Construída sobre o OpenTelemetry, oferece capacidades para observabilidade de agentes, avaliações e gerenciamento de prompts/habilidades. Os usuários podem auto-hospedar o gateway ou utilizar o Langfuse Cloud para suas necessidades de infraestrutura de IA, garantindo controle abrangente sobre as operações de IA.

Ver repositório
Compartilhar
Ver repositório
Compartilhar

Langfuse AI Gateway é uma plataforma de engenharia de IA de código aberto que fornece uma solução unificada para gerenciar e observar chamadas e agentes de IA. É construída sobre o OpenTelemetry, um padrão da indústria para dados de telemetria, garantindo observabilidade robusta e escalável em todas as interações de IA.

Ler mais

As funcionalidades principais do Langfuse AI Gateway incluem a observabilidade de agentes, que permite aos desenvolvedores monitorar o comportamento e o desempenho de seus agentes de IA em tempo real. Isso é crucial para depuração, otimização e compreensão de como os agentes interagem com vários modelos de IA e fontes de dados. A plataforma também suporta capacidades de avaliação abrangentes, permitindo que os usuários avaliem a qualidade e a eficácia de seus modelos de IA e prompts.

Além disso, o Langfuse AI Gateway oferece recursos de gerenciamento de prompts e habilidades, fornecendo uma maneira estruturada de organizar, versionar e implantar prompts e habilidades de IA. Isso ajuda a manter a consistência e a melhorar a reutilização de componentes de IA em diferentes projetos. O gateway suporta vários provedores de IA, incluindo o Google Vertex AI, e permite URLs base personalizadas e cabeçalhos extras para serviços como OpenAI e Azure.

Os usuários têm a flexibilidade de auto-hospedar o Langfuse AI Gateway, dando-lhes controle total sobre seus dados e infraestrutura, ou usar o Langfuse Cloud para uma experiência de serviço gerenciado. A plataforma está em desenvolvimento contínuo, com atualizações recentes focadas em melhorar a comunicação web HTTP/2, adicionar novos provedores de gateway, aprimorar a acessibilidade das configurações e garantir a precisão dos custos. É uma solução robusta para desenvolvedores e organizações que buscam otimizar seus fluxos de trabalho de engenharia de IA e obter insights mais profundos sobre seus sistemas de IA.

  • CategoriaMLOps e implantação de modelos
  • Modelo de preçosCódigo aberto
  • ImplantaçãoAuto-hospedado, Nuvem
  • PlataformasWeb

  • Plataforma de engenharia de IA de código aberto

  • Funcionalidade de Gateway de IA

  • Observabilidade de agentes

  • Avaliações de modelos de IA

  • Gerenciamento de prompts

  • Gerenciamento de habilidades

  • Construído sobre OpenTelemetry

  • Suporta Google Vertex AI como provedor

  • URLs base personalizadas para OpenAI e Azure

  • Cabeçalhos extras para OpenAI e Azure

  • Opção de auto-hospedagem

  • Opção Langfuse Cloud

  • Suporte a HTTP/2 para Web

  • Mecanismo de tentativa de resolução imediata

  • Precisão de custos para análises

  1. Clonar Repositório: Obtenha o código-fonte do Langfuse AI Gateway clonando o repositório do GitHub.

  2. Instalar Dependências: Configure as dependências necessárias do Rust e outros projetos conforme especificado nos arquivos do projeto.

  3. Configurar Gateway: Personalize as configurações do gateway, incluindo endpoints de provedores de IA e detalhes de autenticação.

  4. Construir Serviço: Compile o serviço Rust usando os scripts de construção ou Dockerfile fornecidos.

  5. Executar Gateway: Execute o serviço do AI Gateway, localmente ou implantado em sua infraestrutura.

  6. Integrar Chamadas de IA: Roteie suas chamadas de IA através do Langfuse AI Gateway para habilitar observabilidade e gerenciamento.

  • Monitoramento de Agentes de IA
  • Avaliação de Modelos de IA
  • Gerenciamento de Engenharia de Prompts
  • Roteamento Centralizado de Chamadas de IA
  • Integração Personalizada de API de IA
  • Infraestrutura de IA Auto-Hospedada
  • Otimização de Custos de IA

De Langfuse

Um recurso de Langfuse.

Avaliações de Langfuse AI Gateway

Carregando...

Ferramentas de IA populares como Langfuse AI Gateway

Langfuse

Repositórios de IA no GitHub

Langfuse é uma plataforma de engenharia AI de código aberto que oferece avaliações de LLM, observabilidade, métricas, gerenciamento de prompts e muito mais. Integra-se com…

MLOps e implantação de modelos

Nº 27 em Repositórios de IA no GitHub

Ver ferramenta

Repositórios de IA no GitHub

Plataforma de engenharia AI de código aberto que oferece avaliações de LLM, observabilidade, métricas, gerenciamento de prompts e muito mais. Integra-se com…Langfuse é uma plataforma de engenharia AI de código aberto que oferece avaliações de LLM, observabilidade, métricas, gerenciamento de prompts e muito mais. Integra-se com…

MLOps e implantação de modelos
Nº 27 em Repositórios de IA no GitHub

Plataforma de IA open-source projetada para agentes, LLMs e modelos de ML. Ela permite que equipes depurem, avaliem, monitorem e otimizem aplicações de IA de forma…MLflow é uma plataforma de IA open-source projetada para agentes, LLMs e modelos de ML. Ela permite que equipes depurem, avaliem, monitorem e otimizem aplicações de IA de forma…

DestaqueMLOps e implantação de modelos
Nº 12 em Frameworks de IA

LangSmith é uma plataforma de observabilidade de agentes de IA e LLM que oferece visibilidade completa do comportamento do agente. Ajuda a depurar agentes, identificar falhas e…

MLOps e implantação de modelos

Nº 36 em Plataformas de IA

Ver ferramenta

Plataforma de observabilidade de agentes de IA e LLM que oferece visibilidade completa do comportamento do agente. Ajuda a depurar agentes, identificar falhas e…LangSmith é uma plataforma de observabilidade de agentes de IA e LLM que oferece visibilidade completa do comportamento do agente. Ajuda a depurar agentes, identificar falhas e…

DestaqueMLOps e implantação de modelos
Nº 36 em Plataformas de IA

RagaAI Catalyst

Repositórios de IA no GitHub

RagaAI Catalyst é um SDK Python projetado para observabilidade, monitoramento e avaliação de IA. Oferece recursos como rastreamento de agentes e ferramentas, depuração de sistemas…

MLOps e implantação de modelos

Nº 155 em MLOps e implantação de modelos

Ver ferramenta

Repositórios de IA no GitHub

SDK Python projetado para observabilidade, monitoramento e avaliação de IA. Oferece recursos como rastreamento de agentes e ferramentas, depuração de sistemas…RagaAI Catalyst é um SDK Python projetado para observabilidade, monitoramento e avaliação de IA. Oferece recursos como rastreamento de agentes e ferramentas, depuração de sistemas…

MLOps e implantação de modelos
Nº 155 em MLOps e implantação de modelos

HoneyHive

Apps de IA

HoneyHive fornece uma camada de observabilidade para agentes de IA em produção, unificando monitoramento e avaliação. Permite loops de melhoria contínua, permitindo que as equipes…

MLOps e implantação de modelos

Nº 32 para Engenheiros de Prompt

Ver ferramenta

Apps de IA

Fornece uma camada de observabilidade para agentes de IA em produção, unificando monitoramento e avaliação. Permite loops de melhoria contínua, permitindo que as equipes…HoneyHive fornece uma camada de observabilidade para agentes de IA em produção, unificando monitoramento e avaliação. Permite loops de melhoria contínua, permitindo que as equipes…

DestaqueMLOps e implantação de modelos
Nº 32 para Engenheiros de Prompt

OpenLIT

Apps de IA

OpenLIT é uma plataforma open-source para engenharia de IA, fornecendo observabilidade para aplicações GenAI e LLM. Oferece tracing, avaliação e gerenciamento de prompts,…

MLOps e implantação de modelos

Nº 38 para Engenheiros de Prompt

Ver ferramenta

Apps de IA

Plataforma open-source para engenharia de IA, fornecendo observabilidade para aplicações GenAI e LLM. Oferece tracing, avaliação e gerenciamento de prompts,…OpenLIT é uma plataforma open-source para engenharia de IA, fornecendo observabilidade para aplicações GenAI e LLM. Oferece tracing, avaliação e gerenciamento de prompts,…

MLOps e implantação de modelos
Nº 38 para Engenheiros de Prompt

Opik by Comet

Apps de IA

Opik é uma plataforma de observabilidade de IA de código aberto que auxilia desenvolvedores a testar, enviar e melhorar continuamente sistemas agentes. Ela fornece ferramentas…

MLOps e implantação de modelos
Ver ferramenta

Apps de IA

Plataforma de observabilidade de IA de código aberto que auxilia desenvolvedores a testar, enviar e melhorar continuamente sistemas agentes. Ela fornece ferramentas…Opik é uma plataforma de observabilidade de IA de código aberto que auxilia desenvolvedores a testar, enviar e melhorar continuamente sistemas agentes. Ela fornece ferramentas…

MLOps e implantação de modelos
Ver o Top 250 de Apps de IA

Langtrace

Apps de IA

Langtrace é uma plataforma de observabilidade e avaliação de código aberto projetada para ajudar desenvolvedores a transformar protótipos de IA em produtos de nível empresarial.…

MLOps e implantação de modelos

Nº 110 em MLOps e implantação de modelos

Ver ferramenta

Apps de IA

Plataforma de observabilidade e avaliação de código aberto projetada para ajudar desenvolvedores a transformar protótipos de IA em produtos de nível empresarial.…Langtrace é uma plataforma de observabilidade e avaliação de código aberto projetada para ajudar desenvolvedores a transformar protótipos de IA em produtos de nível empresarial.…

MLOps e implantação de modelos
Nº 110 em MLOps e implantação de modelos
1 de 8