Description
Ax permet aux développeurs de créer des applications IA robustes en utilisant TypeScript, en se concentrant sur les signatures déclaratives plutôt que sur l'ingénierie manuelle des prompts. Le framework compile des entrées et sorties typées en appels LLM optimisés, qui sont ensuite chaînés de manière transparente en agents sophistiqués, flux complexes et pipelines auto-améliorants. Cette approche garantit que les applications sont prêtes pour la production dès le premier jour, intégrant des fonctionnalités éprouvées telles que le streaming de bout en bout, la validation basée sur Zod avec re-tentative automatique, et l'observabilité OpenTelemetry pour des insights approfondis.
Lire la suite
Ax est conçu sans dépendances externes, garantissant un runtime léger et stable. Il prend en charge le déploiement universel sur Node.js, Deno et les navigateurs, en utilisant les Web Workers pour une exécution sandboxée. Une innovation clé est l'optimiseur GEPA multi-objectif, qui aide à équilibrer des métriques de performance critiques telles que la précision, la vitesse et le coût en retournant des frontières de Pareto. Cela permet aux développeurs de choisir le compromis optimal pour leurs besoins spécifiques.
Pour gérer les tâches complexes à long contexte, Ax introduit le modèle de langage récursif à contexte profond (Deep Context Recursive Language Model). Cette fonctionnalité permet l'analyse de long contexte avec des sessions persistantes et un raffinement itératif, en gardant un contexte étendu hors du prompt racine et en réduisant considérablement les coûts de tokens. Les agents autonomes sont facilités par AxAgent, qui prend en charge les boucles ReAct, l'appel d'outils, les agents enfants, les politiques de contexte et la découverte dynamique de fonctions, le tout géré dans un runtime JavaScript sécurisé avec gestion de contexte par points de contrôle.
Les signatures TypeScript de style DSPy du framework offrent une sécurité de bout en bout, garantissant que les décalages de forme sont détectés au moment de la compilation. Ceci est complété par l'ajustement automatique des prompts à l'aide de l'optimiseur GEPA, qui trouve l'ensemble d'instructions optimal pour maximiser la précision sur les ensembles de données d'évaluation sans ingénierie manuelle des prompts. Ax offre une suite complète d'outils comprenant AxGen pour la définition de signatures et la génération de sorties structurées, AxAI pour un accès unifié à plus de 15 fournisseurs LLM, AxAgent pour la création d'agents complexes, AxFlow pour l'orchestration de pipelines, et AxLearn pour l'optimisation auto-améliorante.
Ax est conçu pour la production, avec une couverture de tests étendue, une intégration complète d'OpenTelemetry pour le traçage distribué et des métriques détaillées, un suivi des coûts par requête, et une gestion des erreurs de niveau entreprise. Sa capacité multi-runtime et son riche système de types, prenant en charge les chaînes de caractères, les nombres, les booléens, les classes, les tableaux, le JSON, les images, l'audio et les dates, en font un choix polyvalent pour un large éventail de besoins de développement IA. Les développeurs peuvent s'intégrer aux bases de données via GraphJin en tant qu'outil MCP, étendant ainsi les capacités des agents Ax.
- CatégorieCréateurs d'agents IA
- DéploiementCloud
Fonctionnalités principales de Ax
Développement d'applications IA typées en TypeScript
Signatures déclaratives pour les entrées et sorties LLM
Compilation automatique des signatures en appels LLM optimisés
Chaînage des appels LLM en agents, flux et pipelines
Fonctionnalités prêtes pour la production : streaming, validation, re-tentative automatique
Intégration OpenTelemetry pour l'observabilité et la télémétrie
Support de runtime universel pour Node.js, Deno et navigateurs
Optimiseur GEPA multi-objectif pour les compromis précision vs vitesse vs coût
Modèle de langage récursif à contexte profond pour l'analyse de long contexte
AxAgent pour la création d'agents autonomes avec boucles ReAct et appel d'outils
Signatures TypeScript de style DSPy avec validation à la compilation
Ajustement automatique des exemples few-shot et optimisation des prompts
Interface unifiée pour plus de 15 fournisseurs LLM
Suivi des coûts intégré et gestion des erreurs de niveau entreprise
Intégration avec les bases de données via les outils MCP GraphJin
Premiers pas avec Ax
Définir les capacités IA : Déclarez les entrées et sorties à l'aide de signatures typées.
Instancier un LLM : Connectez-vous à votre fournisseur LLM préféré via une interface unifiée.
Construire des agents et des flux : Chaînez les signatures en agents complexes, pipelines ou boucles ReAct.
Exécuter et streamer : Lancez vos applications IA, avec des options de sortie en streaming en temps réel.
Valider et retenter : Tirez parti de la validation intégrée et des re-tentatives automatiques pour une exécution robuste.
Surveiller et optimiser : Utilisez OpenTelemetry pour l'observabilité et GEPA pour l'optimisation des performances.
Cas d'utilisation de Ax
- Développement d'agents IA
- Extraction et structuration de données
- Génération de contenu
- Analyse à long contexte
- Pipelines IA de production
- Développement d'applications inter-LLM
- Applications IA en temps réel
