Description
IQ sert de tableau de bord complet conçu pour centraliser la gestion et le contrôle de l'utilisation de l'IA par une équipe. Il offre une interface unique pour superviser les dépenses en IA, définir des budgets et des limites, et gérer les clés API et les fournisseurs. Une fonctionnalité clé est sa capacité de routage intégrée, qui dirige intelligemment les demandes vers les modèles et fournisseurs les plus rentables, visant à réduire considérablement les dépenses opérationnelles. Ce mécanisme de routage, basé sur une boucle LangChain en cinq étapes, exploite les gammes de modèles et les prix à jour pour garantir une allocation optimale des ressources.
Lire la suite
La plateforme permet aux utilisateurs de connecter leurs propres comptes de fournisseurs en utilisant leurs clés existantes, prenant en charge un large éventail de fournisseurs d'IA majeurs tels qu'OpenAI, Anthropic, Google, Mistral, xAI et DeepSeek, entre autres. Les demandes peuvent être faites à IQ via des points de terminaison de type OpenAI ou Anthropic à partir d'une seule URL de base, simplifiant l'intégration avec les SDK existants. La sécurité est primordiale, avec des clés de fournisseur chiffrées au repos et des mécanismes d'authentification robustes en place.
IQ fournit un contrôle granulaire sur la consommation d'IA grâce à des fonctionnalités telles que des limites par clé, permettant aux administrateurs de définir des demandes par minute, des jetons par minute et des plafonds de dépenses quotidiens pour des applications ou des membres individuels. Des budgets quotidiens et mensuels au niveau de l'équipe sont appliqués à chaque demande, empêchant les dépenses imprévues. Le système comprend également un mécanisme d'alerte pour les dépenses, le taux d'erreur, la latence et le taux de réussite du cache, livré par e-mail ou webhook, garantissant que les équipes sont rapidement informées des événements critiques.
Pour la transparence et la responsabilité, IQ offre un journal d'audit détaillé qui enregistre qui a changé quoi et quand, avec des filtres et des capacités d'exportation CSV. Les rôles des membres (Propriétaire, Administrateur, Membre) permettent un contrôle d'accès structuré au sein des espaces de travail. Le tableau de bord fournit une vue d'ensemble claire de l'utilisation, décomposée par membre individuel et totaux d'équipe, y compris les demandes, les jetons et les dépenses, sans exposer le contenu des invites ou des réponses par défaut.
Les ajouts récents à IQ incluent IQ Steward, un gardien des dépenses en IA qui signale le gaspillage et les erreurs de configuration, et IQ Vexla (accès anticipé), qui aide à protéger contre la dégradation des modèles en permettant aux utilisateurs de tester des changements de modèle sur leurs propres exemples avant de basculer. IQ propose également des options de déploiement flexibles, y compris cloud, sur site ou VPC pour les clients d'entreprise, et des choix robustes de conservation des données, y compris l'option de Zero Data Retention (ZDR) pour garantir la confidentialité et la conformité.
- CatégorieOutils DevOps et cloud IA
- Modèle tarifaireFreemium
- DéploiementCloud, On-prem, VPC
- PlateformesWeb
Fonctionnalités principales de IQ
Tableau de bord unifié pour l'utilisation et les dépenses en IA
Limites de budget et de dépenses par équipe et par clé
Gestion des clés API avec rotation et révocation
Routage intégré pour l'optimisation des coûts entre les fournisseurs
Support pour plusieurs fournisseurs d'IA (OpenAI, Anthropic, Google, Mistral, xAI, DeepSeek, AWS Bedrock, Cohere, etc.)
Alertes pour les dépenses, le taux d'erreur, la latence et le taux de réussite du cache
Journal d'audit complet avec filtres et exportation CSV
Rôles de membres pour le contrôle d'accès (Propriétaire, Administrateur, Membre)
Option de Zero Data Retention (ZDR) pour la confidentialité
IQ Steward pour la surveillance des dépenses en IA et la détection du gaspillage
IQ Vexla pour tester les changements de modèle et prévenir la dégradation
Points de terminaison API de type OpenAI et Anthropic
Clés de fournisseur chiffrées au repos
Support de points de terminaison personnalisés pour les plans Équipe et Entreprise
Génération de pack de preuves SOC2 pour les utilisateurs d'entreprise
Comment utiliser IQ ?
Connecter les fournisseurs : Liez vos comptes de fournisseurs d'IA existants (par exemple, OpenAI, Anthropic) en utilisant vos propres clés API dans le tableau de bord IQ.
Créer des clés IQ : Générez des clés API IQ pour différentes applications ou membres de l'équipe, en définissant des limites spécifiques pour les demandes, les jetons et les dépenses quotidiennes.
Configurer les budgets : Établissez des budgets de dépenses quotidiens et mensuels pour vos équipes afin de contrôler les dépenses globales en IA.
Mettre en œuvre le routage : Utilisez le routage intégré d'IQ pour diriger automatiquement les demandes d'IA vers les modèles et fournisseurs les plus rentables.
Surveiller l'utilisation : Utilisez le tableau de bord pour suivre l'utilisation de l'IA, les dépenses et les indicateurs de performance à travers les individus et les équipes.
Définir des alertes : Configurez des alertes pour les seuils de dépenses, les taux d'erreur et la latence afin de rester informé des événements critiques.
Gérer l'accès : Attribuez des rôles aux membres (Propriétaire, Administrateur, Membre) pour contrôler l'accès et les autorisations au sein de la plateforme.
Optimiser les coûts : Examinez les décisions de routage et utilisez des outils comme IQ Steward pour identifier et corriger les modèles d'utilisation d'IA coûteux.
Cas d'utilisation de IQ
- Optimisation des coûts
- Application des budgets
- Surveillance de l'utilisation
- Gestion des clés API
- Collaboration d'équipe
- Alerte de performance
- Audit et conformité
- Expérimentation de modèles
- Contrôle de la confidentialité des données
- Gardien des dépenses en IA
