Zro by MoonMath.ai

Le service prend en charge à la fois les complétions de chat compatibles avec OpenAI et les requêtes de l'API Messages compatibles avec Anthropic, permettant aux clients et outils d'agents existants de s'intégrer facilement en pointant vers l'URL de base de Zro. Cette large compatibilité assure une transition fluide pour les développeurs utilisant déjà ces normes API populaires. L'infrastructure de Zro est construite sur la pile de service personnalisée de MoonMath.ai, qui comprend des noyaux d'attention propriétaires et du code de service, contribuant à ses vitesses d'inférence rapides. Ces optimisations sont open-source et partagées avec la communauté à travers des projets comme SGLang, vLLM et AITER.

Zro donne accès à une sélection de modèles ouverts optimisés pour les agents de codage, y compris DeepSeek V4.1 Flash, GLM-5.3, GLM-5.3 Flash, Dolly 1 Security et Dolly 2 Security. Ces modèles sont choisis pour leurs capacités dans des domaines tels que le raisonnement à un million de tokens, le codage complexe et les flux de travail de sécurité défensive/red-team. La plateforme propose une inférence multi-régionale, permettant aux utilisateurs de sélectionner des chemins de déploiement sur du matériel AMD, NVIDIA et Google TPU, améliorant encore les performances et les options de résidence des données.

Les métriques de performance des points de terminaison en direct démontrent des vitesses impressionnantes, avec des modèles comme DeepSeek V4.1 Flash atteignant 220 tokens/seconde et des temps pour le premier token aussi bas que 0,36 secondes pour GLM-5.3 Flash. Les taux de réussite en cache élevés (95-98%) contribuent également à la réactivité du service. Zro propose également un lanceur Zro CLI et des guides d'intégration spécifiques pour des agents de codage populaires tels que Claude Code, Codex, Cursor, Cline, OpenCode et Hermes, simplifiant la configuration et l'utilisation.

Les tarifs incluent un plan gratuit avec une utilisation quotidienne sur les modèles Flash, un plan Pro à 20 $/mois pour 40 $ d'utilisation, et un plan Max à 60 $/mois pour 120 $ d'utilisation. Des packs d'utilisation sont également disponibles sans abonnement. De plus, Zro fournit des outils de recherche web et d'ingestion de documents, facturés par tâche, pour améliorer les capacités des agents. La plateforme est construite par une équipe de mathématiciens et d'ingénieurs axés sur les algorithmes de bas niveau, l'ingénierie des systèmes et l'optimisation consciente du matériel, garantissant une expérience d'inférence AI privée robuste et efficace.