Shieldstral

Construit sur le cadre Ministral-3-3B-Base-2512, Shieldstral intègre un encodeur de vision Pixtral natif, lui permettant de gérer sans effort le contenu uniquement textuel, uniquement image, et texte+image. Il produit son verdict à partir d'un seul passage avant, ce qui le rend efficace et performant pour diverses tâches de modération.

Les caractéristiques clés de Shieldstral incluent sa nature adaptable aux politiques, où les critères de modération sont fournis sous forme de requêtes en langage naturel à l'inférence. Cela permet à un seul point de contrôle de gérer de nouvelles politiques de sécurité sans nécessiter de réentraînement. De plus, sa capacité multimodale lui permet de modérer différents types de contenu via une interface partagée.

Shieldstral est multilingue, prenant en charge des langues telles que l'anglais, le français, l'espagnol, l'allemand, l'italien, le portugais, le néerlandais, le chinois, le japonais, le coréen, l'arabe et le russe. Il est sous licence Apache 2.0, permettant une utilisation commerciale et non commerciale.

Le modèle est particulièrement adapté pour des applications telles que la modération des invites des utilisateurs, la modération des réponses des modèles, et la classification des refus des modèles. Sa taille compacte lui permet de fonctionner sur un seul GPU, le rendant accessible pour divers scénarios de déploiement.

Malgré ses capacités, les utilisateurs doivent être conscients de certaines limitations, telles qu'une couverture inégale à travers les langues et les domaines, du bruit résiduel dans les étiquettes, et une fiabilité réduite avec des entrées adversariales ou obfusquées. Cependant, sa nature open-source et son adaptabilité en font un outil précieux pour les besoins de modération de contenu.