Descrição
Shieldstral é um classificador de segurança sofisticado projetado para fornecer moderação de conteúdo flexível em várias modalidades. Com um modelo compacto de 3 bilhões de parâmetros, ele se adapta a várias políticas de segurança expressas em linguagem natural, oferecendo uma pontuação de segurança contínua em vez de categorias de moderação fixas. Isso o torna uma solução ideal para aplicações de moderação em tempo real em dispositivos de borda ou de baixo recurso.
Ler mais
Construído sobre a estrutura Ministral-3-3B-Base-2512, o Shieldstral incorpora um codificador de visão Pixtral nativo, permitindo que ele lide com conteúdo apenas de texto, apenas de imagem e texto+imagem de forma integrada. Ele produz seu veredicto a partir de uma única passagem para frente, tornando-o eficiente e eficaz para várias tarefas de moderação.
As principais características do Shieldstral incluem sua natureza adaptável a políticas, onde os critérios de moderação são fornecidos como consultas em linguagem natural em formato livre no momento da inferência. Isso permite que um único ponto de verificação lide com novas políticas de segurança sem a necessidade de re-treinamento. Além disso, sua capacidade multimodal permite moderar diferentes tipos de conteúdo através de uma interface compartilhada.
O Shieldstral é multilíngue, suportando idiomas como inglês, francês, espanhol, alemão, italiano, português, holandês, chinês, japonês, coreano, árabe e russo. Ele é licenciado sob a Licença Apache 2.0, permitindo uso comercial e não comercial.
O modelo é particularmente adequado para aplicações como moderação de prompts de usuários, moderação de respostas de modelos e classificação de recusa de modelos. Seu tamanho compacto permite que ele funcione em uma única GPU, tornando-o acessível para vários cenários de implantação.
Apesar de suas capacidades, os usuários devem estar cientes de certas limitações, como cobertura desigual entre idiomas e domínios, ruído residual de rótulos e confiabilidade reduzida com entradas adversariais ou ofuscadas. No entanto, sua natureza de código aberto e adaptabilidade o tornam uma ferramenta valiosa para necessidades de moderação de conteúdo.
- CategoriaModeração de conteúdo com IA
- Modelo de preçosCódigo aberto
- ImplantaçãoNuvem
- PlataformasWeb
Destaques de Shieldstral
Moderação adaptável a políticas
Suporte a conteúdo multimodal
Saída de token único
Modelo compacto de 3 bilhões de parâmetros
Suporte multilíngue
Licença Apache 2.0
Moderação em tempo real
Sem necessidade de re-treinamento
Primeiros passos com Shieldstral
Acessar o modelo: Obtenha o modelo do Hugging Face
Autenticar: Configure a autenticação necessária
Configurar o ambiente: Prepare seu sistema para implantação
Integrar via API: Conecte o modelo ao seu aplicativo
Otimizar: Ajuste as configurações para melhor desempenho
Casos de uso de Shieldstral
- Moderação de Prompts de Usuários
- Moderação de Respostas de Modelos
- Classificação de Recusa de Modelos
- Moderação de Conteúdo Multimodal
- Moderação em Tempo Real
