Pular para o conteúdo principal
ToolPotion
Consultor de IA
Enviar

AI-Infra-Guard

AI-Infra-Guard é uma plataforma abrangente de Red Teaming em IA projetada para proteger ecossistemas de IA. Oferece Agent Scan, Skills Scan, MCP scan, AI Infra scan e avaliação de jailbreak de LLM para garantir proteção robusta contra vulnerabilidades.

Ver repositório
Compartilhar
Ver repositório
Compartilhar

AI-Infra-Guard é uma plataforma de Red Teaming em IA de pilha completa desenvolvida pela Tencent, com o objetivo de proteger ecossistemas de IA. Ela fornece um conjunto de ferramentas, incluindo Agent Scan, Skills Scan, MCP scan, AI Infra scan e avaliação de jailbreak de LLM. Essas ferramentas são projetadas para identificar e mitigar potenciais vulnerabilidades dentro dos sistemas de IA, garantindo que sejam robustos e seguros.

Ler mais

Agent Scan foca na análise de agentes de IA em busca de fraquezas, enquanto Skills Scan avalia as capacidades dos sistemas de IA para detectar quaisquer vulnerabilidades relacionadas a habilidades. MCP scan tem como alvo os componentes de aprendizado de máquina, garantindo que estejam livres de falhas exploráveis. AI Infra scan avalia a infraestrutura que suporta os sistemas de IA, identificando quaisquer lacunas de segurança que possam ser exploradas.

A plataforma também inclui a avaliação de jailbreak de LLM, que testa grandes modelos de linguagem em busca de possíveis brechas de segurança. Essa abordagem abrangente garante que os sistemas de IA estejam protegidos contra uma ampla gama de ameaças, tornando o AI-Infra-Guard uma ferramenta essencial para organizações que dependem de tecnologias de IA.

AI-Infra-Guard é particularmente valioso para indústrias que dependem fortemente de IA, como tecnologia, finanças e saúde. Ele proporciona tranquilidade ao proteger investimentos em IA e manter a integridade das operações de IA. Embora a plataforma não especifique preços, sua natureza de código aberto sugere acessibilidade para diversos usuários.

  • CategoriaFerramentas de cibersegurança com IA
  • Modelo de preçosCódigo aberto
  • ImplantaçãoNuvem
  • PlataformasWeb

  • Agent Scan para vulnerabilidades em IA

  • Skills Scan para capacidades em IA

  • MCP scan para componentes de aprendizado de máquina

  • AI Infra scan para segurança da infraestrutura

  • Avaliação de jailbreak de LLM

  • Red Teaming em IA de pilha completa

  • Plataforma de código aberto

  • Desenvolvido pela Tencent

  1. Clone: Baixe o repositório do GitHub

  2. Instale dependências: Configure os pacotes de software necessários

  3. Configure: Ajuste as configurações para seu ambiente

  4. Execute: Execute os scans para identificar vulnerabilidades

  5. Otimize: Melhore a segurança com base nas descobertas

  • Avaliação de vulnerabilidades em IA
  • Segurança da infraestrutura
  • Proteção de aprendizado de máquina
  • Avaliação de habilidades
  • Segurança de modelos de linguagem

Ferramentas de IA populares como AI-Infra-Guard

Agentic Security Scanner

Repositórios de IA no GitHub

Agentic Security é um scanner de vulnerabilidades e um kit de red teaming de IA projetado para identificar e abordar vulnerabilidades em grandes modelos de linguagem (LLMs). Ele…

Ferramentas de cibersegurança com IA
Ver ferramenta

Repositórios de IA no GitHub

Scanner de vulnerabilidades e um kit de red teaming de IA projetado para identificar e abordar vulnerabilidades em grandes modelos de linguagem (LLMs). Ele…Agentic Security é um scanner de vulnerabilidades e um kit de red teaming de IA projetado para identificar e abordar vulnerabilidades em grandes modelos de linguagem (LLMs). Ele…

Ferramentas de cibersegurança com IA
Ver o Top 250 de Repositórios de IA no GitHub

SkillSpector Security Scanner

Repositórios de IA no GitHub

SkillSpector é um scanner de segurança para habilidades de agentes de IA, projetado para detectar vulnerabilidades, padrões maliciosos e riscos de segurança. Ele se concentra em…

Ferramentas de cibersegurança com IA
Ver ferramenta

Repositórios de IA no GitHub

Scanner de segurança para habilidades de agentes de IA, projetado para detectar vulnerabilidades, padrões maliciosos e riscos de segurança. Ele se concentra em…SkillSpector é um scanner de segurança para habilidades de agentes de IA, projetado para detectar vulnerabilidades, padrões maliciosos e riscos de segurança. Ele se concentra em…

Ferramentas de cibersegurança com IA
Ver o Top 250 de Repositórios de IA no GitHub

Giskard

Apps de IA

Giskard é uma plataforma de segurança de IA focada em red teaming contínuo e segurança de LLM. Ajuda a detectar vulnerabilidades, prevenir alucinações e proteger sistemas de IA…

Ferramentas de cibersegurança com IA

Nº 99 para Monitoramento de modelos de IA

Ver ferramenta

Apps de IA

Plataforma de segurança de IA focada em red teaming contínuo e segurança de LLM. Ajuda a detectar vulnerabilidades, prevenir alucinações e proteger sistemas de IA…Giskard é uma plataforma de segurança de IA focada em red teaming contínuo e segurança de LLM. Ajuda a detectar vulnerabilidades, prevenir alucinações e proteger sistemas de IA…

Ferramentas de cibersegurança com IA
Nº 99 para Monitoramento de modelos de IA

DeepTeam Framework

Repositórios de IA no GitHub

DeepTeam é um framework projetado para red team de grandes modelos de linguagem (LLMs) e agentes de IA, fornecendo uma abordagem estruturada para testar e aprimorar a robustez e…

Ferramentas de cibersegurança com IA

Nº 125 em Repositórios de IA no GitHub

Ver ferramenta

Repositórios de IA no GitHub

Framework projetado para red team de grandes modelos de linguagem (LLMs) e agentes de IA, fornecendo uma abordagem estruturada para testar e aprimorar a robustez e…DeepTeam é um framework projetado para red team de grandes modelos de linguagem (LLMs) e agentes de IA, fornecendo uma abordagem estruturada para testar e aprimorar a robustez e…

Ferramentas de cibersegurança com IA
Nº 125 em Repositórios de IA no GitHub

A Mindgard oferece testes automatizados de red teaming e segurança de IA para descobrir, avaliar e defender modelos, agentes e aplicações de IA. Atua como um red teamer autônomo,…

Ferramentas de cibersegurança com IA

Nº 37 em Segurança e privacidade

Ver ferramenta

A Mindgard oferece testes automatizados de red teaming e segurança de IA para descobrir, avaliar e defender modelos, agentes e aplicações de IA. Atua como um red teamer autônomo,…

Ferramentas de cibersegurança com IA
Nº 37 em Segurança e privacidade

HexStrike-AI MCP Agents

Repositórios de IA no GitHub

HexStrike-AI MCP Agents é um servidor avançado que permite que agentes de IA operem autonomamente mais de 150 ferramentas de cibersegurança para tarefas como pentesting e…

Ferramentas de cibersegurança com IA

Nº 81 em Segurança e privacidade

Ver ferramenta

Repositórios de IA no GitHub

Servidor avançado que permite que agentes de IA operem autonomamente mais de 150 ferramentas de cibersegurança para tarefas como pentesting e…HexStrike-AI MCP Agents é um servidor avançado que permite que agentes de IA operem autonomamente mais de 150 ferramentas de cibersegurança para tarefas como pentesting e…

Ferramentas de cibersegurança com IA
Nº 81 em Segurança e privacidade

Adversa AI

Apps de IA

A Adversa AI oferece uma plataforma autônoma para red teaming contínuo de IA, projetada especificamente para agentes de IA, LLMs e aplicações GenAI. Ela identifica e remedia…

Ferramentas de cibersegurança com IAFinanças e serviços bancários

Nº 117 para Monitoramento de modelos de IA

Ver ferramenta

Apps de IA

A Adversa AI oferece uma plataforma autônoma para red teaming contínuo de IA, projetada especificamente para agentes de IA, LLMs e aplicações GenAI. Ela identifica e remedia…

Ferramentas de cibersegurança com IAFinanças e serviços bancários
Nº 117 para Monitoramento de modelos de IA

Agent Security Bench (ASB)

Repositórios de IA no GitHub

Agent Security Bench (ASB) é um projeto no GitHub focado em aprimorar a segurança de agentes de IA. Permite que desenvolvedores contribuam para seu desenvolvimento, promovendo um…

Ferramentas de cibersegurança com IA
Ver ferramenta

Repositórios de IA no GitHub

Projeto no GitHub focado em aprimorar a segurança de agentes de IA. Permite que desenvolvedores contribuam para seu desenvolvimento, promovendo um…Agent Security Bench (ASB) é um projeto no GitHub focado em aprimorar a segurança de agentes de IA. Permite que desenvolvedores contribuam para seu desenvolvimento, promovendo um…

Ferramentas de cibersegurança com IA
Ver o Top 250 de Repositórios de IA no GitHub
1 de 8