エージェンティックセキュリティスキャナー

DeepTeam フレームワーク

AI GitHub リポジトリ

#122

大規模言語モデル（LLM）およびAIエージェントのレッドチーミングを目的としたフレームワークであり、AIシステムの堅牢性とセキュリティをテストし、向上させるための体系的なアプローチを提供します。DeepTeamは、大規模言語モデル（LLM）およびAIエージェントのレッドチーミングを目的としたフレームワークであり、AIシステムの堅牢性とセキュリティをテストし、向上させるための体系的なアプローチを提供します。

エージェントセキュリティベンチ (ASB)

AI GitHub リポジトリ

AIエージェントのセキュリティを強化することに焦点を当てたGitHubプロジェクトです。開発者がその開発に貢献できるようにし、AIエージェントのセキュリティ向上のための協力的な環境を育成します。エージェントセキュリティベンチ (ASB) は、AIエージェントのセキュリティを強化することに焦点を当てたGitHubプロジェクトです。開発者がその開発に貢献できるようにし、AIエージェントのセキュリティ向上のための協力的な環境を育成します。

Giskard

AI アプリ

#97

継続的なレッドチーミングとLLMセキュリティに焦点を当てたAIセキュリティプラットフォームです。脆弱性を検出し、幻覚を防ぎ、自動テストと評価を通じてAIシステムを保護します。Giskardは、継続的なレッドチーミングとLLMセキュリティに焦点を当てたAIセキュリティプラットフォームです。脆弱性を検出し、幻覚を防ぎ、自動テストと評価を通じてAIシステムを保護します。

PurpleLlama セキュリティツール

AI GitHub リポジトリ

大規模言語モデル（LLM）のセキュリティを評価し改善するために設計されたツールのセットを提供します。開発者はGitHubにアカウントを作成することでその開発に貢献でき、LLMセキュリティにおけるコラボレーションと革新を促進します。PurpleLlamaは、大規模言語モデル（LLM）のセキュリティを評価し改善するために設計されたツールのセットを提供します。開発者はGitHubにアカウントを作成することでその開発に貢献でき、LLMセキュリティにおけるコラボレーションと革新を促進します。

AI-Infra-Guard

AI GitHub リポジトリ

#234

AIエコシステムを保護するために設計された包括的なAIレッドチーミングプラットフォームです。エージェントスキャン、スキルスキャン、MCPスキャン、AIインフラスキャン、LLM脱獄評価を提供し、脆弱性に対する強力な保護を確保します。AI-Infra-Guardは、AIエコシステムを保護するために設計された包括的なAIレッドチーミングプラットフォームです。エージェントスキャン、スキルスキャン、MCPスキャン、AIインフラスキャン、LLM脱獄評価を提供し、脆弱性に対する強力な保護を確保します。

大規模言語モデルのセキュリティを評価するために設計されたオープンソースのLLM脆弱性スキャナーです。NVIDIAとコミュニティによってサポートされており、多数のプラグインと数千のプロンプトを提供しています。garakは、大規模言語モデルのセキュリティを評価するために設計されたオープンソースのLLM脆弱性スキャナーです。NVIDIAとコミュニティによってサポートされており、多数のプラグインと数千のプロンプトを提供しています。

ps-fuzz

AI GitHub リポジトリ

#96

システムプロンプトをテストおよび強化することでGenAIアプリケーションのセキュリティを向上させるために設計されたツールです。AIシステムが安全であることを保証し、開発者に堅牢なセキュリティテストソリューションを提供することを目的としています。ps-fuzzは、システムプロンプトをテストおよび強化することでGenAIアプリケーションのセキュリティを向上させるために設計されたツールです。AIシステムが安全であることを保証し、開発者に堅牢なセキュリティテストソリューションを提供することを目的としています。

Vulnhuntr - ゼロショット脆弱性発見ツール

AI GitHub リポジトリ

#118

大規模言語モデル（LLMs）を使用したゼロショット脆弱性発見ツールです。開発者が事前の例なしにコード内の潜在的なセキュリティ脆弱性を特定できるようにし、ソフトウェアのセキュリティと信頼性を向上させます。Vulnhuntrは、大規模言語モデル（LLMs）を使用したゼロショット脆弱性発見ツールです。開発者が事前の例なしにコード内の潜在的なセキュリティ脆弱性を特定できるようにし、ソフトウェアのセキュリティと信頼性を向上させます。