DeepTeam フレームワーク

エージェンティックセキュリティスキャナー

AI GitHub リポジトリ

エージェンティックセキュリティは、大規模言語モデル（LLM）の脆弱性を特定し対処するために設計された脆弱性スキャナーおよびAIレッドチーミングキットです。セキュリティ専門家がAIシステムをテストし改善するためのツールを提供します。

エージェントセキュリティベンチ (ASB)

AI GitHub リポジトリ

AIエージェントのセキュリティを強化することに焦点を当てたGitHubプロジェクトです。開発者がその開発に貢献できるようにし、AIエージェントのセキュリティ向上のための協力的な環境を育成します。エージェントセキュリティベンチ (ASB) は、AIエージェントのセキュリティを強化することに焦点を当てたGitHubプロジェクトです。開発者がその開発に貢献できるようにし、AIエージェントのセキュリティ向上のための協力的な環境を育成します。

PurpleLlama セキュリティツール

AI GitHub リポジトリ

大規模言語モデル（LLM）のセキュリティを評価し改善するために設計されたツールのセットを提供します。開発者はGitHubにアカウントを作成することでその開発に貢献でき、LLMセキュリティにおけるコラボレーションと革新を促進します。PurpleLlamaは、大規模言語モデル（LLM）のセキュリティを評価し改善するために設計されたツールのセットを提供します。開発者はGitHubにアカウントを作成することでその開発に貢献でき、LLMセキュリティにおけるコラボレーションと革新を促進します。

AI-Infra-Guard

AI GitHub リポジトリ

#233

AIエコシステムを保護するために設計された包括的なAIレッドチーミングプラットフォームです。エージェントスキャン、スキルスキャン、MCPスキャン、AIインフラスキャン、LLM脱獄評価を提供し、脆弱性に対する強力な保護を確保します。AI-Infra-Guardは、AIエコシステムを保護するために設計された包括的なAIレッドチーミングプラットフォームです。エージェントスキャン、スキルスキャン、MCPスキャン、AIインフラスキャン、LLM脱獄評価を提供し、脆弱性に対する強力な保護を確保します。

Giskard

AI アプリ

#97

継続的なレッドチーミングとLLMセキュリティに焦点を当てたAIセキュリティプラットフォームです。脆弱性を検出し、幻覚を防ぎ、自動テストと評価を通じてAIシステムを保護します。Giskardは、継続的なレッドチーミングとLLMセキュリティに焦点を当てたAIセキュリティプラットフォームです。脆弱性を検出し、幻覚を防ぎ、自動テストと評価を通じてAIシステムを保護します。

ps-fuzz

AI GitHub リポジトリ

#98

システムプロンプトをテストおよび強化することでGenAIアプリケーションのセキュリティを向上させるために設計されたツールです。AIシステムが安全であることを保証し、開発者に堅牢なセキュリティテストソリューションを提供することを目的としています。ps-fuzzは、システムプロンプトをテストおよび強化することでGenAIアプリケーションのセキュリティを向上させるために設計されたツールです。AIシステムが安全であることを保証し、開発者に堅牢なセキュリティテストソリューションを提供することを目的としています。

Vulnhuntr - ゼロショット脆弱性発見ツール

AI GitHub リポジトリ

#123

大規模言語モデル（LLMs）を使用したゼロショット脆弱性発見ツールです。開発者が事前の例なしにコード内の潜在的なセキュリティ脆弱性を特定できるようにし、ソフトウェアのセキュリティと信頼性を向上させます。Vulnhuntrは、大規模言語モデル（LLMs）を使用したゼロショット脆弱性発見ツールです。開発者が事前の例なしにコード内の潜在的なセキュリティ脆弱性を特定できるようにし、ソフトウェアのセキュリティと信頼性を向上させます。

DeepEval

AI GitHub リポジトリ

#91

大規模言語モデル（LLM）を評価するために設計されたオープンソースのフレームワークです。開発者が評価プロセスに貢献し、LLMのパフォーマンスと信頼性を向上させることができます。DeepEvalは、大規模言語モデル（LLM）を評価するために設計されたオープンソースのフレームワークです。開発者が評価プロセスに貢献し、LLMのパフォーマンスと信頼性を向上させることができます。