Phobos Framework

ps-fuzz

AI GitHub リポジトリ

#83

システムプロンプトをテストおよび強化することでGenAIアプリケーションのセキュリティを向上させるために設計されたツールです。AIシステムが安全であることを保証し、開発者に堅牢なセキュリティテストソリューションを提供することを目的としています。ps-fuzzは、システムプロンプトをテストおよび強化することでGenAIアプリケーションのセキュリティを向上させるために設計されたツールです。AIシステムが安全であることを保証し、開発者に堅牢なセキュリティテストソリューションを提供することを目的としています。

エージェンティックセキュリティスキャナー

AI GitHub リポジトリ

エージェンティックセキュリティは、大規模言語モデル（LLM）の脆弱性を特定し対処するために設計された脆弱性スキャナーおよびAIレッドチーミングキットです。セキュリティ専門家がAIシステムをテストし改善するためのツールを提供します。

Strix - AIセキュリティプラットフォーム

AI アプリ

#55

コード、API、クラウド、インフラストラクチャを継続的にテストし、修正PRを提供するAI駆動のペネトレーションテストおよび自律型セキュリティプラットフォームです。スタックを効果的に保護するために無料で始めましょう。Strixは、コード、API、クラウド、インフラストラクチャを継続的にテストし、修正PRを提供するAI駆動のペネトレーションテストおよび自律型セキュリティプラットフォームです。スタックを効果的に保護するために無料で始めましょう。

SkillSpector セキュリティスキャナー

AI GitHub リポジトリ

AIエージェントスキルのためのセキュリティスキャナーで、脆弱性、悪意のあるパターン、セキュリティリスクを検出するように設計されています。インストール前にClaude Code、Codex、MCPスキルにおけるプロンプトインジェクション、データ流出、サプライチェーンリスクに焦点を当てています。SkillSpectorはAIエージェントスキルのためのセキュリティスキャナーで、脆弱性、悪意のあるパターン、セキュリティリスクを検出するように設計されています。インストール前にClaude Code、Codex、MCPスキルにおけるプロンプトインジェクション、データ流出、サプライチェーンリスクに焦点を当てています。

Giskard

AI アプリ

#94

継続的なレッドチーミングとLLMセキュリティに焦点を当てたAIセキュリティプラットフォームです。脆弱性を検出し、幻覚を防ぎ、自動テストと評価を通じてAIシステムを保護します。Giskardは、継続的なレッドチーミングとLLMセキュリティに焦点を当てたAIセキュリティプラットフォームです。脆弱性を検出し、幻覚を防ぎ、自動テストと評価を通じてAIシステムを保護します。

AgentDojo

AI フレームワーク

LLMエージェントのプロンプトインジェクション攻撃と防御を評価するために設計された動的な環境です。ETHチューリッヒとインバリアントラボの研究者によって開発され、AIの脆弱性の研究を支援するためのベンチマークおよび新しい攻撃と防御モデルを作成するためのツールを提供します。AgentDojoは、LLMエージェントのプロンプトインジェクション攻撃と防御を評価するために設計された動的な環境です。ETHチューリッヒとインバリアントラボの研究者によって開発され、AIの脆弱性の研究を支援するためのベンチマークおよび新しい攻撃と防御モデルを作成するためのツールを提供します。

エージェントセキュリティベンチ (ASB)

AI GitHub リポジトリ

AIエージェントのセキュリティを強化することに焦点を当てたGitHubプロジェクトです。開発者がその開発に貢献できるようにし、AIエージェントのセキュリティ向上のための協力的な環境を育成します。エージェントセキュリティベンチ (ASB) は、AIエージェントのセキュリティを強化することに焦点を当てたGitHubプロジェクトです。開発者がその開発に貢献できるようにし、AIエージェントのセキュリティ向上のための協力的な環境を育成します。

Aptori | 自律型アプリケーションセキュリティ

AI アプリ

#66

ランタイムの動作を継続的に検証し、悪用可能性を証明し、実際の脅威を優先するAIネイティブのアプリケーションセキュリティプラットフォームです。修正を迅速化し、クローズを検証し、規制対象の企業にガバナンスされた証拠を提供することで、AI時代におけるセキュアバイデザインのソフトウェアを保証します。Aptoriは、ランタイムの動作を継続的に検証し、悪用可能性を証明し、実際の脅威を優先するAIネイティブのアプリケーションセキュリティプラットフォームです。修正を迅速化し、クローズを検証し、規制対象の企業にガバナンスされた証拠を提供することで、AI時代におけるセキュアバイデザインのソフトウェアを保証します。