SkillSpector セキュリティスキャナー

AI-Infra-Guard

AI GitHub リポジトリ

#233

AIエコシステムを保護するために設計された包括的なAIレッドチーミングプラットフォームです。エージェントスキャン、スキルスキャン、MCPスキャン、AIインフラスキャン、LLM脱獄評価を提供し、脆弱性に対する強力な保護を確保します。AI-Infra-Guardは、AIエコシステムを保護するために設計された包括的なAIレッドチーミングプラットフォームです。エージェントスキャン、スキルスキャン、MCPスキャン、AIインフラスキャン、LLM脱獄評価を提供し、脆弱性に対する強力な保護を確保します。

エージェンティックセキュリティスキャナー

AI GitHub リポジトリ

エージェンティックセキュリティは、大規模言語モデル（LLM）の脆弱性を特定し対処するために設計された脆弱性スキャナーおよびAIレッドチーミングキットです。セキュリティ専門家がAIシステムをテストし改善するためのツールを提供します。

Giskard

AI アプリ

#97

継続的なレッドチーミングとLLMセキュリティに焦点を当てたAIセキュリティプラットフォームです。脆弱性を検出し、幻覚を防ぎ、自動テストと評価を通じてAIシステムを保護します。Giskardは、継続的なレッドチーミングとLLMセキュリティに焦点を当てたAIセキュリティプラットフォームです。脆弱性を検出し、幻覚を防ぎ、自動テストと評価を通じてAIシステムを保護します。

ps-fuzz

AI GitHub リポジトリ

#98

システムプロンプトをテストおよび強化することでGenAIアプリケーションのセキュリティを向上させるために設計されたツールです。AIシステムが安全であることを保証し、開発者に堅牢なセキュリティテストソリューションを提供することを目的としています。ps-fuzzは、システムプロンプトをテストおよび強化することでGenAIアプリケーションのセキュリティを向上させるために設計されたツールです。AIシステムが安全であることを保証し、開発者に堅牢なセキュリティテストソリューションを提供することを目的としています。

エージェントセキュリティベンチ (ASB)

AI GitHub リポジトリ

AIエージェントのセキュリティを強化することに焦点を当てたGitHubプロジェクトです。開発者がその開発に貢献できるようにし、AIエージェントのセキュリティ向上のための協力的な環境を育成します。エージェントセキュリティベンチ (ASB) は、AIエージェントのセキュリティを強化することに焦点を当てたGitHubプロジェクトです。開発者がその開発に貢献できるようにし、AIエージェントのセキュリティ向上のための協力的な環境を育成します。

AgentDojo

AI フレームワーク

LLMエージェントのプロンプトインジェクション攻撃と防御を評価するために設計された動的な環境です。ETHチューリッヒとインバリアントラボの研究者によって開発され、AIの脆弱性の研究を支援するためのベンチマークおよび新しい攻撃と防御モデルを作成するためのツールを提供します。AgentDojoは、LLMエージェントのプロンプトインジェクション攻撃と防御を評価するために設計された動的な環境です。ETHチューリッヒとインバリアントラボの研究者によって開発され、AIの脆弱性の研究を支援するためのベンチマークおよび新しい攻撃と防御モデルを作成するためのツールを提供します。

セキュリティ専門家やエンジニアが生成AIシステムのリスクを特定するのを支援するために設計されたオープンソースのフレームワークです。ユーザーがAI関連のリスクを積極的に管理できるようにし、システムのセキュリティと信頼性を向上させます。PyRITは、セキュリティ専門家やエンジニアが生成AIシステムのリスクを特定するのを支援するために設計されたオープンソースのフレームワークです。ユーザーがAI関連のリスクを積極的に管理できるようにし、システムのセキュリティと信頼性を向上させます。

大規模言語モデルのセキュリティを評価するために設計されたオープンソースのLLM脆弱性スキャナーです。NVIDIAとコミュニティによってサポートされており、多数のプラグインと数千のプロンプトを提供しています。garakは、大規模言語モデルのセキュリティを評価するために設計されたオープンソースのLLM脆弱性スキャナーです。NVIDIAとコミュニティによってサポートされており、多数のプラグインと数千のプロンプトを提供しています。