AgentDojo

大規模言語モデルのセキュリティを評価するために設計されたオープンソースのLLM脆弱性スキャナーです。NVIDIAとコミュニティによってサポートされており、多数のプラグインと数千のプロンプトを提供しています。garakは、大規模言語モデルのセキュリティを評価するために設計されたオープンソースのLLM脆弱性スキャナーです。NVIDIAとコミュニティによってサポートされており、多数のプラグインと数千のプロンプトを提供しています。

エージェンティックセキュリティスキャナー

AI GitHub リポジトリ

エージェンティックセキュリティは、大規模言語モデル（LLM）の脆弱性を特定し対処するために設計された脆弱性スキャナーおよびAIレッドチーミングキットです。セキュリティ専門家がAIシステムをテストし改善するためのツールを提供します。

敵対的ロバストネスツールボックス

AI フレームワーク

#34

機械学習モデルのセキュリティを強化するために設計されたPythonライブラリです。敵対的脅威に対してモデルを評価、保護、検証するためのツールを提供し、さまざまなフレームワークとデータタイプをサポートします。敵対的ロバストネスツールボックスは、機械学習モデルのセキュリティを強化するために設計されたPythonライブラリです。敵対的脅威に対してモデルを評価、保護、検証するためのツールを提供し、さまざまなフレームワークとデータタイプをサポートします。

DeepTeam フレームワーク

AI GitHub リポジトリ

#115

大規模言語モデル（LLM）およびAIエージェントのレッドチーミングを目的としたフレームワークであり、AIシステムの堅牢性とセキュリティをテストし、向上させるための体系的なアプローチを提供します。DeepTeamは、大規模言語モデル（LLM）およびAIエージェントのレッドチーミングを目的としたフレームワークであり、AIシステムの堅牢性とセキュリティをテストし、向上させるための体系的なアプローチを提供します。

Giskard

AI アプリ

#94

継続的なレッドチーミングとLLMセキュリティに焦点を当てたAIセキュリティプラットフォームです。脆弱性を検出し、幻覚を防ぎ、自動テストと評価を通じてAIシステムを保護します。Giskardは、継続的なレッドチーミングとLLMセキュリティに焦点を当てたAIセキュリティプラットフォームです。脆弱性を検出し、幻覚を防ぎ、自動テストと評価を通じてAIシステムを保護します。

エージェンティックセキュリティフレームワークラボ

AI GitHub リポジトリ

エージェンティックAIシステムを構築、保護、評価、ベンチマークするためのフレームワークに依存しないプラットフォームです。LangGraph、LangChain、CrewAI、LlamaIndexなどのツールを統合し、決定論的な検証、評価、フォールバック、セキュリティコントロールを提供します。エージェンティックセキュリティフレームワークラボは、エージェンティックAIシステムを構築、保護、評価、ベンチマークするためのフレームワークに依存しないプラットフォームです。LangGraph、LangChain、CrewAI、LlamaIndexなどのツールを統合し、決定論的な検証、評価、フォールバック、セキュリティコントロールを提供します。

Mindgard AI Security

AI アプリ

#37

AIモデル、エージェント、アプリケーションの発見、評価、防御のための自動AIレッドチーミングとセキュリティテストを提供します。自律的なレッドチーマーとして機能し、AIの攻撃対象領域をマッピングし、悪用される前に影響の大きい脆弱性を特定することで、堅牢なAIシステムセキュリティを確保します。Mindgardは、AIモデル、エージェント、アプリケーションの発見、評価、防御のための自動AIレッドチーミングとセキュリティテストを提供します。自律的なレッドチーマーとして機能し、AIの攻撃対象領域をマッピングし、悪用される前に影響の大きい脆弱性を特定することで、堅牢なAIシステムセキュリティを確保します。

Equixly Agentic AI Hacker

AI アプリ

#131

Agentic AI Hackerによる継続的なAPIペネトレーションテストを提供します。APIを24時間365日自律的に発見・テストし、攻撃者よりも先に悪用可能なリスクを特定します。このプラットフォームはDevSecOpsワークフローに統合され、最新のAPI駆動型アーキテクチャに対してリアルタイムの検証と修正に関する洞察を提供します。Equixlyは、Agentic AI Hackerによる継続的なAPIペネトレーションテストを提供します。APIを24時間365日自律的に発見・テストし、攻撃者よりも先に悪用可能なリスクを特定します。このプラットフォームはDevSecOpsワークフローに統合され、最新のAPI駆動型アーキテクチャに対してリアルタイムの検証と修正に関する洞察を提供します。