garak: LLM脆弱性スキャナー

AgentDojo

AI フレームワーク

LLMエージェントのプロンプトインジェクション攻撃と防御を評価するために設計された動的な環境です。ETHチューリッヒとインバリアントラボの研究者によって開発され、AIの脆弱性の研究を支援するためのベンチマークおよび新しい攻撃と防御モデルを作成するためのツールを提供します。AgentDojoは、LLMエージェントのプロンプトインジェクション攻撃と防御を評価するために設計された動的な環境です。ETHチューリッヒとインバリアントラボの研究者によって開発され、AIの脆弱性の研究を支援するためのベンチマークおよび新しい攻撃と防御モデルを作成するためのツールを提供します。

エージェンティックセキュリティスキャナー

AI GitHub リポジトリ

エージェンティックセキュリティは、大規模言語モデル（LLM）の脆弱性を特定し対処するために設計された脆弱性スキャナーおよびAIレッドチーミングキットです。セキュリティ専門家がAIシステムをテストし改善するためのツールを提供します。

DeepTeam フレームワーク

AI GitHub リポジトリ

#115

大規模言語モデル（LLM）およびAIエージェントのレッドチーミングを目的としたフレームワークであり、AIシステムの堅牢性とセキュリティをテストし、向上させるための体系的なアプローチを提供します。DeepTeamは、大規模言語モデル（LLM）およびAIエージェントのレッドチーミングを目的としたフレームワークであり、AIシステムの堅牢性とセキュリティをテストし、向上させるための体系的なアプローチを提供します。

Giskard

AI アプリ

#94

継続的なレッドチーミングとLLMセキュリティに焦点を当てたAIセキュリティプラットフォームです。脆弱性を検出し、幻覚を防ぎ、自動テストと評価を通じてAIシステムを保護します。Giskardは、継続的なレッドチーミングとLLMセキュリティに焦点を当てたAIセキュリティプラットフォームです。脆弱性を検出し、幻覚を防ぎ、自動テストと評価を通じてAIシステムを保護します。

PurpleLlama セキュリティツール

AI GitHub リポジトリ

大規模言語モデル（LLM）のセキュリティを評価し改善するために設計されたツールのセットを提供します。開発者はGitHubにアカウントを作成することでその開発に貢献でき、LLMセキュリティにおけるコラボレーションと革新を促進します。PurpleLlamaは、大規模言語モデル（LLM）のセキュリティを評価し改善するために設計されたツールのセットを提供します。開発者はGitHubにアカウントを作成することでその開発に貢献でき、LLMセキュリティにおけるコラボレーションと革新を促進します。

敵対的ロバストネスツールボックス

AI フレームワーク

#34

機械学習モデルのセキュリティを強化するために設計されたPythonライブラリです。敵対的脅威に対してモデルを評価、保護、検証するためのツールを提供し、さまざまなフレームワークとデータタイプをサポートします。敵対的ロバストネスツールボックスは、機械学習モデルのセキュリティを強化するために設計されたPythonライブラリです。敵対的脅威に対してモデルを評価、保護、検証するためのツールを提供し、さまざまなフレームワークとデータタイプをサポートします。

Vulnhuntr - ゼロショット脆弱性発見ツール

AI GitHub リポジトリ

#211

大規模言語モデル（LLMs）を使用したゼロショット脆弱性発見ツールです。開発者が事前の例なしにコード内の潜在的なセキュリティ脆弱性を特定できるようにし、ソフトウェアのセキュリティと信頼性を向上させます。Vulnhuntrは、大規模言語モデル（LLMs）を使用したゼロショット脆弱性発見ツールです。開発者が事前の例なしにコード内の潜在的なセキュリティ脆弱性を特定できるようにし、ソフトウェアのセキュリティと信頼性を向上させます。

Levo.ai セキュリティプラットフォーム

AI アプリ

#137

APIとAIセキュリティを組み合わせた包括的なセキュリティプラットフォームを提供します。リアルタイムの可視性、脅威検出、適応制御を提供し、AIエージェントとAPIを保護し、安全な企業導入とコンプライアンスを確保します。Levo.aiは、APIとAIセキュリティを組み合わせた包括的なセキュリティプラットフォームを提供します。リアルタイムの可視性、脅威検出、適応制御を提供し、AIエージェントとAPIを保護し、安全な企業導入とコンプライアンスを確保します。