ハッカーのための機械学習

Springboardの機械学習とAIブートキャンプは、学生に機械学習、深層学習、AIを教えるために設計された6か月のオンラインプログラムです。1対1のメンタリングを通じて、学生は実際のAIシステムを構築・展開し、回帰分析、異常検知などのスキルを習得します。卒業生は証明書とキャリアサポートを得ます。

敵対的ロバストネスツールボックス

AI フレームワーク

#34

機械学習モデルのセキュリティを強化するために設計されたPythonライブラリです。敵対的脅威に対してモデルを評価、保護、検証するためのツールを提供し、さまざまなフレームワークとデータタイプをサポートします。敵対的ロバストネスツールボックスは、機械学習モデルのセキュリティを強化するために設計されたPythonライブラリです。敵対的脅威に対してモデルを評価、保護、検証するためのツールを提供し、さまざまなフレームワークとデータタイプをサポートします。

AgentDojo

AI フレームワーク

LLMエージェントのプロンプトインジェクション攻撃と防御を評価するために設計された動的な環境です。ETHチューリッヒとインバリアントラボの研究者によって開発され、AIの脆弱性の研究を支援するためのベンチマークおよび新しい攻撃と防御モデルを作成するためのツールを提供します。AgentDojoは、LLMエージェントのプロンプトインジェクション攻撃と防御を評価するために設計された動的な環境です。ETHチューリッヒとインバリアントラボの研究者によって開発され、AIの脆弱性の研究を支援するためのベンチマークおよび新しい攻撃と防御モデルを作成するためのツールを提供します。

Giskard

AI アプリ

#94

継続的なレッドチーミングとLLMセキュリティに焦点を当てたAIセキュリティプラットフォームです。脆弱性を検出し、幻覚を防ぎ、自動テストと評価を通じてAIシステムを保護します。Giskardは、継続的なレッドチーミングとLLMセキュリティに焦点を当てたAIセキュリティプラットフォームです。脆弱性を検出し、幻覚を防ぎ、自動テストと評価を通じてAIシステムを保護します。

modelscan - モデルシリアライズ保護

AI GitHub リポジトリ

モデルシリアライズ攻撃からの保護に焦点を当てたGitHubプロジェクトです。開発者がシリアライズ中の潜在的な脆弱性から機械学習モデルを保護するためのツールとリソースを提供します。Modelscanは、モデルシリアライズ攻撃からの保護に焦点を当てたGitHubプロジェクトです。開発者がシリアライズ中の潜在的な脆弱性から機械学習モデルを保護するためのツールとリソースを提供します。

大規模言語モデルのセキュリティを評価するために設計されたオープンソースのLLM脆弱性スキャナーです。NVIDIAとコミュニティによってサポートされており、多数のプラグインと数千のプロンプトを提供しています。garakは、大規模言語モデルのセキュリティを評価するために設計されたオープンソースのLLM脆弱性スキャナーです。NVIDIAとコミュニティによってサポートされており、多数のプラグインと数千のプロンプトを提供しています。

Adversa AI

AI アプリ

#119

AIエージェント、LLM、GenAIアプリケーションに特化した継続的なAIレッドチーミングのための自律プラットフォームを提供します。セキュリティ脆弱性を特定・修正し、AIシステムが過度のリスクを導入することなく大規模に展開されることを保証します。このサービスはOWASPおよびNIST標準に対応しており、カスタムAIソリューションに合わ…Adversa AIは、AIエージェント、LLM、GenAIアプリケーションに特化した継続的なAIレッドチーミングのための自律プラットフォームを提供します。セキュリティ脆弱性を特定・修正し、AIシステムが過度のリスクを導入することなく大規模に展開されることを保証します。このサービスはOWASPおよびNIST標準に対応しており、カスタムAIソリューションに合わ…

SkillSpector セキュリティスキャナー

AI GitHub リポジトリ

AIエージェントスキルのためのセキュリティスキャナーで、脆弱性、悪意のあるパターン、セキュリティリスクを検出するように設計されています。インストール前にClaude Code、Codex、MCPスキルにおけるプロンプトインジェクション、データ流出、サプライチェーンリスクに焦点を当てています。SkillSpectorはAIエージェントスキルのためのセキュリティスキャナーで、脆弱性、悪意のあるパターン、セキュリティリスクを検出するように設計されています。インストール前にClaude Code、Codex、MCPスキルにおけるプロンプトインジェクション、データ流出、サプライチェーンリスクに焦点を当てています。