Инструменты безопасности PurpleLlama

Agentic Security Scanner

AI-репозитории на GitHub

Сканер уязвимостей и набор инструментов для красной команды ИИ, предназначенный для выявления и устранения уязвимостей в больших языковых моделях (LLM). Он…Agentic Security — это сканер уязвимостей и набор инструментов для красной команды ИИ, предназначенный для выявления и устранения уязвимостей в больших языковых моделях (LLM). Он…

Vulnhuntr - Обнаружение уязвимостей без примеров

AI-репозитории на GitHub

#123

Инструмент для обнаружения уязвимостей без примеров с использованием больших языковых моделей (LLMs). Он позволяет разработчикам выявлять потенциальные уязвимости…Vulnhuntr — это инструмент для обнаружения уязвимостей без примеров с использованием больших языковых моделей (LLMs). Он позволяет разработчикам выявлять потенциальные уязвимости…

DeepTeam Framework

AI-репозитории на GitHub

#122

Фреймворк, разработанный для тестирования больших языковых моделей (LLMs) и AI-агентов, предоставляющий структурированный подход к тестированию и улучшению…DeepTeam — это фреймворк, разработанный для тестирования больших языковых моделей (LLMs) и AI-агентов, предоставляющий структурированный подход к тестированию и улучшению…

Сканер уязвимостей LLM с открытым исходным кодом, предназначенный для оценки безопасности больших языковых моделей. Он предлагает множество плагинов и тысячи подсказок…garak — это сканер уязвимостей LLM с открытым исходным кодом, предназначенный для оценки безопасности больших языковых моделей. Он предлагает множество плагинов и тысячи подсказок…

ps-fuzz

AI-репозитории на GitHub

#98

Инструмент, разработанный для повышения безопасности приложений GenAI путем тестирования и укрепления системных подсказок. Его цель — обеспечить безопасность и…ps-fuzz — это инструмент, разработанный для повышения безопасности приложений GenAI путем тестирования и укрепления системных подсказок. Его цель — обеспечить безопасность и…

Предоставляет встроенные инструменты безопасности на основе ИИ для репозиториев, позволяя разработчикам рано обнаруживать и исправлять уязвимости. Он…GitHub Advanced Security предоставляет встроенные инструменты безопасности на основе ИИ для репозиториев, позволяя разработчикам рано обнаруживать и исправлять уязвимости. Он…

Agent Security Bench (ASB)

AI-репозитории на GitHub

Проект на GitHub, направленный на повышение безопасности ИИ-агентов. Он позволяет разработчикам участвовать в его разработке, способствуя созданию…Agent Security Bench (ASB) — это проект на GitHub, направленный на повышение безопасности ИИ-агентов. Он позволяет разработчикам участвовать в его разработке, способствуя созданию…

modelscan - Защита сериализации моделей

AI-репозитории на GitHub

Проект на GitHub, сосредоточенный на защите от атак сериализации моделей. Он предоставляет инструменты и ресурсы для разработчиков, чтобы защитить свои модели…Modelscan — это проект на GitHub, сосредоточенный на защите от атак сериализации моделей. Он предоставляет инструменты и ресурсы для разработчиков, чтобы защитить свои модели…