OpenShield
OpenShield - это брандмауэр для моделей ИИ, который обеспечивает защиту от атак и функции безопасности, такие как ограничение скорости и фильтрация контента.
Перечислено в категориях:
Искусственный интеллектБезопасностьGitHub
Описание
OpenShield - это брандмауэр, разработанный специально для моделей ИИ, предоставляющий основные функции безопасности для защиты от различных векторов атак. Он предлагает ограничение скорости, фильтрацию контента и фильтрацию по ключевым словам, чтобы обеспечить целостность и безопасность взаимодействий с ИИ.
Как использовать OpenShield?
Чтобы использовать OpenShield, настройте свою среду, изменив файл env с вашими ключами API OpenAI и HuggingFace. Соберите и запустите приложение с помощью Docker, и вы сможете начать тестирование с предоставленными демо-данными.
Основные функции OpenShield:
1️⃣
Ограничение скорости на пользователя
2️⃣
Фильтрация контента
3️⃣
Фильтрация по ключевым словам
4️⃣
Расчет токенизатора для моделей OpenAI
5️⃣
Интеграция с OpenMeter и VectorDB
Почему использовать OpenShield?
| # | Сценарий использования | Статус | |
|---|---|---|---|
| # 1 | Защита моделей ИИ от злонамеренных входных данных и атак | ✅ | |
| # 2 | Обеспечение безопасных взаимодействий с моделями ИИ в производственных средах | ✅ | |
| # 3 | Эффективное управление и мониторинг использования API | ✅ | |
Разработано OpenShield?
OpenShield разработан преданной командой, сосредоточенной на повышении безопасности ИИ. Они стремятся предоставить инструменты и ресурсы для защиты моделей ИИ от новых угроз.