Arch - это интеллектуальный шлюз уровня 7, разработанный для защиты, наблюдения и персонализации приложений LLM, агентов и помощников.
Перечислено в категориях:
Открытый исходный кодИнструменты разработчикаИскусственный интеллект
Описание
Arch — это интеллектуальный шлюз уровня 7, предназначенный для защиты, наблюдения и персонализации приложений LLM, агентов, помощников и сопилотов с вашими API. Он выполняет критически важные задачи, связанные с обработкой подсказок, включая обнаружение и отклонение попыток взлома, интеллектуальный вызов бэкенд API и управление наблюдаемостью подсказок и взаимодействий LLM.
Как использовать Arch?
Чтобы использовать Arch, установите CLI, настройте его с вашими параметрами приложения и интегрируйте его с вашими поставщиками LLM. Следуйте руководству по быстрому старту для получения подробных шагов.
Основные функции Arch:
1️⃣
Вызов функций для быстрых агентских и RAG приложений
2️⃣
Защита подсказок для предотвращения попыток взлома
3️⃣
Управление трафиком для умных повторных попыток и устойчивых соединений
4️⃣
Наблюдаемость на основе стандартов для полного отслеживания запросов
5️⃣
Централизованное управление LLM и интеграциями API
Почему использовать Arch?
| # | Сценарий использования | Статус | |
|---|---|---|---|
| # 1 | Создание сервиса прогнозирования погоды с использованием возможностей вызова функций Arch | ✅ | |
| # 2 | Создание полного приложения страхового агента с Arch | ✅ | |
| # 3 | Разработка сетевого помощника-агента с Arch | ✅ | |
Разработано Arch?
Arch разработан основными участниками проекта Envoy Proxy, сосредоточенными на безопасной обработке, надежной наблюдаемости и бесшовной интеграции подсказок с API, вне бизнес-логики.