Arch
Arch是一个智能的第7层网关,旨在保护、观察和个性化LLM应用程序、代理和助手。
列在类别中:
开源开发工具人工智能描述
Arch是一个智能的第7层网关,旨在保护、观察和个性化LLM应用程序、代理、助手和与您的API的协作。它处理与提示处理相关的关键任务,包括检测和拒绝越狱尝试、智能调用后端API以及管理提示和LLM交互的可观察性。
如何使用 Arch?
要使用Arch,请安装CLI,使用您的应用程序设置进行配置,并与您的LLM提供商集成。请按照快速入门指南进行详细步骤。
核心功能 Arch:
1️⃣
快速代理和RAG应用程序的功能调用
2️⃣
提示保护以防止越狱尝试
3️⃣
智能重试和弹性连接的流量管理
4️⃣
基于标准的可观察性以实现完整的请求追踪
5️⃣
LLM和API集成的集中管理
为什么要使用 Arch?
# | 使用案例 | 状态 | |
---|---|---|---|
# 1 | 使用Arch的功能调用能力构建天气预报服务 | ✅ | |
# 2 | 创建一个完整的保险代理应用程序与Arch | ✅ | |
# 3 | 使用Arch开发一个网络协作代理 | ✅ |
开发者 Arch?
Arch由Envoy Proxy的核心贡献者构建,专注于安全处理、强大的可观察性和与API的无缝集成,所有这些都在业务逻辑之外。