Arch là một cổng thông minh lớp 7 được thiết kế để bảo vệ, quan sát và cá nhân hóa các ứng dụng LLM, đại lý và trợ lý.
Liệt kê trong các danh mục:
Mã nguồn mởCông cụ phát triểnTrí tuệ nhân tạo
Mô tả
Arch là một cổng thông minh Layer 7 được thiết kế để bảo vệ, quan sát và cá nhân hóa các ứng dụng LLM, đại lý, trợ lý và copilots với các API của bạn. Nó xử lý các nhiệm vụ quan trọng liên quan đến việc xử lý prompt, bao gồm phát hiện và từ chối các nỗ lực jailbreak, gọi thông minh các API backend và quản lý khả năng quan sát của các prompt và tương tác LLM.
Cách sử dụng Arch?
Để sử dụng Arch, hãy cài đặt CLI, cấu hình nó với cài đặt ứng dụng của bạn và tích hợp nó với các nhà cung cấp LLM của bạn. Làm theo hướng dẫn nhanh để biết các bước chi tiết.
Tính năng chính của Arch:
1️⃣
Gọi chức năng cho các ứng dụng Agentic và RAG nhanh chóng
2️⃣
Bảo vệ Prompt để ngăn chặn các nỗ lực jailbreak
3️⃣
Quản lý lưu lượng cho các lần thử lại thông minh và kết nối bền vững
4️⃣
Khả năng quan sát dựa trên tiêu chuẩn cho việc theo dõi yêu cầu hoàn chỉnh
5️⃣
Quản lý tập trung các LLM và tích hợp API
Tại sao nên sử dụng Arch?
| # | Trường hợp sử dụng | Trạng thái | |
|---|---|---|---|
| # 1 | Xây dựng dịch vụ dự báo thời tiết sử dụng khả năng gọi chức năng của Arch | ✅ | |
| # 2 | Tạo một ứng dụng đại lý bảo hiểm hoàn chỉnh với Arch | ✅ | |
| # 3 | Phát triển một đại lý copilot mạng với Arch | ✅ | |
Do ai phát triển Arch?
Arch được xây dựng bởi các đóng góp chính của Envoy Proxy, tập trung vào việc xử lý an toàn, khả năng quan sát mạnh mẽ và tích hợp liền mạch các prompt với các API, tất cả đều bên ngoài logic kinh doanh.