Arch est une passerelle intelligente de couche 7 conçue pour protéger, observer et personnaliser les applications LLM, les agents et les assistants.
Listé dans les catégories:
Open SourceOutils de développementIntelligence artificielle
Description
Arch est une passerelle intelligente de couche 7 conçue pour protéger, observer et personnaliser les applications LLM, les agents, les assistants et les copilotes avec vos API. Elle gère des tâches critiques liées au traitement des invites, y compris la détection et le rejet des tentatives de jailbreak, l'appel intelligent des API backend et la gestion de l'observabilité des invites et des interactions LLM.
Comment utiliser Arch?
Pour utiliser Arch, installez le CLI, configurez-le avec les paramètres de votre application et intégrez-le avec vos fournisseurs LLM. Suivez le guide de démarrage rapide pour des étapes détaillées.
Fonctionnalités principales de Arch:
1️⃣
Appel de fonction pour des applications Agentic et RAG rapides
2️⃣
Protection des invites pour prévenir les tentatives de jailbreak
3️⃣
Gestion du trafic pour des réessais intelligents et des connexions résilientes
4️⃣
Observabilité basée sur des normes pour un traçage complet des requêtes
5️⃣
Gestion centralisée des LLM et des intégrations API
Pourquoi pourrait-il être utilisé Arch?
| # | Cas d'utilisation | Statut | |
|---|---|---|---|
| # 1 | Construire un service de prévisions météorologiques en utilisant les capacités d'appel de fonction d'Arch | ✅ | |
| # 2 | Créer une application complète d'agent d'assurance avec Arch | ✅ | |
| # 3 | Développer un agent copilote de mise en réseau avec Arch | ✅ | |
Développé par Arch?
Arch est construit par les contributeurs principaux d'Envoy Proxy, se concentrant sur la gestion sécurisée, l'observabilité robuste et l'intégration transparente des invites avec les API, le tout en dehors de la logique métier.