Arch è un gateway intelligente di livello 7 progettato per proteggere, osservare e personalizzare le applicazioni LLM, gli agenti e gli assistenti.
Elencato nelle categorie:
Open SourceStrumenti per sviluppatoriIntelligenza artificiale
Descrizione
Arch è un gateway intelligente di livello 7 progettato per proteggere, osservare e personalizzare le applicazioni LLM, agenti, assistenti e copiloti con le tue API. Gestisce compiti critici relativi all'elaborazione dei prompt, inclusa la rilevazione e il rifiuto dei tentativi di jailbreak, la chiamata intelligente delle API di backend e la gestione dell'osservabilità dei prompt e delle interazioni LLM.
Come usare Arch?
Per utilizzare Arch, installa il CLI, configurarlo con le impostazioni della tua applicazione e integrarlo con i tuoi fornitori di LLM. Segui la guida rapida per i passaggi dettagliati.
Funzionalità principali di Arch:
1️⃣
Chiamata di Funzione per app Agentic e RAG veloci
2️⃣
Prompt Guard per prevenire tentativi di jailbreak
3️⃣
Gestione del Traffico per ripetizioni intelligenti e connessioni resilienti
4️⃣
Osservabilità basata su standard per una tracciabilità completa delle richieste
5️⃣
Gestione centralizzata degli LLM e delle integrazioni API
Perché potrebbe essere usato Arch?
| # | Caso d'uso | Stato | |
|---|---|---|---|
| # 1 | Costruire un servizio di previsione meteorologica utilizzando le capacità di chiamata di funzione di Arch | ✅ | |
| # 2 | Creare un'applicazione completa per agenti assicurativi con Arch | ✅ | |
| # 3 | Sviluppare un agente copilota di rete con Arch | ✅ | |
Sviluppato da Arch?
Arch è costruito dai contributori principali di Envoy Proxy, concentrandosi sulla gestione sicura, sull'osservabilità robusta e sull'integrazione senza soluzione di continuità dei prompt con le API, tutto al di fuori della logica aziendale.