Arch es una puerta de enlace inteligente de capa 7 diseñada para proteger, observar y personalizar aplicaciones LLM, agentes y asistentes.
Listado en categorías:
Código abiertoHerramientas de desarrolloInteligencia artificialDescripción
Arch es una puerta de enlace inteligente de capa 7 diseñada para proteger, observar y personalizar aplicaciones, agentes, asistentes y copilotos de LLM con tus APIs. Maneja tareas críticas relacionadas con el procesamiento de solicitudes, incluyendo la detección y rechazo de intentos de jailbreak, la llamada inteligente a APIs de backend y la gestión de la observabilidad de las solicitudes y las interacciones de LLM.
Cómo usar Arch?
Para usar Arch, instala la CLI, configúralo con la configuración de tu aplicación e intégralo con tus proveedores de LLM. Sigue la guía de inicio rápido para pasos detallados.
Características principales de Arch:
1️⃣
Llamada a funciones para aplicaciones Agentic y RAG rápidas
2️⃣
Guardia de solicitudes para prevenir intentos de jailbreak
3️⃣
Gestión de tráfico para reintentos inteligentes y conexiones resilientes
4️⃣
Observabilidad basada en estándares para un seguimiento completo de solicitudes
5️⃣
Gestión centralizada de LLM y integraciones de API
Por qué podría ser usado Arch?
# | Caso de Uso | Estado | |
---|---|---|---|
# 1 | Construir un servicio de pronóstico del tiempo utilizando las capacidades de llamada a funciones de Arch | ✅ | |
# 2 | Crear una aplicación completa de agente de seguros con Arch | ✅ | |
# 3 | Desarrollar un agente de copiloto de redes con Arch | ✅ |
Desarrollado por Arch?
Arch es desarrollado por los contribuyentes principales de Envoy Proxy, enfocados en el manejo seguro, la observabilidad robusta y la integración fluida de solicitudes con APIs, todo fuera de la lógica de negocio.