Open Source LLM Performance Tracker
这是一个用于LLM性能跟踪仪表板和成本计算器的模板。它是用Nextjs和Tinybird构建的。
列在类别中:
人工智能开源分析
描述
LLM性能跟踪器是一个用于创建仪表板和成本计算器的模板，专门设计用于跟踪与大型语言模型（LLM）相关的性能和成本。它使用Next.js和Tinybird构建，允许用户监控与LLM使用相关的各种指标，包括成本、请求、令牌和持续时间，按模型、提供者、组织、项目、环境和用户分类。
如何使用 Open Source LLM Performance Tracker?
要使用LLM性能跟踪器，请从GitHub仓库中分叉，按照您的需求进行自定义，并设置必要的环境变量。启动Tinybird服务，配置Next.js应用程序，然后运行它以在浏览器中访问仪表板。
核心功能 Open Source LLM Performance Tracker:
1️⃣
按各种维度跟踪LLM的成本、请求、令牌和持续时间
2️⃣
多租户用户界面仪表板
3️⃣
AI成本计算器
4️⃣
向量搜索集成
5️⃣
AI提问功能集成
为什么要使用 Open Source LLM Performance Tracker?
| # | 使用案例 | 状态 | |
|---|---|---|---|
| # 1 | 组织可以有效监控其LLM的使用和成本 | ✅ | |
| # 2 | 开发人员可以自定义仪表板以满足特定的分析需求 | ✅ | |
| # 3 | 数据科学家可以分析不同模型和环境下的性能指标 | ✅ | |
开发者 Open Source LLM Performance Tracker?
Tinybird是一家专注于提供实时数据分析和性能跟踪工具的公司，使开发人员和组织能够构建高效的数据驱动应用程序。