Snappy - LLMs Speed Test
SnappyBenchmark LLM địa phương của bạn trong vài giây. Chọn một mô hình từ ollama. Đã xảy ra lỗi khi kết nối với Ollama. Được tạo bởi Raul Carini. Mã nguồn trên GitHub.
Liệt kê trong các danh mục:
Trí tuệ nhân tạoCông cụ phát triểnMã nguồn mở
Mô tả
SnappyBenchmark là một công cụ được thiết kế để nhanh chóng đánh giá hiệu suất của các Mô Hình Ngôn Ngữ Lớn (LLMs) cục bộ chỉ trong vài giây. Nó cho phép người dùng chọn một mô hình từ Ollama và cung cấp trải nghiệm liền mạch để đánh giá hiệu suất mô hình.
Cách sử dụng Snappy - LLMs Speed Test?
Để sử dụng SnappyBenchmark, chỉ cần chọn một mô hình từ Ollama và khởi động quá trình đánh giá. Công cụ sẽ cung cấp cho bạn các chỉ số hiệu suất trong vài giây.
Tính năng chính của Snappy - LLMs Speed Test:
1️⃣
Đánh giá nhanh các LLM cục bộ
2️⃣
Chọn mô hình từ Ollama
3️⃣
Giao diện thân thiện với người dùng
4️⃣
Đánh giá hiệu suất nhanh chóng
5️⃣
Mã nguồn mở có sẵn trên GitHub
Tại sao nên sử dụng Snappy - LLMs Speed Test?
| # | Trường hợp sử dụng | Trạng thái | |
|---|---|---|---|
| # 1 | Đánh giá hiệu suất của các LLM khác nhau cục bộ | ✅ | |
| # 2 | So sánh hiệu quả mô hình cho các nhiệm vụ cụ thể | ✅ | |
| # 3 | Kiểm tra các LLM mới trước khi triển khai | ✅ | |
Do ai phát triển Snappy - LLMs Speed Test?
SnappyBenchmark được tạo ra bởi Raul Carini, người đã làm cho mã nguồn có sẵn trên GitHub để người dùng khám phá và đóng góp cho dự án.