Живі запити до моделей
оновлюється кожні 5 с · рушій зараз: llama.cpp (qwen2.5-coder-32b)
запитів / год110
успішних110
токенів / год4621
сер. швидкість4.8 t/s
| час | модель | рушій | код | сек | t/s | токенів |
| 22:10:01 | qwen2.5-coder-32b | llamacpp | 200 | 14.22 | 6.8 | 97 |
| 22:09:40 | qwen2.5-coder-32b | llamacpp | 200 | 10.88 | 4.3 | 47 |
| 22:09:29 | qwen2.5-coder-32b | llamacpp | 200 | 8.33 | 2.4 | 20 |
| 22:09:20 | qwen2.5-coder-32b | llamacpp | 200 | 4.16 | 1.0 | 4 |
| 22:09:16 | qwen2.5-coder-32b | llamacpp | 200 | 9.69 | 5.0 | 48 |
| 22:09:05 | qwen2.5-coder-32b | llamacpp | 200 | 16.05 | 7.7 | 124 |
| 22:08:49 | qwen2.5-coder-32b | llamacpp | 200 | 22.44 | 7.2 | 162 |
| 22:08:26 | qwen2.5-coder-32b | llamacpp | 200 | 5.33 | 1.9 | 10 |
| 22:08:21 | qwen2.5-coder-32b | llamacpp | 200 | 8.68 | 3.3 | 29 |
| 22:08:12 | qwen2.5-coder-32b | llamacpp | 200 | 6.97 | 2.3 | 16 |
| 22:08:05 | qwen2.5-coder-32b | llamacpp | 200 | 9.46 | 5.4 | 51 |
| 22:07:55 | qwen2.5-coder-32b | llamacpp | 200 | 0.63 | 6.4 | 4 |
| 22:07:54 | qwen2.5-coder-32b | llamacpp | 200 | 2.35 | 1.7 | 4 |
| 22:07:52 | qwen2.5-coder-32b | llamacpp | 200 | 4.77 | 0.8 | 4 |
| 22:07:47 | qwen2.5-coder-32b | llamacpp | 200 | 4.79 | 0.8 | 4 |
| 22:07:42 | qwen2.5-coder-32b | llamacpp | 200 | 6.31 | 3.6 | 23 |
| 22:07:35 | qwen2.5-coder-32b | llamacpp | 200 | 6.38 | 7.7 | 49 |
| 22:07:28 | qwen2.5-coder-32b | llamacpp | 200 | 6.02 | 7.6 | 46 |
| 22:07:22 | qwen2.5-coder-32b | llamacpp | 200 | 12.58 | 7.7 | 97 |
| 21:58:57 | qwen2.5-coder-32b | llamacpp | 200 | 6.58 | 7.5 | 49 |
| 21:58:51 | qwen2.5-coder-32b | llamacpp | 200 | 2.53 | 7.1 | 18 |
| 21:58:48 | qwen2.5-coder-32b | llamacpp | 200 | 0.89 | 4.5 | 4 |
| 21:58:47 | qwen2.5-coder-32b | llamacpp | 200 | 6.56 | 7.3 | 48 |
| 21:58:40 | qwen2.5-coder-32b | llamacpp | 200 | 16.07 | 7.7 | 124 |
| 21:58:24 | qwen2.5-coder-32b | llamacpp | 200 | 20.83 | 7.8 | 162 |