速度
輸出有多快:持續輸出速度和首個 token 的等待時間,兩者之間、以及與價格之間都需要權衡。測的是某個服務供應商提供的 API,而不是模型本身。 按它在多少項基準裡進入前 10 排序,一樣多時看最好名次。每列保持各自的排名,不做平均。 「—」表示該榜沒有收錄這個模型,不是零分。尚未識別出具體模型的條目不在此處出現,但仍顯示在各自的原始榜單上。
| 模型 | 進入前 10 | Artificial Analysis LLM Leaderboard Output Speed | Artificial Analysis LLM Leaderboard Time To First Token |
|---|---|---|---|
| | 2/2 | #1 1523/s | #6 0.56s |
| | 2/2 | #10 307/s | #7 0.57s |
| | 1/2 | #12 289/s | #1 0.32s |
| | 1/2 | #2 818/s | #135 3.21s |
| | 1/2 | #28 208/s | #2 0.46s |
| | 1/2 | #3 456/s | #148 6.51s |
| | 1/2 | #95 90/s | #3 0.47s |
| | 1/2 | #4 365/s | #151 8.96s |
| | 1/2 | #35 175/s | #4 0.48s |
| | 1/2 | #5 339/s | #60 1.21s |
| | 1/2 | #25 215/s | #5 0.53s |
| | 1/2 | #6 334/s | #116 2.50s |
| | 1/2 | #7 325/s | #154 12.05s |
| | 1/2 | #8 323/s | #146 5.54s |
| | 1/2 | #23 222/s | #8 0.59s |
| | 1/2 | #9 321/s | #80 1.70s |
| | 1/2 | #84 103/s | #9 0.59s |
| | 1/2 | #145 49/s | #10 0.60s |