速度
输出有多快:持续输出速度和首个 token 的等待时间,两者之间、以及与价格之间都需要权衡。测的是某个服务商提供的接口,而不是模型本身。 按它在多少项基准里进入前 10 排序,一样多时看最好名次。每列保持各自的排名,不做平均。 「—」表示该榜没有收录这个模型,不是零分。尚未识别出具体模型的条目不在此处出现,但仍显示在各自的原始榜单上。
| 模型 | 进入前 10 | Artificial Analysis LLM Leaderboard Output Speed | Artificial Analysis LLM Leaderboard Time To First Token |
|---|---|---|---|
| | 2/2 | #1 1523/s | #6 0.56s |
| | 2/2 | #10 307/s | #7 0.57s |
| | 1/2 | #12 289/s | #1 0.32s |
| | 1/2 | #2 818/s | #135 3.21s |
| | 1/2 | #28 208/s | #2 0.46s |
| | 1/2 | #3 456/s | #148 6.51s |
| | 1/2 | #95 90/s | #3 0.47s |
| | 1/2 | #4 365/s | #151 8.96s |
| | 1/2 | #35 175/s | #4 0.48s |
| | 1/2 | #5 339/s | #60 1.21s |
| | 1/2 | #25 215/s | #5 0.53s |
| | 1/2 | #6 334/s | #116 2.50s |
| | 1/2 | #7 325/s | #154 12.05s |
| | 1/2 | #8 323/s | #146 5.54s |
| | 1/2 | #23 222/s | #8 0.59s |
| | 1/2 | #9 321/s | #80 1.70s |
| | 1/2 | #84 103/s | #9 0.59s |
| | 1/2 | #145 49/s | #10 0.60s |