每秒10个token到底有多快？

开发者Mike Veerman创建了一个名为tokenspeed的HTML应用程序，可模拟从每秒5个到800个token的LLM文本输出速度。用户能够直观感知模型广告中常见速度指标（如30 tokens/秒）的实际生成效果。该工具源代码公开，信息来源于Hacker News，适用于需要理解生成式AI响应速度的开发者与普通用户。