vLLM v0.31.0rc3 发布 Model Runner V2，支持随机虚拟输入

核心摘要

vLLM 的 v0.31.0rc3 候选版本引入了 Model Runner V2，特别增加了对随机虚拟输入的支持，这对于测试和基准测试非常有用。

机会与影响

开发者可以使用更多样化的虚拟输入，对 vLLM 中的模型进行更全面的测试和性能评估。

来源信息

该条资讯来自 github.com。标签：重点。相关平台：github。