vLLM `v0.22.1` 发布，新增对JetBrains Mellum v2等模型的支持并修复BUG

核心摘要

vLLM 发布了 `v0.22.1` 补丁版本，除了修复现有Bug外，还新增了对JetBrains Mellum v2、zentorc等新模型的支持，扩展了其模型兼容性。

机会与影响

vLLM作为高性能LLM推理和服务框架，其对新模型的快速支持，使开发者能更便捷地部署和利用最新的语言模型，提升了开发效率和模型选择的灵活性。

来源信息

该条资讯来自 github.com。标签：重点。相关平台：github。