llama.cpp 发布 b9630 版本

核心摘要

llama.cpp 新版本 b9630 主要增加了对 Cohere2MoE 模型词汇表的支持（针对 TINY_AYA 模型）。这是 llama.cpp 的一次重要更新。

机会与影响

开发者可以利用此更新在本地运行更多类型的 LLM，特别是增强了 macOS/iOS 上的性能优化，推动了本地模型推理的多样性和效率。

来源信息

该条资讯来自 github.com。标签：重点。相关平台：github。