llama.cpp b10017发布，SYCL内存分配优化

核心摘要

llama.cpp发布b10017版本，将SYCL USM系统分配的最小缓冲区大小从1GiB提升至4GiB，以优化模型权重导致的设备内存过载问题。

机会与影响

对于使用llama.cpp进行本地LLM推理的开发者，此更新有望提升大模型运行时的内存管理效率和稳定性。

来源信息

该条资讯来自 github.com。标签：重点。相关平台：github。