ollama 0.12.6-rc0 发布,推出实验性 Vulkan 支持及扩展 AMD 和 Intel GPU 覆盖范围

ollama 0.12.6-rc0 软件发布,带来了实验性的 Vulkan API 支持。

ollama 软件因能轻松运行大语言模型(如GPT-OSS、DeepSeek-R1、Gemma 3以及Llama 3/4等LLM)而持续受到技术爱好者青睐。该软件广泛集成各类应用程序并获得库支持,同时借助Llama.cpp完成大部分核心工作。一项备受期待的功能终于在 ollama 中实现:当 GPU 支持不可用时,可启用Vulkan API替代方案。

ollama 0.12.6-rc0 发布,推出实验性 Vulkan 支持及扩展 AMD 和 Intel GPU 覆盖范围

ollama 0.12.6版本引入了实验性Vulkan支持。通过本次0.12.6-rc0测试版,源代码构建用户可使用Vulkan功能。该支持最终将集成至未来二进制版本,但当前开发团队仍在攻克若干技术障碍。

ollama的Vulkan支持将使更多GPU得以启用,尤其适用于原本无法获得ROCM或SYCL/OpenCL支持的AMD与英特尔显卡。

该功能需求单已追踪 ollama 的 Vulkan 支持开发长达一年半,今日终于随着-rc0里程碑的达成而正式关闭。

有关 Vulkan 对 ollama 的实验性支持的详细信息,请参阅v0.12.6-rc0 公告

版权声明:本文内容转自互联网,本文观点仅代表作者本人。本站仅提供信息存储空间服务,所有权归原作者所有。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至1393616908@qq.com 举报,一经查实,本站将立刻删除。

(0)

相关推荐

发表回复

登录后才能评论