在 Vulkanised 2025 演讲中，NVIDIA 介绍了 Vulkan 在 AI/机器学习领域取得的巨大成功，并在某些领域已能与 CUDA 相媲美。在此之后，Red Hat 工程师兼 DRM 子系统首席维护者 David Airlie 开始探索 Mesa Vulkan 驱动程序在 AI 推理方面的潜力。他成功地将英特尔 ANV、NVIDIA NVK 和 Radeon RADV 驱动程序用于基于 Vulkan 的 AI 推理，而对于所测试的 Radeon 硬件而言，它目前展现出了最大的潜力（性能），甚至可以与 ROCm 计算堆栈相媲美。
David Airlie 今天分享了一篇博文，概述了他探索 Mesa Vulkan 驱动程序用于 AI 推理的经验。同时，他和 Red Hat 的 Karol Herbst 等人正在努力解决 Mesa Vulkan 驱动程序中的功能缺陷，使其更适合处理 AI 工作负载。
使用 ramalama 包装器到 Llama.cpp，Airlie 测试了不同的开源和闭源驱动程序选项。使用 Mesa NVK 驱动程序，性能仍然比官方的 NVIDIA 闭源驱动程序堆栈慢得多。这并不奇怪，特别是考虑到我们最近在Mesa 25.2 NVK 与 NVIDIA R575 Linux Graphics Performance For GeForce RTX 40 系列中的 NVK 图形基准测试。
在英特尔方面，他能够让 Vulkan AI 推理与 ANV 驱动程序一起工作，但无法让 oneAPI/SYCL 堆栈正常工作。在 AMD 方面，它目前显示出最大的潜力。Airlie 的结果表明，使用 ramalama/llama.cpp 生成令牌的 RADV Vulkan 性能可能比使用官方的 AMD ROCm 计算堆栈更快。凭借快速处理，ROCm 至少目前领先，但希望一些 Mesa/RADV 优化可以使其领先于 ROCm。
以下是 Airlie 分享的 GPU 驱动程序/硬件比较数据：
本文来自作者投稿，版权归原作者所有。如需转载，请注明出处：https://www.nxrte.com/zixun/60049.html
