英特尔工程师周三发布了 OpenVINO 2023.3，作为这一领先的开源人工智能工具包的最新重大更新。OpenVINO 2023.3 为新型 Emerald Rapids 和 Meteor Lake 处理器提供了 “全面支持”，改进了其他英特尔硬件支持，并继续扩大对生成式人工智能（GenAI）和大型语言模型（LLM）的支持。
OpenVINO 2023.3推出了OpenVINO Gen AI资源库，用于演示大型语言模型的本地C/C++管道样本。OpenVINO 还验证了其他模型，包括 Mistral、Zephyr、ChatGLM3 等。Torch.compile 现在也与 OpenVINO 完全集成。
为了扩大对大型语言模型的支持，现在英特尔至强 CPU 以及英特尔酷睿和英特尔 iGPU 都支持 INT4 重量压缩模型格式。此外，基于变压器的 LLM 在 CPU 和 GPU 上的性能也得到了提高，”拥抱面 “模型的优化也更加容易，等等。
OpenVINO 2023.3 版本现在还全面支持第五代 Xeon 可扩展“Emerald Rapids”处理器、对 Intel Core Ultra“Meteor Lake”处理器的进一步优化、ARM 平台上的性能改进、预览 JavaScript API 以及其他改进。
通过GitHub获取有关 OpenVINO 2023.3 大型版本的下载和更多详细信息。
本文来自作者投稿，版权归原作者所有。如需转载，请注明出处：https://www.nxrte.com/zixun/42187.html
