红帽RHEL AI 1.3发布：新增Granite LLM与英特尔Gaudi 3支持

Red Hat 近期宣布其企业级 Linux 平台 RHEL AI 的最新版本 1.3 现已上市，该版本集成了 IBM 的 Granite 系列大型语言模型（LLM），同时还支持 Intel Gaudi3 加速器。此举旨在为 Red Hat 的用户提供更为强大的 AI 算力，并进一步丰富其在人工智能领域的应用场景。

借助 RHEL AI 的强大功能，数据科学家和 AI 工程师能够更高效地构建、测试和部署各种人工智能应用。它不仅支持多种加速器硬件，还具备出色的软件堆栈优化和预集成功能，极大地简化了开发流程。通过利用 Red Hat 在开源领域的深厚积累，可以确保模型训练和推理过程中的透明度和可控性，从而满足企业对 AI 应用的合规性要求。

RHEL AI 1.3 旨在为企业级应用提供全面的加速、优化和管理能力，从而简化复杂的人工智能工作流程。本次更新还集成了 IBM 备受赞誉的 Granite 系列预训练语言模型，并针对推理任务进行了优化。此外，它还支持 IBM 的 InstructLab 项目，进一步扩展了 RHEL 的功能，涵盖了预训练和微调模型等多种应用场景。

在模型方面，Granite3.08b 文本生成模型已通过认证，可以用于各种生成式人工智能任务，例如文本摘要、内容生成以及问答等。此外，RHEL AI 还集成了 IBM 的 Docling 代码生成模型，能够支持多种编程语言和文档格式，包括 Markdown 和 JSON 等，从而满足开发人员的各种需求。该版本还增强了对检索增强生成（RAG）的支持，能够优化文本嵌入和向量数据库，从而提升大型语言模型的响应质量。

值得一提的是，新版本还集成了对 Intel Gaudi3 加速器的初步支持，这将为用户提供更多硬件选择，从而更好地满足其多样化的 AI 算力需求。与此同时，RHEL AI 软件包还包含 Docling 的相关依赖项，并提供了一系列 InstructLab 指令数据集，以便于用户快速上手。

关键要点：

RHEL AI 1.3 整合了 IBM Granite 大型语言模型，为用户提供更强大的 AI 算力。

该版本还支持 Intel Gaudi3 加速器，进一步扩展了硬件选择范围。

Red Hat 致力于为企业提供全面的 AI 解决方案，简化 AI 应用的开发和部署流程。