清华团队发布开源“赤兔 Chitu”推理引擎，推动国产AI生态的进步

近日，清华大学高性能计算研究所翟季冬教授团队与清华系科创企业清程极智联合发布开源大模型推理引擎“赤兔 Chitu”，该举措标志着国内在人工智能（AI）领域，尤其是在推理引擎开发方面取得一项重要突破。

“赤兔 Chitu”引擎的核心优势在于其能够原生运行 FP8 精度模型，且兼容非英伟达 Hopper 架构的 GPU 以及各类国产芯片。这意味着，无论采用进口芯片或国产芯片，开发者均可利用该推理引擎实现高效的 AI 模型推理。此项进展不仅有助于推动国产 AI 芯片的广泛应用，也为国内 AI 生态系统的构建提供了强有力的技术支撑。

清程极智首席执行官汤雄超在发布会上指出，目前国内在推理引擎这一关键环节仍缺乏生产级别的开源产品。“赤兔 Chitu”的开源旨在解决这一瓶颈，助力国内 AI 生态建设。通过开放源代码，开发者和研究人员能够自由地使用、修改和优化该推理引擎，从而加速国内 AI 技术的迭代与创新。

在全球 AI 技术竞争日趋激烈的背景下，清华团队的这一举措将为国内企业在 AI 领域的发展带来新的机遇。借助“赤兔 Chitu”推理引擎，企业能够更迅速地研发出满足市场需求的 AI 产品，进而提升整体竞争力。此外，开源模式亦将吸引更多开发者参与到 AI 研发中，共同推动技术进步。

“赤兔 Chitu”的发布不仅是一次技术创新，更是推动国产 AI 产业链完善的关键一步。展望未来，期待更多企业和开发者能够借助此工具，在 AI 领域取得长足发展，共同开创中国 AI 新时代。