返回首页 访问原文
ROCm HRX Loom
介绍
Loom 是 AMD ROCm HRX(HIP Runtime Extended)中的编译器与中间表示(IR)层。其首个正式版本 hrx-loom 0.1.0 于 2026 年 10 月 29 日发布到 PyPI。一个可用 pip 安装的 SDK 就包含 Loom 编译器、运行时、Python API 和命令行工具,能把 AI 模型编译并部署到 CPU、AMD GPU 和 AMD XDNA NPU 上——无需安装完整的 ROCm SDK。
解释
关键信息
- 目标设备:
task(CPU)、amdgpu(通过 HSA 代码原生运行于 AMD GPU)、xdna(AMD NPU)以及vulkan(可移植的 SPIR-V 路径)。x86 和 WebAssembly 后端仍在完善中。 - 工具链:
loom-fetch从模型目录安装程序和资源;loom-serve通过 HTTP 提供模型服务;loom-benchmark做性能测试。 - 无需 ROCm:在 AMD 硬件上通过
libamdf加系统驱动运行。 - 平台:Linux x86-64(glibc 2.39+,如 Ubuntu 24.04)和 Windows 11 x86-64;需要 Python 3.12+。
- 协议:Apache-2.0(带 LLVM 例外)。模型权重需另行下载。
意义
ROCm 主要为数据中心打造,在消费级 PC 上一直不够顺手。HRX/Loom 是面向客户端设备的轻量方案——尤其适合 Ryzen AI Max 这类同时拥有 GPU 和 XDNA NPU 的统一内存芯片。目前属于抢先体验版,尚无独立基准测试。
用法
怎么试用
python -m pip install hrx-loom
loom-run --list_drivers
loom-serve --model=<model.json> --device=amdgpu # 或 task / xdna
- PyPI:hrx-loom
- 文档:Loom Programming Guide
- 新闻:Phoronix
注意:模型本身必须提供目标设备对应的程序,装了 SDK 并不意味着任意模型都能在任意设备上运行。