返回首页

ROCm HRX Loom

x 0.65
访问原文

介绍

Loom 是 AMD ROCm HRX(HIP Runtime Extended)中的编译器与中间表示(IR)层。其首个正式版本 hrx-loom 0.1.0 于 2026 年 10 月 29 日发布到 PyPI。一个可用 pip 安装的 SDK 就包含 Loom 编译器、运行时、Python API 和命令行工具,能把 AI 模型编译并部署到 CPU、AMD GPU 和 AMD XDNA NPU 上——无需安装完整的 ROCm SDK。

解释

关键信息

  • 目标设备:task(CPU)、amdgpu(通过 HSA 代码原生运行于 AMD GPU)、xdna(AMD NPU)以及 vulkan(可移植的 SPIR-V 路径)。x86 和 WebAssembly 后端仍在完善中。
  • 工具链:loom-fetch 从模型目录安装程序和资源;loom-serve 通过 HTTP 提供模型服务;loom-benchmark 做性能测试。
  • 无需 ROCm:在 AMD 硬件上通过 libamdf 加系统驱动运行。
  • 平台:Linux x86-64(glibc 2.39+,如 Ubuntu 24.04)和 Windows 11 x86-64;需要 Python 3.12+。
  • 协议:Apache-2.0(带 LLVM 例外)。模型权重需另行下载。

意义

ROCm 主要为数据中心打造,在消费级 PC 上一直不够顺手。HRX/Loom 是面向客户端设备的轻量方案——尤其适合 Ryzen AI Max 这类同时拥有 GPU 和 XDNA NPU 的统一内存芯片。目前属于抢先体验版,尚无独立基准测试。

用法

怎么试用

python -m pip install hrx-loom
loom-run --list_drivers
loom-serve --model=<model.json> --device=amdgpu   # 或 task / xdna

注意:模型本身必须提供目标设备对应的程序,装了 SDK 并不意味着任意模型都能在任意设备上运行。