4、算子开发环境搭建：昇腾/寒武纪/地平线等主流NPU开发套件安装、交叉编译工具链配置

好，咱们进入实战环节的第一步——搭环境。

说实话，很多同学学算子开发，最后卡住的不是算法本身，而是环境没配好。我当年刚接触昇腾的时候，光一个交叉编译工具链就折腾了两天。嗯，今天我把这些坑都给你填平。

4.1 昇腾（Ascend）NPU开发套件安装

昇腾的生态现在比较成熟了。我个人习惯用 CANN（Compute Architecture for Neural Networks） 套件。它包含了算子开发需要的所有东西：编译器、运行时库、调试工具。

安装步骤：

  1. 下载CANN包：去昇腾社区下载对应版本的CANN。注意，要跟你的硬件匹配——比如Atlas 200 DK和Atlas 300I推理卡，用的包不一样。
  2. 安装依赖：gcc、g++、cmake、python3-dev。我建议用Ubuntu 18.04或20.04，兼容性最好。
  3. 执行安装脚本：
chmod +x Ascend-cann-toolkit_*.run
./Ascend-cann-toolkit_*.run --install --install-path=/home/HwHiAiUser/Ascend

这里有个坑——安装路径不要有中文或空格。我曾经有个同事路径里带了个空格，结果编译算子时报了一堆莫名其妙的链接错误，排查了整整一下午。

小技巧：安装完成后，记得把CANN的bin目录加到PATH里。我一般写在 ~/.bashrc 中： 
export ASCEND_TOOLKIT_HOME=/home/HwHiAiUser/Ascend/ascend-toolkit/latest
export PATH=$ASCEND_TOOLKIT_HOME/bin:$PATH
export LD_LIBRARY_PATH=$ASCEND_TOOLKIT_HOME/lib64:$LD_LIBRARY_PATH

4.2 寒武纪（Cambricon）MLU开发套件安装

寒武纪的套件叫 CNToolkit。说实话，它的安装比昇腾要轻量一些，但文档写得比较简略，新手容易懵。

关键步骤：

  • 下载 cambricon-toolkit-*.tar.gz 包
  • 解压后直接运行 install.sh
  • 它会自动检测你的系统环境，安装 cndrv（驱动层）和 cnrt（运行时）
tar -xzf cambricon-toolkit-*.tar.gz
cd cambricon-toolkit
./install.sh --prefix=/opt/cambricon
注意：寒武纪的驱动和内核版本绑定比较紧。我遇到过在5.4内核上装好了，换到5.10内核就报 ModuleNotFoundError。建议先 uname -r 看一下内核版本，再去官网查兼容性列表。

交叉编译工具链方面，寒武纪提供的是 gcc-linaro 的定制版。你不需要自己编译，直接解压就能用：

export CC=/opt/cambricon/gcc-linaro-7.5.0-2019.12-x86_64_aarch64-linux-gnu/bin/aarch64-linux-gnu-gcc
export CXX=/opt/cambricon/gcc-linaro-7.5.0-2019.12-x86_64_aarch64-linux-gnu/bin/aarch64-linux-gnu-g++

4.3 地平线（Horizon）BPU开发套件安装

地平线的开发套件叫 OE（Open Explorer）。它比较特殊——强烈建议用Docker。为什么？因为地平线的工具链依赖的库版本非常固定，直接装宿主机上容易跟其他软件冲突。

我的做法：

  1. 拉取官方Docker镜像：docker pull horizonrobotics/openexplorer:latest
  2. 启动容器时挂载代码目录：docker run -it -v /your/code:/workspace horizonrobotics/openexplorer:latest /bin/bash
  3. 容器里已经预装了 hbdk（编译器）和 hbm（模型转换工具）

交叉编译工具链呢？地平线用的是 aarch64-linux-gnu-gcc，版本要求是7.5以上。我建议直接用他们提供的 gcc-linaro-7.5.0，别自己从源码编译——我试过一次，编译出来的工具链链接时总报段错误，后来发现是glibc版本不匹配。

核心对比：三大平台开发套件

平台 套件名称 安装方式 交叉编译器 推荐系统
昇腾 CANN run脚本 内置aarch64-gcc Ubuntu 18.04/20.04
寒武纪 CNToolkit install.sh gcc-linaro定制版 Ubuntu 16.04/18.04
地平线 OpenExplorer Docker镜像 gcc-linaro 7.5.0 Ubuntu 18.04（宿主机）

4.4 交叉编译工具链配置详解

说白了，交叉编译就是“在x86电脑上编译出能在ARM NPU上跑的程序”。你想想看，NPU通常是个嵌入式设备，不可能在上面直接跑gcc。

配置要点：

  • 设置环境变量：CC、CXX、LD_LIBRARY_PATH 这三个必须配对
  • 确认sysroot：交叉编译器需要知道目标系统的头文件和库在哪。昇腾的CANN里自带sysroot，寒武纪和地平线需要手动指定
  • 测试编译：写一个简单的hello world，用交叉编译器编译，然后丢到NPU设备上跑一下
# 昇腾交叉编译示例
aarch64-linux-gnu-gcc hello.c -o hello_arm
# 然后scp到NPU设备上执行
scp hello_arm HwHiAiUser@192.168.1.100:~/
ssh HwHiAiUser@192.168.1.100 ./hello_arm
避坑指南：我曾经在配置寒武纪的交叉编译时，发现编译出来的程序在MLU设备上运行报 Illegal instruction。后来查了半天，发现是gcc的march参数没设对。寒武纪的MLU用的是ARMv8.2架构，必须加上 -march=armv8.2-a。

4.5 环境验证：跑通第一个算子

环境搭好了，怎么验证？我的习惯是写一个最简单的向量加法算子，编译、部署、运行。如果这个能跑通，说明整个工具链没问题。

以昇腾为例：

# 1. 编写算子代码（add_custom.cpp）
# 2. 使用CANN的编译器编译
msopgen gen -i add_custom.json -c ai_core-Ascend310B1 -lan cpp -out ./add_custom
# 3. 编译生成算子包
make
# 4. 部署到NPU设备
deploy.sh
# 5. 运行测试
./run_add_custom

如果输出 result = 3.0，恭喜你，环境搭建成功！

最后提醒一句：不同版本的CANN、CNToolkit、OpenExplorer之间，API可能有细微差别。我建议你锁定一个版本，不要频繁升级。我见过有人从CANN 5.0升到5.1，结果之前写的算子全都要改接口——那叫一个酸爽。

好了，环境搭好，工具链配齐。下一章咱们就开始写真正的算子代码了。到时候你会发现，前面这些折腾都是值得的。

← 上一章 📖 返回目录 下一章 →