新手选择华为云做深度学习项目时应注意哪些问题？

新手拿华为云做深度学习，最大的坑通常不在“买不起”，而在“配不对”和“连不通”。

很多刚入门的同学，看到控制台里一堆 GPU 实例（如 P3、P4、Pi2 系列），觉得性能越强越好，直接下单。结果要么是被高额的 EIP（弹性公网 IP）账单吓到，要么是发现模型训练半天跑不通，日志里全是网络超时或驱动版本冲突。

作为过来人，我从环境搭建、资源选型、成本控制三个维度，给你梳理几个最核心的避坑指南。

1. 镜像选择：别自己造轮子，除非你有十足把握

新手最容易犯的错误就是选一个“裸 CentOS”或“Ubuntu Server”，然后试图在实例里手动安装 CUDA、cuDNN、PyTorch/TensorFlow 以及对应的显卡驱动。

强烈建议： 直接使用华为云市场里的“深度学习镜像”或者官方提供的“AI开发镜像”。

• 为什么？ 这些镜像已经预装了经过兼容性测试的 Driver + CUDA + CUDNN + Framework 组合。对于新手来说，省下的排查时间比什么都值钱。
• 注意版本匹配： 即使使用镜像，也要看清镜像说明文档里的 CUDA 版本和 PyTorch 版本对应关系。比如，你要用 PyTorch 2.x，可能需要 CUDA 11.8 或 12.x，旧版镜像可能只支持到 11.6，强行升级容易崩。

2. 实例选型：搞清楚“计算型”与“提速型”的区别

华为云的 GPU 实例命名很有讲究，新手很容易混淆。

• P 系列（通用图形处理）： 如 p3.large。适合推理、轻量级训练、可视化渲染。显存相对较小，但性价比高。
• Pi 系列（高性能 AI 提速）： 如 pi2.large。这是专门针对 AI 训练的优化实例，通常搭载更高规格的 A100/V100/A800 等卡（具体取决于当前库存和政策限制）。如果你是真的要训大模型或复杂 CV/NLP 任务，必须选 Pi 系列或专门的 NPU 实例（昇腾系列）。
• 关键指标看显存，不只看出力： 深度学习瓶颈往往在显存（VRAM）而不是算力。如果模型太大导致 OOM（Out Of Memory），你换更贵的 CPU 也没用，得加显存。下单前务必查看该规格单卡的显存大小。

3. 网络配置：EIP 是隐形消费大户

这是新手被扣费最多的地方。

• 内网通信优先： 如果你的训练涉及多机多卡分布式训练（例如 4 卡并行），务必确保这些实例在同一 VPC（虚拟私有云）下。这样它们之间可以通过内网 IP 通信，速度极快且免费。
• EIP 按需释放： 如果你只是本地调试代码，通过 SSH 连接云服务器，用完记得立即解绑并删除 EIP。按流量计费的 EIP 如果不释放，哪怕你关机了，只要 IP 没回收，它就在计费。
• 带宽设置： 如果只是偶尔传几个 GB 的数据集，选“按流量计费”且设置上限；如果需要频繁上传下载 TB 级数据，考虑使用 OBS（对象存储）中转，而不是直接通过公网传输。

4. 存储策略：系统盘 vs 数据盘

• 系统盘（SSD）： 装操作系统和软件。容量一般 50-100G 足够。
• 数据盘（高 IOPS 云硬盘）： 数据集和模型权重必须放在独立的数据盘上！
  • 原因 1：防止误操作格式化系统盘导致环境丢失。
  • 原因 2：数据盘可以挂载到不同实例，实现“计算与存储分离”。当你发现当前 GPU 实例太慢想换更强的机器时，只需把数据盘卸载挂到新机器上即可，无需重新拷贝几百 G 的数据。
  • 类型选择：选 ESSD PL1 或 PL2 级别，保证 IO 吞吐，避免 GPU 因为等待数据加载而闲置。

5. 安全组：99% 的连接失败都源于此

华为云默认的安全组策略非常严格。

• SSH 登录： 确保入方向规则放行了 22 端口（TCP）。
• Jupyter/远程桌面： 如果你在镜像里开启了 Jupyter Notebook 或 VNC 远程桌面，必须在安全组里放行对应的端口（如 8888, 6000+）。
• 内部通信： 如果是多机训练，需要开放特定端口用于进程间通信（如 PyTorch Distributed 使用的端口范围），要在安全组里设置自定义 TCP/UDP 规则。

6. 成本意识：善用“抢占式实例”和“定时启停”

• 抢占式实例（Spot Instance）： 华为云提供竞价实例，价格通常是按量付费的 1-2 折。非常适合对中断不敏感的批量实验、数据预处理、非实时推理。注意： 一旦资源池紧张，实例会被回收（通常提前几分钟通知）。所以，一定要学会断点续训（Checkpoint），定期保存模型权重到 OBS 或数据盘，这样即使实例被回收，也能从检查点恢复，损失最小。
• 定时启停： 如果你是个人开发者，白天用晚上不用，设置自动化脚本或控制台功能，让服务器在凌晨自动关机，早上自动开机。这能省下大量夜间闲置费用。

7. 国产替代路径：昇腾（Ascend）生态

如果你关注长期成本和技术自主性，可以了解一下华为云的 Ascend（昇腾） 系列实例（如 Atlas 800）。

• 优势： 算力强劲，生态完善（CANN 架构），国内政策支持力度大，长期来看性价比可能优于 NVIDIA 卡。
• 挑战： 代码迁移成本。NVIDIA 的 CUDA 生态极其成熟，而 Ascend 需要使用 MindSpore 框架或适配 PyTorch 的插件。如果你是纯新手，建议先从 NVIDIA 兼容实例入手，熟悉流程后，再尝试迁移到昇腾平台。

总结 checklist：

1. 镜像： 选预装好环境的 AI 专用镜像，别用裸系统。
2. 磁盘： 数据单独挂载，格式化为 ext4/xfs，定期备份到 OBS。
3. 网络： 同 VPC 内网通信，用完即删 EIP。
4. 安全： 检查安全组规则，确认端口放行。
5. 省钱： 小实验用抢占式实例，必写 Checkpoint。
6. 监控： 开启云监控服务，观察 GPU 利用率，避免“花着贵钱，跑着闲卡”。

深度学习项目，80% 的时间花在环境和数据上，20% 花在调参上。把基础设施搞稳了，后面才能专心搞算法。