Skip to content

Latest commit

 

History

History
73 lines (58 loc) · 2.46 KB

RemoteMachineMode.md

File metadata and controls

73 lines (58 loc) · 2.46 KB

在远程计算机上运行 Experiment

NNI 可以通过 SSH 在多个远程计算机上运行同一个 Experiment，称为 remote 模式。 这就像一个轻量级的训练平台。 在此模式下，可以从计算机启动 NNI，并将 Trial 并行调度到远程计算机。

远程计算机的要求

  • 仅支持 Linux 作为远程计算机，其配置需求与 NNI 本机模式相同。

  • 根据安装文章，在每台计算机上安装 NNI。

  • 确保远程计算机满足 Trial 代码的环境要求。 如果默认环境不符合要求，可以将设置脚本添加到 NNI 配置的 command 字段。

  • 确保远程计算机能被运行 nnictl 命令的计算机通过 SSH 访问。 同时支持 SSH 的密码和密钥验证方法。 有关高级用法，参考配置的 machineList 部分。

  • 确保每台计算机上的 NNI 版本一致。

运行 Experiment

例如，有三台机器，可使用用户名和密码登录。

IP 用户名 密码
10.1.1.1 bob bob123
10.1.1.2 bob bob123
10.1.1.3 bob bob123

在这三台计算机或另一台能访问这些计算机的环境中安装并运行 NNI。

以 examples/trials/mnist-annotation 为例。 示例文件 examples/trials/mnist-annotation/config_remote.yml 的内容如下：

authorName: default
experimentName: example_mnist
trialConcurrency: 1
maxExecDuration: 1h
maxTrialNum: 10
#choice: local, remote, pai
trainingServicePlatform: remote
# 搜索空间文件
searchSpacePath: search_space.json
# 可选项: true, false
useAnnotation: true
tuner:
  # 可选项: TPE, Random, Anneal, Evolution, BatchTuner
  #SMAC (SMAC 需要先通过 nnictl 来安装)
  builtinTunerName: TPE
  classArgs:
    # 可选项:: maximize, minimize
    optimize_mode: maximize
trial:
  command: python3 mnist.py
  codeDir: .
  gpuNum: 0
#local 模式下 machineList 可为空
machineList:
  - ip: 10.1.1.1
    username: bob
    passwd: bob123
    #使用默认端口 22 时，该配置可跳过
    #port: 22
  - ip: 10.1.1.2
    username: bob
    passwd: bob123
  - ip: 10.1.1.3
    username: bob
    passwd: bob123

codeDir 中的文件会自动上传到远程计算机中。 可在 Windows、Linux 或 macOS 上运行以下命令，在远程 Linux 计算机上启动 Trial：

nnictl create --config examples/trials/mnist-annotation/config_remote.yml