マルチノードGPU環境のConda環境・重み同期ガイド
分散学習を行う際、複数の計算ノードで同一のPython環境と重みファイルを素早く揃える方法をまとめる。
Conda環境を丸ごとレプリケートする
環境ディレクトリを丸コピーするとパス依存で失敗するため、conda env exportでYAML定義を生成し、対象マシンで再構築するのが最も確実。
# 1. 環境をYAMLに書き出す
mamba activate qwen2-57b
conda env export --no-builds | gr ...
7月22日 20:38 投稿