AI技術学習ノートシリーズ001:FastLanguageModel.get_peft_model関数の各パラメータ詳細解説
以下に、コード内のFastLanguageModel.get_peft_model関数の各パラメータに関する詳細な解説と、実際の企業環境でのファインチューニングにおける選択基準を示します:
パラメータの詳細とファインチューニングへの影響
1. r=32(ランク)
役割:LoRAアダプターの低ランク行列の次元を制御し、訓練可能なパラメータ数に直接影響します。
影響:
rが大きい場合:アダプター ...
5月25日 16:07 投稿