LLMファインチューニングからOllamaデプロイまでの実装フロー
LLaMA-Factoryを活用した言語モデルのカスタマイズから推論環境構築までの実践的手順を解説します。以下の手順で実施します。
環境構築
ネットワーク最適化後、リポジトリをクローンして依存関係をインストールします。
source /etc/network_accelerator
git clone --depth 1 https://github.com/hiyouga/LLaMA-Engine.git
cd LLaMA-Engine
pip install -e ".[torch,eval] ...
7月8日 23:10 投稿