VerlとLoRAを組み合わせた効率的なモデル微調整
強化学習による微調整の可能性
大規模言語モデル（LLM）の微調整に取り組む中で、強化学習（RL）を活用してモデル性能を最適化したいというニーズは増加しています。その中でVerlというフレームワークに注目が集まっています。これはLLMの後続トレーニングに特化した強化学習フレームワークで、非常に強力です。
Verlは微調整に利用可能でしょうか？
結論から言えば ...
8月8日 06:41 投稿
GPT-OSS-20Bを用いた固有表現抽出（NER）のファインチューニング実践ガイド
GPT-OSS-20Bを用いた固有表現抽出（NER）のファインチューニング実践ガイド
企業がスマートドキュメント分析システムを構築したいが、大規模モデルを使うには高額なAPI費用がかかり、機密データをクラウドに送る必要があるため頭を痛めていることはありませんか？さらに、ブラックボックスのクローズドソースモデルでは出力制御が難しく、エンティティ抽出には多くの正規表 ...
8月5日 22:21 投稿
XTunerを活用した大規模言語モデルのシングルGPU低コストファインチューニング実践
1. ファインチューニングの基礎
大規模な事前学習モデル（ベースモデル）は、膨大なデータから学習されますが、そのままでは「肺癌とは何ですか？」という質問に対して、適切な回答を生成できません。これは、モデルが単に訓練データの分布に沿った最も近い単語を出力しようとするからです。そこで、指示従属ファインチューニング（Instruction Following Fine-tuning） ...
7月24日 19:04 投稿
STM8L052マイコンを用いたIoTスマート水メーターのシステム設計
ハードウェア制御とファームウェア構成
以下では、低消費電力マイコンSTM8L052を用いた水メーターの主要な制御モジュールについて解説します。
流量パルスの検出
水流による磁気センサーの信号をキャプチャするため、タイマーリソースを活用します。
// タイマー設定例（TIM3利用）
void Timer_Configuration(void) {
CLK_PeripheralClockConfig(CLK_Peripheral_TIM3, ...
7月22日 17:31 投稿
Loraモデルのファインチューニングにおける重要な注意点
一、マルチGPUでの学習
方法1: AutoModelForCausalLM.from_pretrainedのパラメータであるdevice_mapを"auto"に変更すると、モデルとデータが複数のGPUに自動的に割り当てられます。
方法2: Accelerateを使用することもできます。これは分散学習ツールキットであり、基礎的な分散学習機能を提供します。これは主に手動の学習ループと連携するように設計されてお ...
6月30日 22:43 投稿
AI技術学習ノートシリーズ001：FastLanguageModel.get_peft_model関数の各パラメータ詳細解説
以下に、コード内のFastLanguageModel.get_peft_model関数の各パラメータに関する詳細な解説と、実際の企業環境でのファインチューニングにおける選択基準を示します：
パラメータの詳細とファインチューニングへの影響
1. r=32（ランク）
役割：LoRAアダプターの低ランク行列の次元を制御し、訓練可能なパラメータ数に直接影響します。
影響：
rが大きい場合：アダプター ...
5月25日 07:07 投稿
金倉データを用いたLoRAファインチューニングとSpring AIによるカスタムQwenモデル構築
LoRA技術の概要
大規模言語モデルのファインチューニングには、高い計算リソースと専門知識が必要とされます。LoRA（Low-Rank Adaptation）技術は、モデル全体を再トレーニングすることなく、特定タスクに特化した効率的な調整を可能にします。この手法により、既存の事前学習済みモデルを基盤として、企業固有のデータでカスタマイズすることが現実的になります。
環境構 ...
5月11日 13:06 投稿