行列計算における固有値分解の理論とアルゴリズム
定義
行列 $A \in \mathbb{C}^{m \times m}$ に対して、以下の関係を満たすスカラー $\lambda \in \mathbb{C}$ とゼロでないベクトル $x \in \mathbb{C}^m$ が存在するとき、$\lambda$ を固有値、 $x$ を固有ベクトルと呼びます。
$$Ax = \lambda x$$
すべての固有値を $\Lambda(A) = \{\lambda_i\}$、対応する固有ベクトルを列ベクトルとする行列を $X = [x_1 | x_2 | \do ...
7月9日 17:09 投稿
大規模モデルの数学的基盤: スカラーからテンソルまで
1. データ構造の基礎
1.1 スカラー
単一数値で表される最小単位。機械学習ではハイパーパラメータ表現に使用される。
# スカラー実装例
weight_decay = 0.0001 # 重み減衰係数
batch_size_val = 64 # バッチサイズ
temperature_scale = 1.0 # サンプリング温度
print(f"学習パラメータ: 減衰率={weight_decay}, サイズ={batch_size_val}")
1.2 ベクトル
n次元空 ...
6月28日 16:33 投稿