MNISTデータセットを用いた統計的機械学習とディープラーニングの比較検証
手書き数字識別タスクにおいて、従来の統計的機械学習手法と近年のディープラーニング手法の性能差を明らかにすることは、モデル選定における重要な指針となります。本記事では、標準的なMNISTデータセットを用い、ディープニューラルネットワーク(DNN)、畳み込みニューラルネットワーク(CNN)、およびサポートベクターマシン(SVM)などの代表的なアルゴリズムを同一条 ...
10月1日 12:39 投稿
サポートベクトルマシン(SVM)におけるソフトマージンと正則化の理論と実装
1. サポートベクトルマシンの柔軟性と堅牢性
サポートベクトルマシン(SVM)は、高い汎化性能と数学的背景を持つ強力な学習アルゴリズムです。しかし、現実世界のデータにはノイズや外れ値が含まれており、完全に線形分離できるケースは稀です。このような制約を克服するために導入された概念が「ソフトマージン」と「正則化」です。これらはモデルの複雑さと誤差の許容度 ...
7月17日 18:24 投稿
KDD Cup 2015 コース離脱予測モデルの開発
KDD Cup 2015の二値分類問題、コースからの離脱予測に関する実装を整理します。
データ前処理:NumPyとPandasライブラリを用いた特徴量の数値化処理
#!/usr/bin/env python
# coding=utf-8
import pickle
import pandas as pd
import numpy as np
# 辞書型で値をマッピング
source_mapping={'server':0,'browser':1}
event_mapping = {"problem":5,"vid ...
6月28日 16:31 投稿