Apache Spark を用いた FP-Growth アルゴリズムによる頻出パターン発掘
データ分析において、アソシエーションルール学習は取引データベース内の隠れた相関関係を抽出するための重要な手法です。その応用例として最も知られているのがマーケティング分野での市場バスケット分析であり、顧客の購買履歴から特定の組み合わせで購入されやすい商品を特定し、陳列配置の改善や推奨システムの構築に役立てます。
基礎概念の定義
このアルゴリズムを ...
6月27日 22:22 投稿
Spark MLlibによるトピックモデリング実装
本稿では、Apache Spark MLlibを用いたLDA（Latent Dirichlet Allocation）による文書トピック抽出の実践的な実装を紹介します。10件のテキストドキュメント（論文2件、ニュース記事8件）を対象に、語彙構築・前処理・モデル学習・結果解釈の一連のフローを再設計し、現代的なSpark APIとベストプラクティスに基づいて再構成しました。
依存関係の設定
MySQLデータベース ...
6月21日 19:49 投稿
大規模ネットワークデータの分析に向けたPySparkとGraphFramesの実践的活用
グラフ計算フレームワークの基本概念
分散処理エンジンApache Sparkが提供するGraphFramesは、大規模ネットワークデータの解析に特化した拡張機能です。Pythonインターフェースを通じてグラフアルゴリズムを実行可能で、SNS分析や通信トラフィック検証などに応用できます。本稿では実装手順を解説します。
実行環境の構築
GraphFramesを動作させるには、事前に以下のコン ...
6月1日 18:14 投稿