自然言語処理における単語埋め込み(Word Embedding)の基礎と主要アルゴリズム
単語の数値表現と従来手法の課題
自然言語処理(NLP)における根本的な課題は、コンピュータが解釈不可能な「文字」という情報を、どのように「数値」として表現するかという点にあります。初期の手法として広く用いられたのが、One-hot Encoding(ワンホットエンコーディング)やBag of Words(BoW)です。
One-hot Encodingは、語彙数と同じ次元を持つベクトルを作成し ...
10月9日 16:34 投稿
自然言語処理におけるテキスト表現手法の概要
テキストデータのコンピュータ表現
画像データがRGBやYUVなどの形式で表されるように、自然言語処理(NLP)では文字列をコンピュータで処理可能な数値形式に変換する必要があります。画像処理で扱うピクセル行列と同様に、テキストデータも行列形式で表現されます。
分かち書き処理
日本語などの連続文字言語では、文章を意味のある単位に分割する処理が必要です。最大マ ...
5月15日 13:51 投稿