Elasticsearch ES|QLにおける全文検索機能:MATCHとQSTRの活用

Elasticsearch Query Language (ES|QL) に新たに導入されたテクニカルプレビュー機能である MATCH および QSTR (Query String) 関数は、ログ検索をより直感的かつ効率的にします。MATCH 関数はLuceneのマッチクエリを利用してES|QL内で全文検索を実現し、QSTR 関数はLuceneのクエリ文字列クエリを有効にすることで、より高度なログデータのフィルタリングを可能にします。 ...

10月31日 08:32 投稿

Python用Elasticsearchクライアントの基礎操作とデータ処理実装ガイド

RDBMSとのアーキテクチャ概念対応 RDBMS概念Elasticsearch概念 Database(データベース)Index(インデックス) Table(テーブル)Type(タイプ)※v6.0〜非推奨 Row(行・レコード)Document(ドキュメント) Column(列・カラム)Field(フィールド) Elasticsearch 6.0以降、公式ガイドラインでは単一インデックス内への多様なデータ統合を推奨しており、「タイプ」層 ...

10月6日 11:49 投稿

ElasticsearchのコアコンセプトとREST API活用ガイド

ドキュメント(Document) Elasticsearchはドキュメント指向のストレージであり、ドキュメントが検索可能な最小単位となる。例えば、ログエントリ、映画情報、楽曲メタデータなどが該当する。 各ドキュメントはJSON形式で保存され、フィールドの集合体として構成される。フィールドタイプは文字列、数値、ブール値、日時、バイナリ、範囲など多様で、Elasticsearchが自動推 ...

10月2日 01:58 投稿

WindowsOSにおけるElasticsearch検索エンジンとKibana可視化ツールの構築手順

検索エンジンサーバーの導入と初期設定最新のElasticsearchディストリビューションには実行に必要なJVMが同梱されているため、別途Java環境を構築する必要はありません。公式ダウンロードページからZIPアーカイブを取得し、任意のディレクトリに展開します。展開後、binディレクトリへ移動し、elasticsearch.batを実行することでノードが起動します。運用の利便性を考慮し ...

9月30日 05:57 投稿

Elastic Stack 7.4.0〜7.5.0 白金ライセンスの有効期限回避

Elastic Stackのバージョン7.4.0から7.5.0までの白金ライセンスを無期限にする方法について説明します。本記事は学習目的のみに使用してください。 - ディレクトリ構造 # 必要なディレクトリを作成します。 /opt |-- build # コンパイル用ディレクトリ | |- src |-- install # インストールパッケージの保存先 |-- src # ソースコードの保存先 mkdir -p /opt/build/s ...

9月26日 03:51 投稿

Elasticsearchクエリフレームワーク: MyBatis-Plusライクな簡潔なデータアクセス

ElasticsearchのクエリAPIは非常に強力で柔軟ですが、複雑な検索条件や多岐にわたるフィルタリング、集計が必要な場合、その記述は冗長になりがちです。特に、複数の条件を組み合わせたクエリや、頻繁に条件が変更されるようなシナリオでは、コードの可読性や保守性が低下することが開発者の課題となることがあります。 本記事で紹介するフレームワークは、このよ ...

9月21日 19:55 投稿

分散型ログ収集基盤:Logstash の導入と Filebeat 連携構築

Logstash は、ELK スタックにおいてログデータの収集、変換、転送を担当する重要なコンポーネントです。本稿では、Logstash のインストール手順から、Elasticsearch への出力設定、そして軽量な収集 agent である Filebeat との連携構成について解説します。 1. Logstash のインストール 公式配布サイトから適切なバージョンのアーカイブファイルを入手します。 https://w ...

9月20日 05:33 投稿

Logstashの動的テンプレートマッピングでNginxのJSON形式ログを収集する

LogstashからESへ送信されたデータは、自動的に「5シャード・5レプリカ」のインデックスとして作成され、すべてのフィールドがtext型にマッピングされます。この状態では、基本的にデータ分析を行うことはできません。 そこで、Logstashのデータをあらかじめ定義した形式でESに格納する必要があります。このときに利用するのがESのテンプレート機能です。ESではカスタムテ ...

9月8日 14:28 投稿

Kubernetes FluentBitによるコンテナログ収集の実装

Kubernetes環境におけるFluentBitを使用したコンテナログの収集方法 FluentBitで全コンテナの標準出力ログを収集する FluentBitの設定マニフェストを作成する --- # FluentBit設定ファイル apiVersion: v1 kind: ConfigMap metadata: name: log-collector-config namespace: log-system labels: app: fluent-bit data: # サービス設定 service.conf: | ...

8月26日 16:54 投稿

Spring BootとSkywalkingの統合: トレーシング機能の追加

Skywalkingとは Skywalkingは、特にマイクロサービス、クラウドネイティブ、およびコンテナ化されたアプリケーションを対象としたオープンソースの観測プラットフォームです。このプラットフォームは、分散システムのトレーシング、モニタリング、診断機能を提供します。 JDKバージョンとの対応関係 SkyWalking 8.xはJDK 1.8以上、9.xはJDK 11以上のバージョンが ...

8月20日 02:32 投稿