Apache Flinkにおけるユニットテスト手法と実践例

Apache Flinkアプリケーションのテスト戦略について、ステートレス/ステートフル関数からジョブレベルのテストまで網羅的に解説する。 1. テスト環境のセットアップ Maven依存関係の設定例: <dependency> <groupId>org.apache.flink</groupId> <artifactId>flink-streaming-java_2.12</artifactId> <version>${flink.version}& ...

7月11日 20:04 投稿

PythonによるScrapyプロジェクト実践:当当ネットワークの商品データ取得(第2回)

アイテムを使用してデータをカプセル化 前回作成したスパイダーで取得した書籍情報はprint出力のみでした。今回はItemを使用してデータ構造を定義し、後続処理に渡せるようにします。まずitems.pyに以下のようなクラスを定義します: import scrapy class DangdangBookItem(scrapy.Item): # 書籍画像URL image_url = scrapy.Field() # 書籍タイトル boo ...

6月29日 20:52 投稿