Python Requestsライブラリのインストールと基本的な使い方
PythonにはHTTP通信を行うための標準ライブラリであるurllibのほか、より使いやすいサードパーティ製ライブラリとしてrequestsが広く利用されています。requestsは「HTTP for Humans(人間のためのHTTP)」をコンセプトに開発されており、直感的で簡潔なインターフェースを提供します。
インストール方法
requestsはpipを使って簡単にインストールできます:
python -m pi ...
7月5日 19:16 投稿
httprunner風APIテストフレームワークの拡張実装
YAMLデータファイル形式
設定とテストステップを定義するYAML構造:
config:
name: 'テストケース'
request:
timeout: 30
headers:
x-test: abc123
variables:
client_id: kPoFYw85FXsnojsy5bB9hu6x
tests:
- name: 認証トークン取得
request:
url: https://aip.baidubce.com/oauth/2.0/token
params:
grant_type: cli ...
7月2日 16:32 投稿
PythonによるWebスクレイピング実践:4つの代表的なユースケース
1. Eコマースサイトの商品情報取得
例えば、中国の主要ECプラットフォーム「JD.com」の特定商品ページ(例:一加9Rスマートフォン)を対象に、HTTPリクエストによるHTMLコンテンツの取得を試みます。URLはhttps://item.jd.com/100020542894.htmlです。
まずrobots.txtを確認します:https://item.jd.com/robots.txt。実際の内容は次のような形式で、Googlebotなど特定のク ...
6月13日 22:30 投稿
PythonによるWebスクレイピング入門
1. 前提条件
学習者はPythonの基礎知識(数値型・文字列型・分岐・ループ・関数・リスト型・辞書型・ファイル操作・外部ライブラリ利用)を習得している必要があります。
2. Webスクレイピング基本プロセス
HTTPリクエスト送信
requestsライブラリでターゲットサイトにリクエストを送信します。リクエストにはヘッダーとボディが含まれますが、JavaScript/CSS実行機能は ...
6月12日 00:41 投稿
Python Requests モジュールによる Web スクレイピング入門
Python Requests モジュールによる Web スクレイピング入門
Python において HTTP リクエストを送信するための標準的なライブラリとして、requests モジュールが広く利用されています。本記事では、requests の基本的な使い方から、実践的なデータ収集の手法、およびよくある問題の解決策について解説します。
環境構築とインストール
開発環境として Anaconda を利用す ...
6月7日 16:34 投稿
ExcelベースのAPIテストフレームワークの設計と進化
Excelファイルを用いたAPIテストフレームワークの実装アプローチを、バージョンアップごとに紹介する。各バージョンでは機能拡張や設計改善が行われており、最終的にはPytestと統合された柔軟なテストシステムへと発展している。
基本データフォーマット(schema1)
テストケースはExcelファイル(例: data.xlsx)に以下の列で定義される:
name: テストケース名
met ...
5月30日 02:34 投稿
PythonのRequestsライブラリ徹底解説
特徴
接続プールとKeep-Alive機能
国際化ドメインおよびURLサポート
持続的なCookieセッション
ブラウザスタイルSSL認証
自動コンテンツデコード
基本/摘要認証
ユニークなキー/値形式のCookie管理
自動圧縮解除
Unicode対応のレスポンスボディ
HTTP(S)プロキシサポート
ファイルチャンクアップロード
ストリームダウンロード
接続タイムアウト設定
チャンクリクエスト
. ...
5月26日 22:43 投稿
HLS配信からのM3U8プレイリスト抽出とTSセグメント結合の実装
動画配信プラットフォームからストリーミングデータを取得する場合、多くのサービスはHLS(HTTP Live Streaming)規格を採用しており、.m3u8プレイリストと.tsセグメントファイルの組み合わせで構成されています。本記事では、対象APIへのリクエスト構造を解析し、プレイリストの抽出からセグメントの結合までをPythonで実装する手順を解説します。
1. メタデータAPIへのリ ...
5月24日 22:13 投稿
Pythonによるブログアーカイブの自動化 — ウェブスクレイピングからExcel・Word出力まで
ソフトウェアエンジニアリングの履修課題として、ウェブ上からブログ記事を収集し、書式化されたドキュメントとして保存する処理を実装する機会は珍しくない。本稿では、Pythonを用いたスクレイピング技術に加え、ExcelおよびWord文書の自動生成方法について解説する。
開発環境の構築
本実装で使用する主要なライブラリは以下の通りである。requestsはHTTPリクエストの ...
5月21日 17:33 投稿
PythonによるWebスクレイピング:動画収集のシングルスレッドとマルチスレッド実装
スクレイピング対象の分析と実装方針
Webサイトから動画コンテンツを収集するPythonスクリプトを実装します。対象サイトの構造変化に対応するため、リクエスト例外処理を強化しています。
シングルスレッド版実装
# coding: utf-8
import re
import requests
import hashlib
import time
import os
REQUEST_HEADERS = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0 ...
5月18日 05:50 投稿