イテレータとジェネレータの違いは何ですか?
イテレータは、next()関数を呼び出すことで次の値を順番に返すことができるオブジェクトです。内部には__next__メソッドと__iter__メソッドがあり、自身を返します。背景では、for文がコンテナオブジェクトに対してiter()関数を呼び出し、その戻り値であるイテレータオブジェクトがコンテナ内の要素を一つずつアクセスします。要素がなくなると、next()はStopIteration例外を発生させます。
ジェネレータは、Pythonにおいてループを実行しながら値を生成する仕組みです。特徴として、値が実際に必要になるまで計算を行わない点が挙げられます。ジェネレータのnext()メソッドは現在の値を記憶し、処理を最後まで実行する必要をなくします。これにより、自由にループの出入りが可能となり、next()を呼び出すたびに一つずつ値を生成します。send()メソッドは、前回のyieldで中断した位置に値を渡し、処理を再開させます。
違い:ジェネレータはイテレータが行うすべてのことを実現できますが、各イテレーションでデータを取得する際に特定のルールに基づいて値を生成します。ジェネレータを使用することで、メモリを効率的に節約できます。
スレッド、プロセス、コルーチンの違い
プロセスは、オペレーティングシステムが管理する独立した実行単位であり、メモリ管理、ネットワークインターフェースの呼び出しなど、様々なリソースを含んでいます。プロセスは比較的重い( heavyweight )ため、独立したメモリを占有し、コンテキストスイッチのオーバーヘッドが大きいですが、安定性と安全性が高いです。
スレッドは、プロセス内の実行単位であり、オペレーティングシステムの最小スケジューリング単位です。同じプロセス内のスレッドは、メモリ空間を共有します。スレッド間の通信は主に共有メモリを通じて行われ、コンテキストスイッチが非常に高速でリソースのオーバーヘッドも少ないですが、プロセスほど安定性が高くなく、データ消失のリスクがあります。
コルーチンは、ユーザーレベルの軽量スレッドです。コルーチンのスケジューリングは完全にユーザーが制御します。コルーチンは独自のレジスタコンテキストとスタックを持ち、スケジューリング時のカーネルコンテキストスイッチのオーバーヘッドがほとんどなく、グローバル変数へのロック不要なアクセスが可能です。
プロセスとスレッドの違い
1. スレッドはメモリ空間を共有し、プロセスは独立したメモリ空間を持ちます。
2. 同じプロセス内のスレッドは直接通信できますが、異なるプロセス間の通信には中間の仲介役が必要です。
3. 新しいスレッドの作成は簡単ですが、新しいプロセスの作成には親プロセスのクローン化が必要です。
4. 一つのスレッドは同じプロセス内の他のスレッドを制御できますが、プロセスは子プロセスのみを制御できます。
デコレータ
デコレータは、他の関数に追加機能を付与するための関数です。以下は、関数の実行前後にログを記録するデコレータの例です。
import functools
def log_decorator(func):
@functools.wraps(func)
def wrapper(*positional_args, **keyword_args):
print(f"関数 {func.__name__} の実行開始")
result = func(*positional_args, **keyword_args)
print(f"関数 {func.__name__} の実行終了")
return result
return wrapper
同期、非同期、ブロッキング、ノンブロッキングの理解
同期:機能呼び出しを発行した後、結果が返ってくるまで呼び出し元は待機し続けます。
非同期:リクエストを送信した後、結果を待たずに自身の処理を続行します。
ブロッキングとノンブロッキングを理解するには、I/O操作がどのようにブロックされるかを知る必要があります。I/O操作では、データはまずオペレーティングシステムのカーネルバッファにコピーされ、その後アプリケーションのアドレス空間にコピーされます。したがって、read操作は「データの準備待ち」と「データをプロセスへコピー」の二つの段階を経ます。
この二つの段階により、Linuxシステムには以下の5つのネットワークモデルが生まれました。1. ブロッキングI/O(データ待ちでブロック)、2. ノンブロッキングI/O(データ待ちでブロックしないが、カーネルからプロセスへのコピーでブロック)、3. 非同期I/O(リクエスト送信後、完了通知を受けるまで待機せず、データが準備できたら直接ユーザーに渡される)、4. I/Oマルチプレキシング(複数の接続を監視し、一つでもデータが到着すれば通知)、5. シグナル駆動I/O。
グローバルインタプリタロック(GIL)とマルチスレッドへの影響
GILは、Pythonの設計当初からのデータ安全性のために導入されたものです。各CPUは同一時間に一つのスレッドしか実行できません。単一CPUコアでのマルチスレッドは、並列ではなく並行処理です。並列は複数のイベントが同時に発生することを指し、並行は複数のイベントが時間間隔内に発生することを指します。Pythonのマルチスレッドでは、各スレッドの実行方式は以下の通りです。1. GILを取得する、2. コードを実行し、sleepやPython仮想マシンによって一時停止されるまで続ける、3. GILを解放する。したがって、スレッドが実行するにはまずGILを取得する必要があり、これを「パスポート」と見なせます。Pythonプロセス内には一つのGILしか存在しません。パスポートを取得できないスレッドは、CPUで実行できません。I/O密集型コード(ファイル処理、ウェブスクレイピングなど)では、マルチスレッドが効率的に性能を向上させることができます(スレッドAが待機している間にスレッドBに切り替えることで、CPUリソースを無駄にせず、プログラムの実行効率を向上させることができます)。そのため、マルチスレッドはI/O密集型コードに適しています。
Pythonにおけるリフレクション
Pythonのリフレクションの核心は、文字列の形式を利用してオブジェクト(モジュール)内のメンバー(検索/取得/削除/追加)を操作することです。これは文字列ベースのイベントドリブンです。
hasattr(obj, str), getattr(obj, str), setattr(obj, str), delattr(obj, str)
Python 2とPython 3の違い
Py3.XのソースファイルはデフォルトでUTF-8エンコーディングを使用します。
入力関数が変更され、raw_inputが削除され、inputに置き換えられました。
print文が削除され、print()関数が同じ機能を提供します。
キーワードにasとwithが追加されました。また、True、False、Noneがキーワードになりました。
新しいsuper()は、引数を渡す必要がなくなりました。
PEP 8とは何ですか?
PEP 8はPythonのコーディング規約です。主な命名規則は以下の通りです。
1. 変数
定数:大文字とアンダースコア(例:USER_CONSTANT)
プライベート変数:小文字と一つの先頭アンダースコア(例:_private_value)
組み込み変数:小文字、二つの先頭アンダースコアと二つの末尾アンダースコア(例:__class__)
2. 関数とメソッド
一般的には、小文字とアンダースコアを使用します。
プライベートメソッド:小文字と一つの先頭アンダースコア(例:def _secret(self):)
特殊メソッド:小文字と二つの先頭アンダースコア、二つの末尾アンダースコア(例:def __add__(self, other):)
3. クラス
クラスはキャメルケース(CamelCase)で命名します(すべての単語の先頭を大文字にし、残りを小文字にします)。
4. モジュールとパッケージ
特別なモジュール__init__を除き、モジュール名は小文字のアンダースコアなしで使用します。
スレッドセーフとは何ですか?
スレッドセーフとは、マルチスレッド環境下において、複数のスレッドが同時に実行されてもプログラムが正しく動作し、共有データへのアクセスが同一時刻に一つのスレッドのみによって行われることを保証することです。リソース競合問題を解決する方法は、ロックを追加してアクセス操作の一意性を保証することです。
findとgrepの違い
grepは強力なテキスト検索ツールであり、検索パターンとして正規表現を使用できます。テキストファイルに対するパターン検索を許可し、一致する行をすべて出力します。findは通常、特定のディレクトリ内で条件に合致するファイルを検索するために使用されます。特定のユーザーが所有するファイルの検索にも使用できます。
オブジェクト指向プログラミングとは何ですか?
オブジェクト指向プログラミングは、ソフトウェアの再利用性を解決するための設計およびプログラミング手法です。この手法では、ソフトウェアシステム内で類似した操作ロジックとデータ、状態をクラスとして記述し、オブジェクトインスタンスの形でソフトウェアシステム内で再利用することで、ソフトウェア開発の効率を向上させます。
オブジェクト指向にはどのような技術がありますか?
クラス(Class):同じ属性とメソッドを持つオブジェクトの集合を記述します。
クラス変数:インスタンス化されたオブジェクト間で共有される変数です。
メソッドのオーバーライド:親クラスから継承したメソッドが子クラスの要件を満たさない場合、それを再定義できます。
インスタンス変数:メソッド内で定義された変数で、現在のインスタンスにのみ作用します。
継承:派生クラス(derived class)が基底クラス(base class)のフィールドとメソッドを継承することです。
インスタンス化:クラスのインスタンスを作成することです。
メソッド:クラス内で定義された関数です。
オブジェクト:クラス定義によるデータ構造のインスタンスです。
静的メソッドとクラスメソッドの違い
静的メソッド:@staticmethodデコレータで修飾され、selfパラメータを定義する必要がありません。クラスメソッド:クラスオブジェクトが所有するメソッドで、@classmethodデコレータで識別されます。クラスメソッドの最初のパラメータは必ずクラスオブジェクトでなければならず、一般的にclsという名前の変数が使用されます(他の名前の変数でも可能)。インスタンスオブジェクトとクラスオブジェクトの両方からアクセスできます。
クラス属性とインスタンス属性の違い
クラス属性:クラス内の関数の外で定義された変数で、静的です。クラスオブジェクトが所有し、すべてのインスタンスオブジェクトで共有されます。
インスタンス属性:__init__()メソッド内で定義された変数で、インスタンスが作成されたときにのみ作成されます。
Pythonのマルチプロセスとマルチスレッドの実行メカニズムと違い、使用シーン
実行メカニズム:プロセスは、特定の独立機能を持つプログラムであり、システムがリソースの割り当てとスケジューリングを行う独立単位です。スレッドはプロセスの実体であり、CPUスケジューリングと割り当ての基本単位で、プロセスより小さく独立して実行できる基本単位です。
違い:
マルチプロセスは安定性が高く、子プロセスがクラッシュしても親プロセスや他のプロセスに影響を与えません。しかし、プロセスの作成コストは非常に高く、オペレーティングシステムは各プロセスに固定リソースを割り当てる必要があるため、プロセス数が多すぎると、オペレーティングシステムのスケジューリングに問題が発生し、フリーズ状態になる可能性があります。マルチスレッドは効率が高く、リソースのオーバーヘッドも少ないですが、いずれかのスレッドがクラッシュすると、プロセス全体がクラッシュする致命的な欠点があります。これは、メモリリソースプールを共有しているためです。
使用シーン:
コードがI/O密集型の場合はマルチスレッドを使用します。コードがCPU密集型の場合は、マルチプロセスがより良い選択です。特に、マルチコアまたはマルチCPUのマシンを使用している場合はなおさらです。
Pythonの実行効率を向上させる方法(2つ以上)
1. ジェネレータを使用する。
2. キーコードを外部機能パッケージ(Cython、Pylnlne、PyPy、Pyrexなど)で実装する。
3. ループの最適化:ループ内での変数属性へのアクセスを避ける。
「プロデューサー・コンシューマーモデル」を紹介してください。
プロデューサー・コンシューマーモデルは、マルチスレッド同期の古典的な例です。このモデルでは、プロデューサーがバッファにデータをプッシュし、コンシューマーがバッファからデータをプルします。
バッファはPythonのQueueモジュールで実装できます。このモジュールはスレッドセーフであるため、開発者はキューに追加のミューテックスロックを加える必要がありません。
プロデューサー・コンシューマーモデルの利点:
1. 疎結合:両者は直接依存しません。
2. 同時実行のサポート:プロデューサーとコンシューマーは独立した並行実行体であり、バッファを介して接続されています。プロデューサーはデータをバッファに投入するだけで次のデータの生成に進むことができ、コンシューマーはバッファからデータを取得するだけで済みます。これにより、処理速度の違いによるブロックを回避できます。
3. 忙しさの不均一なサポート:データ生成速度が時々速く時々遅い場合、バッファの利点が発揮されます。データ生成が速い場合、コンシューマーが処理しきれないデータは一時的にバッファに保存されます。プロデューサーの生成速度が遅くなると、コンシューマーが徐々に処理します。
大規模ファイルの読み込み方法
1. 生成器を利用して数GBを超える大きなファイルを読み込む
def read_large_file(file_path):
with open(file_path, 'r') as f:
while True:
data_line = f.readline()
if not data_line:
break
yield data_line.strip() # 行頭と行末の改行を除去
2. イテラブルなオブジェクトであるfileを反復処理する:for文を使用すると、バッファI/O(buffered I/O)とメモリ管理が自動的に行われ、大きなファイルに関する心配は不要になります。
with open('filename') as file:
for data_line in file:
process_data(data_line)