VLLMにおけるメモリリーク診断：KVキャッシュの隠れた肥大化を特定しOOMを阻止する
VLLMを高負荷な推論ワークロードで運用する際、GPUメモリ使用量が予測不能に増大し、最終的にOOM（Out Of Memory）エラーでクラッシュする問題に直面することがあります。この現象は、明示的なエラーや例外を伴わず、`nvtop`などのツールでGPUメモリの単調な増加として現れます。Python側のヒープメモリに顕著なリークが見られない場合でも、VLLMのKVキャッシュ管理機構、 ...
10月16日 00:21 投稿
大容量画像のメモリ効率良い表示手法
100MBを超える高解像度画像をAndroidで表示する際、OutOfMemoryError（OOM）を回避するには、全体を一度に読み込むのではなく、必要な領域だけを部分的にデコードして描画する「タイル表示」方式が有効です。このアプローチでは、BitmapRegionDecoder を活用し、メモリ使用量を一定範囲内に抑えることができます。
画像情報の取得と初期化
まず、入力ストリームから画像の ...
6月13日 18:34 投稿
Greenplumにおけるメモリオーバーフローの主なケースと対処法
GreenplumはMPPアーキテクチャを採用した並列処理型データベースであり、大量のメモリを積極的に活用して高速処理を実現する。しかし、メモリ使用量が制御を超えると、セグメントプロセスがOSによって強制終了（OOM Killer）され、クラスタ全体の安定性に深刻な影響を及ぼす可能性がある。
メモリオーバーフローを引き起こす主な要因
ノードあたりの物理メモリ不足
O ...
5月14日 03:35 投稿