畳み込みニューラルネットワークにおけるGlobal Response Normalizationの実装
GRNモジュールの構造
Global Response Normalization（GRN）はConvNeXtV2で提案された正規化手法であり、特徴マップのチャネル間依存性をモデル化する機構として機能します。SE、ECA、CBAMなどのアテンション機構と同様に、特徴量の再調整を実現します。
PyTorch実装例
import torch
import torch.nn as nn
class ChannelAttentionNorm(nn.Module):
def __init__(se ...
5月21日 07:45 投稿