StepFun/GOT-OCR-2.0-hfのセットアップと環境構築
StepFunが開発したGOT-OCR-2.0-hfは、多言語対応の高性能OCRモデルであり、日常的な文書から複雑な図表や数式、楽譜に至るまで幅広いコンテンツを高精度で認識可能です。1024×1024ピクセルの高解像度入力に対応し、複数ページの一括処理や動的領域分割、色・座標指定による選択的認識など柔軟な機能を備えています。Apache 2.0ライセンスで公開されており、Hugging Face経 ...
5月31日 08:15 投稿
Horovodを用いた分散ディープラーニング環境の構築
分散ディープラーニングの実装において、異なるGPUを使用するためのフレームワーク統合が重要です。特にTensorFlowやPyTorchなどの多様なフレームワークを一つのプラットフォームで利用できるHorovodは便利です。この記事では、Horovodを使った分散環境のセットアップ方法について説明します。
分散学習アーキテクチャ: PSとRing-Allreduce
Parameter Server (PS) アーキ ...
5月27日 00:34 投稿
日本語-英語翻訳モデルの構築と評価
自然言語処理（NLP）における機械翻訳は、近年ディープラーニング技術の進歩により大きな進展を遂げています。本記事では、GRUベースのSeq2Seqモデルを使用した日本語-英語翻訳システムの実装と評価方法について説明します。
機械翻訳とは？
機械翻訳（Machine Translation, MT）は、ある言語で書かれたテキストを別の言語に自動的に変換する技術です。MTの歴史は1950年代 ...
5月25日 21:06 投稿
AI技術学習ノートシリーズ001：FastLanguageModel.get_peft_model関数の各パラメータ詳細解説
以下に、コード内のFastLanguageModel.get_peft_model関数の各パラメータに関する詳細な解説と、実際の企業環境でのファインチューニングにおける選択基準を示します：
パラメータの詳細とファインチューニングへの影響
1. r=32（ランク）
役割：LoRAアダプターの低ランク行列の次元を制御し、訓練可能なパラメータ数に直接影響します。
影響：
rが大きい場合：アダプター ...
5月25日 07:07 投稿
CBOWモデルによる単語ベクトルの生成と実装
1. 単語ベクトルの技術背景
自然言語処理（NLP）では、単語を効果的に表現することが重要な課題です。従来のone-hotエンコーディングは簡単ですが、次元の呪いと単語間の類似性を表現できないという問題があります。単語ベクトル（Word Embedding）技術はこれらの問題を解決し、単語を低次元の連続ベクトル空間にマッピングすることで、意味的に近い単語がベクトル空間でも ...
5月25日 00:26 投稿
畳み込みニューラルネットワークにおけるGlobal Response Normalizationの実装
GRNモジュールの構造
Global Response Normalization（GRN）はConvNeXtV2で提案された正規化手法であり、特徴マップのチャネル間依存性をモデル化する機構として機能します。SE、ECA、CBAMなどのアテンション機構と同様に、特徴量の再調整を実現します。
PyTorch実装例
import torch
import torch.nn as nn
class ChannelAttentionNorm(nn.Module):
def __init__(se ...
5月20日 22:45 投稿
NLP実践入門：One-Hotエンコーディングの実装
One-Hotエンコーディング（一位有効符号化）とは、N個の状態をエンコードするためにNビットの状態レジスタを使用する方法です。各状態には独立したレジスタビットがあり、任意の時点で有効なビットは1つだけです。
例えば、性別を考えた場合、男性と女性の2つの選択肢があり、2ビットで表現されます：
男性：10
女性：01
英語テキストのOne-Hotエンコーディング
import t ...
5月20日 22:00 投稿
DeepSeek-MoEの実装：64サブ専門家による効率的モデル訓練
細粒度専門家分割がもたらす訓練コスト削減
大規模モデルの訓練においては、計算コストと性能向上のバランスが重要な課題です。DeepSeek-MoEが提案する細粒度専門家分割（Fine-Grained Expert Partitioning）は、従来の訓練方式に比べてコストを1/6に抑える可能性を秘めています。本記事では、理論的背景から実装テクニックまで具体的に解説します。
1. MoEアーキテクチャ ...
5月20日 13:23 投稿
OpenPCDetの環境構築および動作検証ガイド
前提環境の要件
3D点群ベースの物体検出フレームワークであるOpenPCDetを安定して稼働させるためには、GPUドライバおよびCUDAツールキットのバージョン整合性が必須です。検証済みの推奨構成は以下の通りです。
CUDA: 11.3
cuDNN: 8.2.1
Python: 3.8
PyTorch: 1.11.0 (CUDA 11.3対応ビルド)
Sparse Convolution: spconv 2.3.6
CMake: 3.26.3 以上
システム側では nvidia- ...
5月20日 11:00 投稿
PyTorchの旧バージョンのインストール方法（成功例）
目次
インストール手順は以下の通りです：
Anaconda3が正しくインストールされているか確認（システム環境変数の設定済みを前提）
新しい仮想環境の作成
仮想環境の有効化
自分のPCがサポートするCUDAバージョンの確認（重要なステップ）
公式サイトから対応バージョンのインストールコマンドを取得
torchバージョンの確認（補足）
環境：
Windows 11
Anaconda3-2021.05 ...
5月19日 20:11 投稿