Qwen-Turbo-BF16を用いた高性能画像生成：Diffusersフレームワークでの実装と最適化手法
はじめに
Qwen-Turbo-BF16は、最新のGPUアーキテクチャに特化した高速画像生成モデルです。BFloat16（BF16）演算をフル活用することで、従来のFP16における精度不足や演算オーバーフロー問題を解消しつつ、生成速度を飛躍的に向上させます。本記事では、Diffusersライブラリを活用したPython環境での実装方法から、LoRAアダプターの高度な運用テクニックまでを体系的に解説 ...
9月10日 03:08 投稿
ARMアーキテクチャ向けONNX Runtime GPU版のソースビルド手順
環境情報
アーキテクチャ: aarch64
OS: Ubuntu 20.04
GPU: NVIDIA T4
前提条件
CUDAが適切にインストール済み
cuDNNが適切にインストール済み
CMakeが適切にインストール済み
ビルド手順
1. ソースコードの取得
git clone --recursive https://github.com/microsoft/onnxruntime.git
cd onnxruntime
2. バージョンの切り替え
git checkout v1.16.3
...
5月29日 15:10 投稿