GPUStack v0.4：マルチモーダルモデル対応と柔軟なローカルデプロイ機能の強化
GPUStack は、異種 GPU（NVIDIA、Apple Metal、昇騰 NPU、摩尔线程など）を統合的に管理するオープンソースのクラスタ管理ツールであり、Mac、Windows、Linux 上のリソースを一元的に利用可能にする。開発者は OpenAI 互換 API を通じてプライベートにホストされた AI モデルを利用でき、管理者は Hugging Face や ModelScope などのレジストリから簡単にモデルをデプロイ ...
6月5日 18:30 投稿