Hypnos-i1-8BモデルのQ4_K_M量子化WebUI起動手順:15.6GB GPUメモリ環境での実装
モデル概要
Hypnos-i1-8Bは複雑な論理推論と数学的課題解決に特化したオープンソース大規模言語モデルです。NousResearchのHermes-3-Llama-3.1-8Bをベースに量子化ノイズ注入技術を適用し、80億パラメータ規模ながら高精度な推論能力を実現しています。
思考連鎖(CoT)を必要とする複雑な論理問題処理
数学問題・コード生成・科学計算タスクでの優れた性能
長文理 ...
8月16日 21:28 投稿