ollamaのビルドとインストール手順については、以下の記事を参照してください： FreeBSD上でollamaをインストールする試み - CSDNブログ
Ubuntu focal jammy環境とFreeBSDジャイルでのollamaのビルド・インストール方法 - CSDNブログ
実行手順：
./ollama run phi3
エラー：ollamaアプリに接続できませんでした。起動していますか？
エラーが発生しました。サービスを起動する必要があることがわかりました：
./ollama serve
この後で再度 ./ollama run phi3 を実行すると問題なく動作します。
OLLAMAモデルの概要
利用可能なモデル一覧：
以下のモデルはダウンロード可能です：
| モデル名 | パラメータ数 | サイズ | 実行コマンド |
|---|---|---|---|
| Llama 3 | 8B | 4.7GB | ollama run llama3 |
| Llama 3 | 70B | 40GB | ollama run llama3:70b |
| Phi 3 Mini | 3.8B | 2.3GB | ollama run phi3 |
| Phi 3 Medium | 14B | 7.9GB | ollama run phi3:medium |
| Gemma 2 | 9B | 5.5GB | ollama run gemma2 |
| Gemma 2 | 27B | 16GB | ollama run gemma2:27b |
| Mistral | 7B | 4.1GB | ollama run mistral |
| Moondream 2 | 1.4B | 829MB | ollama run moondream |
| Neural Chat | 7B | 4.1GB | ollama run neural-chat |
| Starling | 7B | 4.1GB | ollama run starling-lm |
| Code Llama | 7B | 3.8GB | ollama run codellama |
| Llama 2 Uncensored | 7B | 3.8GB | ollama run llama2-uncensored |
| LLaVA | 7B | 4.5GB | ollama run llava |
| Solar | 10.7B | 6.1GB | ollama run solar |
注意：7Bモデルを実行するには最低8GBのRAMが必要です。13Bモデルは16GB、33Bモデルは32GB以上が必要です。
カスタムモデルの作成方法
GGUF形式からのインポート
Modelfileを使用してGGUF形式のモデルをインポートできます：
Modelfileという名前のファイルを作成し、インポートするモデルのローカルパスを指定します。
FROM ./vicuna-33b.Q4_0.gguf
- Ollamaにモデルを作成します
ollama create example -f Modelfile
- モデルを実行します
ollama run example
PyTorchまたはSafetensors形式からのインポート
詳細はモデルインポートガイドをご確認ください。
プロンプトのカスタマイズ
Ollamaライブラリのモデルは、プロンプトをカスタマイズすることで調整可能です。例えば、llama3モデルをカスタマイズする場合：
ollama pull llama3
Modelfileを作成します：
FROM llama3
# 温度パラメータを1に設定（高いほど創造的、低いほど論理的）
PARAMETER temperature 1
# システムメッセージを設定
SYSTEM """
スーパーマリオブラザーズのマリオとして応答してください。アシスタントとしてのみ応答してください。
"""
次に、モデルを作成して実行します：
ollama create mario -f ./Modelfile
ollama run mario
>>> こんにちは
こんにちは！あなたの友達、マリオです。
その他の例はexamplesディレクトリを参照してください。Modelfileの詳細については、Modelfileのドキュメントをご覧ください。