Ollamaを用いたチャットバックエンドのストリーミング応答実装
環境設定
Ollamaコンテナの起動:
docker run -d -p 3000:8080 -p 11434:11434 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ollama/ollama
Gemmaモデルのダウンロード:
docker exec -it open-webui ollama run gemma:2b
ストリーミング応答の仕組み
クライアント側の実装
const [response, controller] = await createCh ...
7月25日 03:11 投稿
DevChat で GPT-4 を VS Code に統合しプログラミング体験を飛躍的に向上させる
はじめに:なぜ DevChat なのか?
GPT-4 をコード補助に使うとどんな感じか?DevChat なら毎日ちょっとチャットするだけで仕事が片付く。例えばこんな感じ:
朝はゆっくり起きて昼寝もする。
午後に DevChat と話しながら数百行のコードを書く。
定時前にコミットを投げて、上司に「よく頑張ったね」と言われる。
でも上司にこの「秘密兵器」を知られたら、3人分の仕事を ...
6月3日 20:53 投稿
JWT ベースの OpenAPI 認可フロー:ThinkPHP と Gin の実装比較
概要
マルチテナント SaaS プラットフォームでは、外部システムがデータを安全に取得できるよう OpenAPI を公開する。本記事では「アプリ鍵 + シークレット」方式で発行される短期 RefreshToken を用いた認可フローを、PHP(ThinkPHP)と Go(Gin)でそれぞれ実装し、設計とコードを比較する。
認可フローのステップ
テナントごとに一意の ClientID / ClientSecret を事 ...
5月21日 17:50 投稿