ROCm 7.13でComfyUI
アキバやネットで売られている「ジャンク品」は、たいてい古い。とても古かったり、少し壊れていたり、そもそも動くかどうかすら怪しい。 仮に直ったとしても、今の時代にわざわざお金を出して欲しい人がどれだけいるのか分からない。動… Read More: ROCm 7.13で… »
「IT関連」カテゴリーアーカイブ
Ollama 0.24.0 New Engine の Runner 挙動を検証してみた
EVO-X2にLLMを寄せてしまい、DGX Sparkの出番がなくなった。しかし、DGX Sparkは、VRAMの間仕切りが不要なので、VRAMを大量に使う検証ができる。EVO-X2だと一度再起動して間仕切りを変える必要… Read More: Ollama 0.2… »
EVO-X2などのAMD Ryzen AI NPUをLinuxでLLMに使う
Open WebUIで、モデルを設計したとたん、もっさもっさ動いていたのがキビキビ動くようになって特にメインモデルの Qwen 3.5 9B が安定して動くようになった。Open WebUIを本気で使うなら、モデル設定は… Read More: EVO-X2などのA… »
EVO-X2でOllamaを構築、「Stopping…」から始まった Open WebUI 再設計
もうダチョウ倶楽部の「ムッシュムラムラ、ストッピング!」というネタ状態。Open WebUIとOllamaが連携できました！だけでは済まない問題。 Tailscale を使い、どこからでもアクセスできる “メイン L… Read More: EVO-X2でOll… »
AIにComposeを壊され続けたので、15分おきにKopiaで戻せるようにした
最近は、VM関連ゼロ。Docker系100という感じ。いくつかはKubernetes。しかし、Kubernetesほどのノードもなく、ノードのスペックもバラバラなので、Dockerで十分。 以前のDocker運用は、… Read More: AIにCompose… »
Agent AI時代のローカルAIマシン選び：VRAMだけでは足りなくなり、CONTEXTとUMAが重要になる理由
Open WebUIのフルスタック構成を作って、標準では使えない機能をアクティベートしていったが、昨今のOpen WebUIの大きな変化といえば、単純なLLMチャットのUIから、Agent UIへの変化が一番大きい。単純… Read More: Agent AI時代… »
EVO-X2 Ubuntu Linux 26.04をインストールして、DGX Sparkモドキにする。
過去に書いた、ブログの26.04版。2026年5月にインストールするならこっち。 ROCm 7.2.4が出たので更新。 また、この内容は、EVO-X2だけではなく、Strix Haloであれば適用できる。 Ubu… Read More: EVO-X2 Ubu… »
Open WebUI Desktopの設定の続きとOpen WebUIのAgent AIモード
前回は、Open WebUI Desktopのインストールまで行った。普通に入れるだけならインストーラーだけで動く。楽に使いたいなら、Open WebUIのllama.cppを使うのではなく、ollamaを使う方が楽かも… Read More: Open WebUI… »
Open WebUI Desktopの初期構築
大学でAIの授業をすることになって、デモ環境が必要だとなったんだが、今のChat GPTとかGeminiとかデモで使ってみると予想以上に賢い。ハルシネーションが起きにくい。それに最新情報をWebから自動で持ってくるので、… Read More: Open WebUI… »
ローカルLLMフルスタック環境を構築した（OpenWebUI + Ollama + RAG + SearXNG + MCP）
追記： playwrightやdoclingも足した。もう追加すべきコンテナはないと思う。ほとんど全ての機能が使えるようになる。正直いって、無料公開してもいいのだろうかと思うくらい巨大。 ちなみに、GPU版のイメージでは… Read More: ローカルLLMフルス… »