GenAI-Perf (LLMベンチマーク）
最近、仮想マシンなんてほとんど使わず、Dockerのほうが多いというか、ほぼ0:100。ComfyUIとか、足元のホストにランタイムなどをいれてもいいのだが、やはり足元のOSは何もしたくないので、上物にDockerを入れ… Read More: GenAI-Perf… »
「AI」カテゴリーアーカイブ
ComfyUI 0.8.2での比較
実は、DGX Spark （ASUS GX10)も買ってしまった。メモリが高騰して当分投資ができないだろうということでエイやっと。メモリを買うお金を考えると安いのではないか？？？と考えてみた。 仮想化の時代機材は、全て撤… Read More: ComfyUI 0.… »
AIでGPUを使う場合の検討事項
先日 NVIDIA GefForce RTX 5060 Tiを買って、掘立て小屋的な箱に入れて使い始めた記事を書いたが、はたしてこれでよかったのか？？？とよぎることがある。実は、自分はゲームをしないので、画像がベンチはと… Read More: AIでGPUを使う場… »
2025年 機材買い替え
ブログをお休みしていたわけではない。このブログ、YAMLの貼り付けがめんどくさくてサボっていただけ。どういうわけか、最近は、LLM関連のことをすることが多く、インフラ系はせいぜい5％しかしていない。それを想定してて事前に… Read More: 2025年 機材買い… »
Super Micro E300-9DでGPT OSS
マシンの選別中。大メモリマシンでGPT OSSを動かしてみた。 Super Micro E300-9D Intel(R) Xeon(R) D-2123IT CPU @ 2.20GHz (8Core GPUなし) Pass… Read More: Super Micr… »
LM Studio 0.3.29でEVO-X2が動くようになった。 Vulkan 1.52.1
先日まで、四苦八苦して、EVO-X2でLM Studio経由でGPT-OSS 120bが動かなくて、なんか無駄な買い物をしたかもと正直思っていた。その後、実は１週間くらい放置していた。先日、Vulkan 1.50で動くの… Read More: LM Studio … »
GMKtec EVO-X2 (Ryzen AI Max+ 395)導入
AIをやろうと、手元の機材でやっていたが、うーん、GPUを持っていない身からすると辛い。うちの家訓で「グラボは5000円まで」というのがあった。そうゲームしないから他にお金かけろと。それをずっと守ってきた。DaaSをやっ… Read More: GMKtec EVO… »
Intel NUCのGPUを使ってローカル LLM
Intel GPUを使ってみた！の最終回。ほんと時間の無駄だった。常磐線の普通列車くらいはスピードでるかと思ったら、常磐線の各駅停車より酷いといいたい。大学時代、入学式が終わった後、「東京１」という、「東京１年生」みたい… Read More: Intel NUCの… »
AIを使おう（最終回） – Open AI APIとLM Studio (Local LLM)を実際に使ってみる
２回目ではなく、もう最終回。理由は、この文章に長さにある。。。 これからはAIが必要だ、AIをやれ、と言われる機会が増えてくるが、単にChat GPTを検索エンジンとして使っていたり、議事録の要約に使っているケースが多く… Read More: AIを使おう（最終回… »
AIを使おう（初回） – Open AI APIとLM Studio (Local LLM)のセットアップ
GPT-5/gpt-ossで追記した。 昔、サンタバーバラーという片田舎、ハリウッドになる前の映画の街にある会社に勤めていたことがある。そこの製品は、クラウドダッシュボードを提供していて、異なる操作、APIのクラウドを１… Read More: AIを使おう（初回）… »