以前、ブログにも書きました、ローカルLLM。

やはりGemma4-31B等を動かしたいと考えておりまして、VRAMは24GBは最低必要。
となりますと、RTX3090以上のものが必要になってきます。

RTX3090はそれなりに中古でも球数はありますが、昨今の相場を反映し、なかなかに高騰しています。
買うとなるとイニシャルコストがそれなりにかかる。
悩ましいところです。

案外無視できないのは電気代。
電源入れっぱなしですと、夏場のエアコンより電気代がかかります。

一旦導入すれば使い放題と考えていましたが、イニシャルもランニングも、案外コストがかかる。
悩みどころです。

• « 前の記事へ