もっとも、何が一番気になるかは人それぞれ。
当方の視点で言えば、やはりPC関連パーツの価格です。
メモリ・GPU・SSD。
いずれも、この一年でかなり高くなった印象があります。

製品によっては値上がり幅が大きく、従来の感覚ではなかなか手が出しにくい価格になってしまったものも少なくありません。
特に印象的なのは、これらが本来であれば「待てば安くなる」ことが当たり前だった製品であることです。
新製品が出れば旧製品は値下がりし、時間の経過とともに購入しやすくなる。
長らくそんな世界でしたので、ここまで価格が上昇する状況には些か戸惑いもあります。

背景には、世界的な物価上昇もあるのでしょうが、それ以上に存在感を増しているのがAI需要。
データセンター向けを中心とした半導体需要の拡大が、様々なところに影響を及ぼしているように見うけられます。

生成AIの恩恵を受ける機会は今後ますます増えていくのでしょうが、その一方で、PCパーツの価格を見ておりますと、そのコストの一端を身近なところでも感じる今日この頃です。

ということで、卒FIT後も、それなりの金額で電力需要があるのでは、と思わなくもないのではありますが、これは典型的な捕らぬ狸の皮算用と言うほかありません。

本邦においても、少し前の見通しでは「人口減による電力需要減」と見積もられていましたが、それも修正されつつある中で、そこまで悲観する必要もないかな、と思うようにしております。

正直なところ、太陽光発電事業をやり始めたときには、「データセンターの電力需要増」は、全く考慮の外であったのではありますが、昨今話題の「需給調整」も将来的には需要家側（具体的にはデータセンター側）が担うようになるのも、夢物語ではないように思われます。

ということで、当方は特に出掛ける用事もないのではありますが、せっかくですので何か有意義に過ごしたいところ。
このところ試しているローカルLLMについて、いろいろ実験をしてみたいと思います。

当方のミニPCでも、一応メモリは64GBですので、Gemma4 26B A4Bであれば、ギリギリ使い物になります。
ですが、これ以上のモデルになると、要求スペックが一気に上がり、先立つものを用意するのが難しい状況。

とは言え、まだ設定は詰めていません。
まずは、この26B A4Bを前提に、解答精度の向上を目指して、少し試行錯誤をしてみたいと思います。

各種パラメータの調整や、量子化の見直しなど、できることはまだ残っています。
大きなモデルを追いかける前に、今の環境でどこまで改善できるかを確認しておくのは、無駄ではないはず。

ということで、しばらくいろいろやってみます。

「折りたたみ」機能の是非と、「36万円～」というその価格で、何かと「ユーザーを選ぶ」端末となっております。
当方も、正直なところ「自分にはご縁はないかな」というのが率直な感想です。

これでしたらば、iPhone17とiPad miniの2台持ちで充分と思ってしまうのですが、ひょっとすると、当方が思いつかない「革新的な使い方」があるのかもしれません。
よろしければご教示いただけますと幸いです。

しかし、昨今のAI需要を背景に、IT端末の高騰化はとどまるところを知らない状況です。
スマートフォンやパソコンを購入するのにも、「時季を見る目」が必要な状況はしばらく続きそうです。

やはりGemma4-31B等を動かしたいと考えておりまして、VRAMは24GBは最低必要。
となりますと、RTX3090以上のものが必要になってきます。

RTX3090はそれなりに中古でも球数はありますが、昨今の相場を反映し、なかなかに高騰しています。
買うとなるとイニシャルコストがそれなりにかかる。
悩ましいところです。

案外無視できないのは電気代。
電源入れっぱなしですと、夏場のエアコンより電気代がかかります。

一旦導入すれば使い放題と考えていましたが、イニシャルもランニングも、案外コストがかかる。
悩みどころです。

一方で、当初使おうと思っていた gemma‑4 31b は重すぎて、現状ではまったく実用になりません。
設定パラメータの理解やチューニングを進めても、どうにもならない感触が強く、単純に「もう少しで何とかなる」レベルではないように思われます。

31B Denseを動かす際のボトルネックは「演算力」ではなく「メモリ帯域」にある状況ですね。
やはりVRAMが十分に載った単体GPU、たとえば RTX4090以上 に相当する環境が必要になってくる気配があります。

そうなると、単なる消耗品の交換や小さなアップグレードで済む話ではなく、ワークステーション級の投資が必要になります。
特定消耗品に収まらないとなると、当方のような零細が気軽に導入できる水準は越えてしまいそうです。

当面の方針としては、無理に大きなモデルをローカルで追いかけるよりも、用途を限定した軽量モデルやハイブリッド運用（ローカルで機密処理、クラウドで重い処理）を検討するのが現実的に思えます。
まずは26b-a4bで運用感を詰めつつ、必要ならば段階的に環境を拡張する。そんな慎重な進め方でいくつもりです。

本日は、このあたりで。

ローカルLLMを始めてみようということで、まずは無料で出来る範囲から。
LM Studioで、GoogleのGemma4を動かしてみました。

いろいろバリエーションがある中で、当方のPCでは「26B A4B」が、ギリギリながら実用レベルで動作。
暫定的に、これを採用することにしました。

マルチモーダルでありながら、ローカルで、しかも無料で使えるとは、なかなかに凄い時代になったものです。
手元のPCだけで、ここまでのモデルが動くとは思っていませんでした。

もっとも、まだパラメータ設定など理解できていない部分も多く、当方としては、これから少しずつ試していこうと思います。

ローカルでのAI利用について、また折を見て書かせていただくかもしれません。

ご承知のように、ソースネクストは何かと毀誉褒貶ある会社ではありますが、この製品については、なかなかに使えるとの談。
「自分専用の情報源」に基づいた出力が得られるので、それなりに実用的だと感じている様子でした。

もっとも、致し方ないとはいえ、相応にPCスペックを要求するところは、やや難点ではあります。
ローカルでAIを動かす以上、ある程度の性能が必要になるのは仕方ないところですが、この辺は、一定程度投資が必要になる部分でもあります。

当方としては、クラウドのAIにいろいろ情報をアップすることについて、少し慎重であるべきだと考えています。
漏洩の可能性がゼロとは言えないことに加え、投入した情報が学習に使われてしまうリスクも、気になるところです。

便利であることは間違いないのですが、扱う情報の性質によっては、クラウドに預けるべきではない場面もあります。

その意味で、ローカルで動くAIの選択肢が増えていくことは、一つの方向性として、悪くないのではないかと感じています。

特に気になるのは、個人情報や営業秘密など「学習されたくない情報」。
クラウド型のサービスに機密情報を投げると、その情報が学習データに取り込まれる可能性や、想定外の形で再利用される懸念があります。

業務上扱う図面や顧客情報、契約書の文面などは、やはり慎重に扱うべきだと感じます。

最近は、用途によってはローカルでそれなりの性能のAIを動かせるようになってきているようです。

ローカル運用であれば、データが外部に出ない分、情報管理の面で安心感が増しますし、学習させたくない情報を明確に隔離できます。
もちろん、ローカルでも適切なアクセス管理や暗号化は必要ですが、クラウド一択だった頃に比べると選択肢が増えたことは歓迎すべき変化です。