ローカルLLMに「CPU温度を教えて」と聞いたら、ちゃんと関数を選んでくれた話

先日の記事では、Granite 4.1をRaspberry Pi 5で試していましたが、そのなかでFunction Calling(ツール呼び出し)を初めて使いました。 名前は知っていたけど実際に触ったのは初めてで、やってみたら思っていたより仕組みがシンプルだったので、備忘録としてまとめておこうと思います。

今回は先日と同様にプラットフォームとしてはOllamaを使います。Function Calling自体はモデルに依存しない仕組みなので、Granite 4.1に限らず、Ollamaで動くモデルであれば同じ方法で試せます。

今回のデモでは日本地名の取得など日本語のやり取りが出てくるので、日本語が得意なモデルのほうが成功体験を得やすいです。ということで今回はGemma 4(E4B)を使ってみます。Qwen2.5やLlama 3のFunction Calling対応版でも同様に動きます。

関連記事

uepon.hatenadiary.com

⚠️ 本記事の情報は2026年5月時点のものです。OllamaのAPIやFunction Callingの仕様は今後のアップデートで変わる可能性もあります。

続きを読む

8GBのRaspberry Pi 5にGranite 4.1を載せたら、どこまで使えるのか試してみた!

以前のエントリで Graniteの進化や、Raspberry Pi 5で動くローカルLLMを整理してみたんですが、2026年4月29日にIBM Researchから Granite 4.1が発表されて、ほぼ同時期にOllama公式ライブラリにも登録されました。個人的には少し落ち着いたタイミングで調べることが多いのですが、今回の更新はもう試してもいいかなと思います。

www.ibm.com

今回は、Ollama経由でGranite 4.1の 3B8B をRaspberry Pi 5(8GB RAM)に載せて、Chat・日本語品質・JSON出力・Function Callingまで複数の観点で比較を行なっています。

「ChatGPTやClaudeを普段から触っていて、コードを書かせるのも慣れているけど、LLMの中身まではちょっと…」という方を想定しています。なので、Transformerのアーキテクチャや量子化の数式みたいな話には踏み込みません。代わりに、「Raspberry Pi 5のような小さい箱で動かすなら、どのモデルをどう使えばいいか」をざっくり押さえる方針でいこうと思います🤗

⚠️ この情報は 2026-05時点のものです。Granite 4.1はリリース直後(2026-04-29)なので、Ollama側のタグや量子化バリエーションは今後変わる可能性があります。

以前の関連記事

uepon.hatenadiary.com

uepon.hatenadiary.com

続きを読む

MoEは計算を削り、PLEは表現力を補う … Gemma 4で整理する2つの「節約法」

Gemma 4 の動作の実験をきっかけにMoEPLEの違いを整理してみたノートです。自己理解を深めるために「何が違うのか」をつかむためのメモとして読んでもらえるといいかもしれません。私の理解も間違っているかもしれないですし🙄

最近、更新のあったGemma 4の資料を読んでいるなかで、理解が引っかかってしまったポイントの一つが MoE(Mixture of Experts)PLE(Per-Layer Embeddings) という2つの単語でした。どちらも「総パラメータは大きいけど、実際に使う量は小さい」を実現する技術と説明されていて、ぱっと読みだと違いがほとんど分からないんですよね。

ただ、この2つは 何を節約しているかが異なる ので、この部分を押さえておかないと、後まで尾を引くことになりそうでした🤔 自分も最初は「MoE と PLE って結局同じなのでは?」と思っていました😅

今回は自分でわかりやすく整理するために、料理に例える用語仕組みサイズ × 戦略実装実環境、 という6段階くらいに分けて整理しています。

⚠️ 今回の情報は2026-05 時点を基にしています。最新情報は併せて公式情報も確認してみてください。

続きを読む

【ビジネス編】Ubuntu 24.04 → 26.04 LTS、業務で上げる前に見ておくと「アレ?」が減る話

Ubuntu 26.04 LTS が 2026-04-23 にリリースされましたね。24.04 LTS からの移行で踏みやすい地雷を、業務インフラ・サーバー運用の視点で整理してみます。後で自分が見返すための備忘録的な位置付けです。

個人ユーザー(自宅 PC、ラズパイ、ゲーミング Linux など)向けの注意点は別記事にまとめました:「Ubuntu 24.04 → 26.04 LTS【個人・ホビー編】」のほうも合わせて読んでみてください。今回は社内インフラ・クラウド・コンテナ基盤など、業務利用にフォーカスしてます。

uepon.hatenadiary.com

26.04 LTS は、単なるパッケージ更新だけでなく、cgroup、initramfs、sudo/coreutils、APT、認証基盤、Web サーバー hardening など、運用上の前提に触れる変更が複数入っている LTS なんですよね。「とりあえず上げてみる」より、自分の環境のどの前提に触れるかを先に見ておくほうが安全かなと思います。

今回のスタンス Ubuntu 26.04 LTS の release notes と各パッケージの公式情報をもとに整理してみます。一部、断定的に書ける根拠がまだ弱い項目は「要確認」「方向性として」といった表現に留めています。本番投入前は自分の環境の release notes と各ベンダー文書で再確認するのをおすすめします。

続きを読む

【ホビー向け】Ubuntu 26.04 LTS、上げてみる前に確認したいこと(我慢できず上げてみた話)

Ubuntu 26.04 LTS が 2026-04-23 にリリースされましたね。「LTS だしそろそろ自宅 PC も上げるか」と考えている自宅ユーザー、ラズパイユーザー、ゲーミング Linux ユーザー向けに、個人利用で気をつけたいポイントを整理してみます。

業務でサーバー運用している方は別記事もあるので、合わせてどうぞ:「Ubuntu 24.04 → 26.04 LTS 移行で気をつけること【ビジネス・サーバー運用編】」のほうでは、コンテナ基盤・Web サーバー・認証基盤などのインフラ視点の注意点をまとめてあります。今回は自宅 PC やデスクトップ用途にフォーカスしてみます。

uepon.hatenadiary.com

結論を先に言ってしまうと、個人ユーザーが警戒すべきポイントは少数なんですが、該当する人にはガッツリ刺さるのが今回の 26.04 という感じです。「全員が無関係」ではなく、「使い方による」という温度感ですね。

続きを読む