2026-01-01から1年間の記事一覧

ローカルLLMに「CPU温度を教えて」と聞いたら、ちゃんと関数を選んでくれた話

先日の記事では、Granite 4.1をRaspberry Pi 5で試していましたが、そのなかでFunction Calling(ツール呼び出し)を初めて使いました。 名前は知っていたけど実際に触ったのは初めてで、やってみたら思っていたより仕組みがシンプルだったので、備忘録とし…

8GBのRaspberry Pi 5にGranite 4.1を載せたら、どこまで使えるのか試してみた!

以前のエントリで Graniteの進化や、Raspberry Pi 5で動くローカルLLMを整理してみたんですが、2026年4月29日にIBM Researchから Granite 4.1が発表されて、ほぼ同時期にOllama公式ライブラリにも登録されました。個人的には少し落ち着いたタイミングで調べ…

MoEは計算を削り、PLEは表現力を補う … Gemma 4で整理する2つの「節約法」

Gemma 4 の動作の実験をきっかけにMoEとPLEの違いを整理してみたノートです。自己理解を深めるために「何が違うのか」をつかむためのメモとして読んでもらえるといいかもしれません。私の理解も間違っているかもしれないですし 最近、更新のあったGemma 4の…

【ビジネス編】Ubuntu 24.04 → 26.04 LTS、業務で上げる前に見ておくと「アレ?」が減る話

Ubuntu 26.04 LTS が 2026-04-23 にリリースされましたね。24.04 LTS からの移行で踏みやすい地雷を、業務インフラ・サーバー運用の視点で整理してみます。後で自分が見返すための備忘録的な位置付けです。 個人ユーザー(自宅 PC、ラズパイ、ゲーミング Linu…

【ホビー向け】Ubuntu 26.04 LTS、上げてみる前に確認したいこと(我慢できず上げてみた話)

Ubuntu 26.04 LTS が 2026-04-23 にリリースされましたね。「LTS だしそろそろ自宅 PC も上げるか」と考えている自宅ユーザー、ラズパイユーザー、ゲーミング Linux ユーザー向けに、個人利用で気をつけたいポイントを整理してみます。 業務でサーバー運用し…

【実機検証】Foundry LocalのPython SDKをWindowsネイティブで動かす ⋯4つの罠と日本語応答までの道のり

前回の記事ではFoundry Localの調査・考察編として、Microsoftの戦略やOllama/LM Studioとの違いについて書いてみました。 今回はハンズオン編として、Foundry Localを動かしてみようと思います。 前回も書いた点ですが、ポイントは以下の2つです。 Windows…

【調査・考察編】Microsoftの「Foundry Local」って何?Ollamaとの違いと、その背景を考えてみた

Ollama、LM Studio、llama.cpp…ローカルLLMのツール、もうお腹いっぱいと思っていたら、MicrosoftがFoundry Localというものを出していました。しかもつい最近GA(一般提供)になったらしい。 初めて名前を聞いたときは「Azure AI Foundryのローカル版かな?」…

Bonsai 8B(1bit LLM)をGPUなしWindows PCで動かす|Iris Xe・Radeon 680Mで実測ベンチ比較

ここ最近、ローカルLLM周りの話題の流れがいよいよ早くなってきたなと感じています。新しいモデルが発表されたかと思えば、翌週には量子化版が公開され、その次の週には本家llama.cppにマージされて…というペースで、ちょっと目を離すとすぐ置いていかれそう…

NPUってメモリどうなってるの?GPUとの違いからIntel・AMDのアーキテクチャを調べてみた

最近「AI PC」という言葉を耳にするようになりましたね。Windows PCを買おうとすると「NPU搭載!」「○○TOPS!」みたいな文字が踊っていて、なんだか凄そうな雰囲気は伝わってくるんですが、実際のところNPUって何をしてるの? メモリはどうなってるの?とい…

非エンジニアのためのClaude Cowork入門|WEBチャットとの違い・設定手順・活用Tipsまとめ

4月に復帰してからというもの、日中は業務に追われてClaudeをじっくり触る時間がほとんど取れていない。Max 5xプラン($100/月)を契約しているのに、正直もったいない状態が続いている 私は世間的には非エンジニアにカテゴライズされているメモ帳プログラマ…

RAG4パターン比較 …AIのカンニングペーパーにも組み方がある!?

大学も卒業したので、やっているときにはあまり考えられなかったところを、かじった程度の視点から考えてみました。 RAGってそもそも何? AI(大規模言語モデル=LLM)は賢いけれど、社内固有情報や新事実に対してはそのままでは弱い。「うちの会社の就業規…

llamafile + USBメモリで持ち歩くローカルLLMを作成する!実用的なモデルサイズは?

最近、ローカルLLMの実行環境としてOllamaやllama.cppを使うことが多くなりました。そんななか、「もっとポータブルにできないかな?」と想像してしまいます。出先のPCでサクッとLLMを動かしたい場面って意外とあるんですよ特に、勉強会でのデモや、企業の社…

OpenVINO Model ServerをWindowsネイティブ環境のNPUでLLM推論してみた!

3月はDELLのアンバサダー・プログラムでIntel Core Ultra 7 268V搭載のPCをお借りしていましたが、せっかくNPUがあるのにあまり活用できていないなーと思っていました。ローカルLLMは、普段llama.cpp、Ollama、LM Studioなどで動かしていますが、これらのタ…

ゲーミングPCじゃなくても動くの?Copilot+ PCでローカルLLMに挑んでみた

今回でいよいよ最終回、5回目のDell Pro 13 Premiumガチレビューとなります。 本記事は、デル アンバサダープログラムのモニターに参加し、Dell Pro 13 Premiumをお借りしてレビューしています。 #デルアンバサダー #DellPC #DellPro13Premium #ノートPCレビ…

社会人大学院生は道具で殴る!(殴ってはいない)

2025年度は、社会人大学院生として大学に通っていました。そんな中で、一番の敵は内容の「難しさ」より「時間」と「体力」と「視力(老眼)」だと気づきます 自分は休職していたので、1日に数個の講義とゼミとなりました。夜間、週末は課題で疲れている。や…

【完全自分向け】ESP32ファミリーを調べてみたメモ

2025年度は色々あって電子工作関連のことから結構離れていたので、ちょっとリハビリをしようと思いました。 特に、ESP32系のチップに関しては定期チェックもしていなかったので、この際ちょっとまとめてみました。 完全自分用のメモ。間違っているところがあ…

LiteLLMのサプライチェーン攻撃から考える、Python仮想環境の横断セキュリティチェック

2026年3月24日、LLM界隈で広く使われているPythonパッケージ「LiteLLM」にマルウェアが仕込まれたバージョンがPyPIに公開されるという事件が起きました。 github.com SSHキーやクラウドの認証情報、暗号資産ウォレットまで根こそぎ持っていくという、かなり…

TinyTroupeで人狼ゲームのシミュレーションに挑戦してみた …「うまくいかない」から見えたマルチエージェントの現実?

この内容は「なごあずの集い#8」で発表した内容の考察部分になります。 https://75az.connpass.com/event/383389/ speakerdeck.com MicrosoftがオープンソースでリリースしているマルチエージェントシミュレーションライブラリTinyTroupeをご存じでしょうか…

TinyTroupe × 人狼ゲーム — WSL2でマルチエージェントシミュレーション環境を構築してみた

この内容は「なごあずの集い#8」で発表した内容をベースに、さらに詳細な手順や補足情報を加えたものになります。 https://75az.connpass.com/event/383389/ speakerdeck.com Microsoftが開発したマルチエージェントシミュレーションライブラリTinyTroupeを…

ChatGPTもClaudeも使ってるけど、Windows標準の「Copilot」はどうなの? Dell Pro 13 Premiumガチレビュー

今回で4回目となるCopilot+ PCのDell Pro 13 Premiumレビューとなります。今回はCopilotはどうなのというところに焦点を当てていきたいと思います。 本記事は、デル アンバサダープログラムのモニターに参加し、Dell Pro 13 Premiumをお借りしてレビューして…

ダイソーで330円の「ボイスコントロールライト」買ったんだけど、これすごくない?

ちょっとこれ見てください🤗 ボイスコントロールライト(うさぎ) - 100均 通販 ダイソーネットストア【公式】 見つけた瞬間「え、マジ?」ってなった ダイソーをぶらぶらしてたら、こんな商品を発見🤩 「ボイスコントロールライト(うさぎ)」、お値段330円。 U…

「あれ、さっき何やってたっけ?」もAIがカバー。Copilot+ PCの機能を引き続き試す Dell Pro 13 Premiumガチレビュー

今回で3回目のCopilot+PCのDell Pro 13 Premiumガチレビューとなります。 本記事は、デル アンバサダープログラムのモニターに参加し、Dell Pro 13 Premiumをお借りしてレビューしています。 #デルアンバサダー #DellPC #DellPro13Premium #ノートPCレビュー…

見た目は互角。NPUの本当の実力は「見えないところ」に出た! Dell Pro 13 Premiumガチレビュー

今回は前回に引き続いての第2回目のDell Pro 13 Premiumガチレビューとなります。 参考 uepon.hatenadiary.com 本記事は、デル アンバサダープログラムのモニターに参加し、Dell Pro 13 Premiumをお借りしてレビューしています。 #デルアンバサダー #DellPC …

ターミナルでQRコードを表示してURL共有する方法まとめ【Python / qrencode / Node.js・WSL対応】

先日の投稿でCloudflare Quick TunnelsでローカルアプリをURL公開する記事を書きました。 前回の記事 uepon.hatenadiary.com その中で、生成されたURLをQRコードのPNGファイルとして保存するところまでやったのですが、実際使ってみると「QRコード画像ファイ…

Copilot+ PCは仕事の相棒になれるか? Dell Pro 13 Premiumガチレビュー

Copilot+ PCは仕事の相棒になれるか? Dell Pro 13 Premiumガチレビュー【第1回】 本記事は、デル アンバサダープログラムのモニターに参加し、Dell Pro 13 Premiumをお借りしてレビューしています。 #デルアンバサダー #DellPC Copilot+ PCのレビュー! デ…

Cloudflare Quick Tunnelsを試してみた!ngrokの代替になるか?

研究のデモシステムでStreamlitを使ったデモをする機会が多かったです。これまではngrokを使っていたのですが、制限が多く実験中に困ることがありました。そんな中、Cloudflare Quick Tunnelsで代替できそうだったので実際に試してみました。 結論から言うと…

WindowsユーザーがM1 MacBook Airで開発環境を構築するまでの全記録【2026年版】

来年度からお仕事でMacを使用するという依頼を受けました。しかし、最近のPC関連の値上がりもあり、機器を新規に購入するのもちょっとつらい状況ではあります。そこで、2020年頃に購入したM1チップ搭載のMacBook Air(メモリ16GB、ストレージ256GB)があった…

【Ollama Cloud×Python】ローカルLLMとクラウドLLMをプライバシーで振り分けるルーターを作ってみた

OllamaはローカルでのLLM実行ツールとしておなじみですが、2025年9月から「クラウドモデル」がプレビューとして提供されています。手元のPCでは動かせないような大規模モデルを、Ollamaのデータセンター上で実行できる機能です。 ちょっと思ったのは、「ロー…

ExcelからローカルLLM(Ollama)を呼べるか試してみた →Power Queryだけでどこまでできる?

最近、ローカルLLMを使用していると、いろいろなアプリケーションから使いたいなと思っていて、ふと「Excelから直接ローカルLLMを呼べないかな?」と思ったんですよね。 ExcelからLLMといえばVBAを使う方法が真っ先に浮かびますが、正直なところ新規でVBAを…

llama.cppの開発元がHugging Faceに合流 ― GGUF・Ollama・LM Studioへの影響を考える

2026年2月、ローカルLLMを触っている人にとってはかなり大きなニュースがありました。 llama.cppの創設者であるGeorgi Gerganov率いるggml.aiが、Hugging Faceに合流するというものです。 Hugging Face公式ブログではこう書かれています。 We are super happ…