OllamaはローカルでのLLM実行ツールとしておなじみですが、2025年9月から「クラウドモデル」がプレビューとして提供されています。手元のPCでは動かせないような大規模モデルを、Ollamaのデータセンター上で実行できる機能です。 ちょっと思ったのは、「ロー…

最近、ローカルLLMを使用していると、いろいろなアプリケーションから使いたいなと思っていて、ふと「Excelから直接ローカルLLMを呼べないかな？」と思ったんですよね。 ExcelからLLMといえばVBAを使う方法が真っ先に浮かびますが、正直なところ新規でVBAを…

2026年2月、ローカルLLMを触っている人にとってはかなり大きなニュースがありました。 llama.cppの創設者であるGeorgi Gerganov率いるggml.aiが、Hugging Faceに合流するというものです。 Hugging Face公式ブログではこう書かれています。 We are super happ…

Windowsでのllama.cppのインストールに関して自分用にまとめておこうと思います。OllamaやLM Studioはインストーラーがありますが、llama.cppはインストールがないので、一旦まとめておきます。 これは、動作させる環境がCPUのみ、CUDAあり、その他環境もあ…

先日のDocker編の続きのエントリーとなります。Docker編ではVirtualBox上のUbuntuにDockerをインストールし、コマンドラインでコンテナ操作をイチから叩き直しました。今回はその同じ環境をそのまま使い、MinikubeでKubernetesの世界に足を踏み入れます。 参…

先日、柴田さん（みんなのPython著者）のnote記事でargspecというPythonのCLIライブラリを知りました。 note.com みんなのPython 第5版作者:柴田 淳SBクリエイティブAmazon argparseの「引数を1つずつadd_argument()で追加する」という冗長さに対して、「型…

仕事では管理部門にいて、技術の現場からは少し離れた立ち位置になっているのですが、通っている大学院の講義で仮想化技術の演習をやることになりました。Dockerは趣味でもDocker Desktopを通じて触ってはいたものの、コマンドラインでイチから操作するのは…

IBM Project Bob（このエントリでは以降 Bob IDEとします）は、IBMが開発したAIエージェント搭載のIDE（VS Codeのフォーク）です。AIエージェントにコマンドを実行させ、プログラムの生成や実行を自動化できる、いわゆるAIコーディングエージェント系のツー…

Raspberry Pi 5がまた値上げになりましたね www.gizmodo.jp 16GBモデルが60ドルアップで205ドル（約3万円）。しかも2025年12月に値上げしたばかりで、わずか2カ月での再値上げです。原因は世界的なRAM不足とのこと。 このニュースを見て真っ先に思ったのが、…

2026年1月27日、「IBM Elite Support for Docling」の一般提供（GA: General Availability）について発表がありました。 community.ibm.com これだけ見るとDoclingは有料になっちゃうの？と感じますが、そうでは無いようです。 この発表の意味するところや企…

以前のエントリなどでも触れていましたが、Raspberry Pi 5（8GB RAM）でリアルタイム対話可能な日本語LLMは実現可能となりつつあります。それも、特別なハードウェアを使用することなしにです。 これは、1B〜3Bパラメータのモデルでもかなり優秀になってきて…

皆さん、ターミナルを開いたときに neofetch でシステム情報を表示するの、好きですよね？（私だけ？）あのアスキーアートと一緒にスペックが並ぶ画面、なんだかテンション上がります ところが先日、最新のRaspberryPi OS環境で何気なく sudo apt install ne…

最近、卒業研究の論文で忙しかったのですが、ようやく峠をこえましたそんななかで「Graniteって最近どうなってるんだろう？」と思い立ち、公式サイトやHugging Faceのibm-graniteリポジトリを眺めてみました。LlamaやMistral、Qwenなど選択肢が増える中で、I…