【検証失敗🥲】Raspberry Pi 5と2BのローカルLLMだけでAIエージェントは成立するのか？ZeroClaw + Ollama + Qwen3.5 2Bで試してみる！

最近、「AIエージェント」という言葉をよく見かけるようになりましたが、自分はまだ試せていません😅

ChatGPTのように質問に答えてくれるだけではなく、自分で必要な処理を判断して、ファイルを読んだりコマンドを実行したりWebにアクセスしたりする存在であることは知っています。

自分は以前から興味を持っていましたし、面白そうだなとも思っていました。

そこで今回試してみたのはZeroClawとなります。

ただ、できるだけコンパクトにしたいと考えていたので、使用するのはRaspberry Piのみにしたいと思います。構成は以下のような感じですかね。

Raspberry Pi
    ├─ ZeroClaw
    └─ Ollama
          └─ Qwen3.5 2B

外部のLLM APIには頼らず、Raspberry Piの中だけでAIエージェントを動かしてみようと考えています。

果たして2Bクラスの小型LLMで「質問に答える」だけではなく「自分で考えて作業する」ところまでいけるのか。正直なところ、自分でも大丈夫か不安です😅

⚠️ZeroClawは開発が活発なので、インストール方法やQuickstartの項目は変わっている可能性があります。

「なんとなく動いた」で止まっている人へ。ローカルLLMの疑問31個をQA形式で整理する

ローカルLLMを触っていると、GGUFって結局なんだっけ、llama.cppとLM Studioは何が違うんだっけ、CUDAを使うならPyTorchも入れないといけないの、みたいな疑問が次から次へと出てきますよね。 自分も最初のころは用語の区別が曖昧なまま「なんとなく動いたからヨシ」で進めてしまって、あとになって「あれ、これって何がどこで計算していたんだっけ」と混乱することが何度もありました😅

そこで今回は、自分がローカルLLMを使うなかで実際に引っかかった疑問を、「一度は動かしてみた人」向けにQA形式で整理してみました。 用語を体系的に学ぶというより、「疑問が出たときに答えを引ける」ことを目指しています。

AMD GPUのローカルLLM、ROCmとVulkanは結局どちらを使うのかを整理してみる

AMD GPUでローカルLLMを動かしていると、何度も出てくる疑問があります。

「ROCmとVulkan、結局どちらを使えばいいの？🤔」

自分もRadeon AI PRO R9700を使い始めてから、ROCmとVulkanの両方を行ったり来たりしてきました。 最初は「AMDでAIを動かすならROCmだろ？」と、なんとなく考えていました。AMD自身がAI・HPC（High Performance Computing）向けに提供しているGPUコンピューティング基盤なのだから、それが一番速いに決まっている、と。

ところが、実際にベンチマークを取ってみると、必ずしもそうではありませんでした。 少なくとも自分の使い方では、Vulkanでも十分に速い。むしろ環境構築や扱いやすさまで含めて考えると、最近はどちらかというとVulkan側へシフトしています。 ただ、ここで一つ引っかかりました。

これは自分のR9700環境だけの話なのでは？🤔

自分でベンチマークを取って、自分で結論を出しているだけでは少し心もとない。そこで、AMD GPUでLLMを動かす場合のROCmとVulkanが外部ではどう評価されているのかを探してみました。 そんななか見つけたのが、Rost Glukhov氏による「ROCm vs Vulkan for AMD Local LLM Hosting: 2026 Guide」という比較記事です。

英語版 www.glukhov.org

日本語版 www.glukhov.org

読んでみると、実測から感じていたことと、かなり近い整理がされていました。今回はこの記事を軸に、自分の実測の感覚と照らし合わせながら整理してみます。

⚠️ あくまで「2026-09時点ではこうだった」ということで読んでください。

Radeon AI PRO R9700で日本語OCRをローカルで比較してみる

先日、X（旧Twitter）で「OCRツールは多々あるけれど、精度と費用のバランスを考えるとYomiTokuが素晴らしい」という書き込みを見かけました。日本語特化のOCRというだけでも気になる話題だというのに、Pythonパッケージでローカル完結できるとなると試さないわけにはいかないんですよね😁

しかし、調べていくうちに「業務では使いにくい理由」も見えてきて、じゃあ代わりになるものはあるのか、そしてそれらは自分のAMD GPU環境で動くのか、というところまで話が広がってしまいました😅

⚠️本記事の情報は2026-09時点のものです。ROCmのWindows対応や各OCRツールのライセンスは動きが速いので、実際に試す際は必ず最新の公式情報を確認してください。

ROCm 10でRadeonのローカルLLMは速くなるのか？Radeon AI PRO R9700で確かめてみた

8月末にROCm 10.0がリリースされました。7.14からいきなり10.0という大ジャンプで、番号だけ見ると何か大きなことが起きたように見えます。

前回、RTX 4070 TiからRadeon AI PRO R9700に換装してローカルLLMのベンチを取り直したときは、ROCmのバックエンドにAMD系のlemonade-sdkが配布しているllamacpp-rocmのnightlyビルドを使いました。このリポジトリはROCmのランタイムを同梱したllama.cppのzipを毎晩出しているので、環境を汚さずにROCmの世代を切り替えられるのが便利なんですよね。

uepon.hatenadiary.com

そこでふと思ったのが、「メジャーバージョンが7から10に上がって、llama.cppはどれくらい速くなったんだろう？」ということです。リリース一覧を見ると、7系の最後のnightly（7.15）と10系の最新nightly（10.1）が両方ともzipで置いてあるので、同じマシン・同じモデル・同じスクリプトで連続実行すれば素直に比べられます。今回はこれをやってみました😎

⚠️本記事の情報は2026-09時点のものです。また、以下の点は先に断っておきます。

• 使ったのはどちらもTheRockのnightlyビルドです。ROCm 10.0のGA版そのものではなく、7.15側もalpha nightlyなので、正確には「ROCm 7世代と10世代のTheRockビルドが載ったllama.cppの比較」になります
• 2つのzipはROCmだけでなくllama.cpp本体のコミットも違います（約6週間分）。差が出た場合にどちらの寄与かは切り分けていません。「実際にユーザーが選べる2つのzipを同条件で比べた結果」として読んでください
• 環境はWindows 11です。Linuxでの検証は別の機会に