ROCm 10でRadeonのローカルLLMは速くなるのか?Radeon AI PRO R9700で確かめてみた

8月末にROCm 10.0がリリースされました。7.14からいきなり10.0という大ジャンプで、番号だけ見ると何か大きなことが起きたように見えます。

前回、RTX 4070 TiからRadeon AI PRO R9700に換装してローカルLLMのベンチを取り直したときは、ROCmのバックエンドにAMD系のlemonade-sdkが配布しているllamacpp-rocmのnightlyビルドを使いました。このリポジトリはROCmのランタイムを同梱したllama.cppのzipを毎晩出しているので、環境を汚さずにROCmの世代を切り替えられるのが便利なんですよね。

uepon.hatenadiary.com

そこでふと思ったのが、「メジャーバージョンが7から10に上がって、llama.cppはどれくらい速くなったんだろう?」ということです。リリース一覧を見ると、7系の最後のnightly(7.15)と10系の最新nightly(10.1)が両方ともzipで置いてあるので、同じマシン・同じモデル・同じスクリプトで連続実行すれば素直に比べられます。今回はこれをやってみました😎

⚠️本記事の情報は2026-09時点のものです。また、以下の点は先に断っておきます。

  • 使ったのはどちらもTheRockのnightlyビルドです。ROCm 10.0のGA版そのものではなく、7.15側もalpha nightlyなので、正確には「ROCm 7世代と10世代のTheRockビルドが載ったllama.cppの比較」になります
  • 2つのzipはROCmだけでなくllama.cpp本体のコミットも違います(約6週間分)。差が出た場合にどちらの寄与かは切り分けていません。「実際にユーザーが選べる2つのzipを同条件で比べた結果」として読んでください
  • 環境はWindows 11です。Linuxでの検証は別の機会に
  • 1. ROCm 10ってなにが変わったのか
    • バージョン番号の整理とTheRock
    • Windowsの扱い
    • ROCm.AI
    • ライブラリ周り
  • 2. 今回の比較対象
  • 3. 計測条件
  • 4. 4サイズすべての実行結果
    • 見どころ
  • 5. ppのブレはモデルサイズで決まる
  • 6. 結果がなぜ変わらないのか
  • おわりに
  • 参考リンク
    • uepon.hatenadiary.com
  • 【計測ログ】
    • b1302(ROCm 7.15.0a20260720)
    • b1322(ROCm 10.1.0a20260822)
続きを読む

Radeon AI PRO R9700 + Qwen3.8 27BでClaude Codeのコーディング環境構築。LM Studioの設定からエラーの解決まで

自分のローカルLLM環境がだいぶ実用的になってきたので、Claude Codeのコーディングだけをローカルモデルに逃がせないか試してみました。もちろん、クラウド側のClaudeはもちろん便利なんですが、社外秘のコードやデータを触るときや、不在ときに生成を回しっぱなしにしたいときは、やっぱり手元で完結できると気が楽なんですよね😊

そこで、今回はLM StudioでQwen3.8 27Bを動かし、Claude Code(VSCode拡張)から接続する構成を組んでみました。実際にやってみると、思った以上にハマったり、Windows特有の地雷を踏んだりと、躓きポイントがあったので、それも含めて備忘録としてまとめておきます😅

⚠️このエントリは2026年8月時点のものです。LM StudioもClaude Codeも更新が速いのでご注意ください。

続きを読む

RTX 4070 TiからRadeon AI PRO R9700へ。32GB VRAMでローカルLLMベンチの値はどう変わったか?

以前、RTX 4070 Ti(12GB)でローカルLLMのベンチマーク定番セットを確立し、12GB VRAMの現在地を記録しました。

uepon.hatenadiary.com

そして、前回はGPUをXFX Radeon AI PRO R9700 (32GB)に差し替えました。換装作業そのものは別記事にまとめています。

uepon.hatenadiary.com

今回は、換装後のマシンで前回と同一のマシン・同一のGGUFファイル・同一の手法でベンチマークを再実施し、CUDAからAMDへ、12GBから32GBへ移った結果を正面から比較してみます😎

ローカルLLMの情報はCUDA前提が9割で、AMD GPUの実測は今も少ないのが実情です。RTX 5090/4090が高騰する中、「32GB VRAMを現実的な価格で」という選択肢が実際どこまで使えるのか。数字で確かめていきます。

続きを読む

RTX 4070 TiをRadeon AI PRO R9700に換装する。NVIDIAからAMDへの乗り換え手順と注意点

前回のエントリでは、RTX 4070 Ti(12GB)でローカルLLMベンチマークの基準値を取りました。その最後でGPUの乗り換えの話をしていましたが、今回はいよいよそのGPUの換装作業となります。

交換するGPUはXFX Radeon AI PRO R9700 (32GB)です。

www.goppa.jp

単なるグラボ交換であれば記事にするほどでもないのですが、今回はNVIDIAからAMDへのメーカーをまたぐ形です。 そのため、ドライバの完全削除、補助電源コネクタの違い、CUDA前提環境の移行と、同一メーカー内の載せ替えにはない注意点がいくつもあります。 今回は、実際行った作業手順と、つまずいた点を記録しておきます。

uepon.hatenadiary.com

続きを読む

ローカルLLMのベンチマーク、毎回やり方がブレるので「定番セット」を決めた(RTX 4070 Ti 12GB計測編)

ローカルLLMで新しいモデルやツールを試すたびに、毎回ベンチマークのやり方で悩んでいます🤔

あるときはLM Studioの表示値、あるときは体感、あるときはツール独自の数字。測るたびに条件が違うので、過去の自分の記録と比較できていません。モデルも量子化もコンテキストサイズもバラバラで、「前より速いのか遅いのか」すら言えない状況です。

そこで一度、自分用のベンチマーク定番セットを決めてしまうことにしました。今後どのモデル・どの環境で測っても同じ物差しで比較できるように、測定ツール・モデルラダー・記録項目を固定してみます。

この記事ではその定番セットの中身と、手元のRTX 4070 Ti(12GB)で実際に一式測定した結果をまとめておこうと思います。

⚠️ この記事の測定値は2026.08時点の結果となります。

続きを読む