LLMモデルをダウンロードしたのに「動かない…🥲」を防ぐ。AIモデル選択に使える「LLM Checker」

「自分のPCの中だけでAIを動かしてみたい」と思って、モデルを探してダウンロードしてみる。ところが、いざ動かそうとしたら重すぎて動かない、あるいはメモリに収まらずエラーで止まってしまう…。

ローカルLLMCPを触りはじめると、わりとよくあるのがこのパターンです。 モデルのファイルは数GBあることも多いので、ダウンロードし終わってから「あちゃー、これ自分のPCじゃ無理だったか…」となると、なかなかガッカリします。

この「ダウンロードしてから気づく」を、先回りして防いでくれるのが「LLM Checker」というツールでした。 このツールは、次のGIGAZINEさんの記事で知りました。

参考:無料で自分のPCで動かせるローカルAIモデルがわかる「LLM Checker」 - GIGAZINE

gigazine.net

LLM Checkerって?

ひとことでいえば、PCのスペックを診断して、「このAIモデルが動かせますよ」と、ダウンロードする前に教えてくれるツールです。

自分でメモリやGPUを調べて計算しなくても、コマンドひとつで「これなら大丈夫」という候補を出してくれます。動かないモデルを延々とダウンロードして待つ、という無駄がなくなるわけです。

使ってみる

使い方はとても簡単です。Node.jsが入っていれば、あとはインストールするだけです。

# Windows
PS> npm install -g llm-checker
# Linux
$ npm install -g llm-checker

⚠️Windowsの人は、PowerShellでnpmを打つと最初にエラーが出ることがあります。 「スクリプトの実行が無効になっているため…」というメッセージが出たら、PowerShellで一度だけ次のコマンドを実行してください。

PS> Set-ExecutionPolicy RemoteSigned -Scope CurrentUser

これは「自分で入れたスクリプトなら動かしていいよ」という設定で、設定したユーザーだけに適用されます(管理者権限は不要です)。設定を変えたくない場合は、PowerShellの代わりにコマンドプロンプト(cmd)で実行すると、このエラーは出ません。

コマンドを覚えていなくても大丈夫(メニューモード)

「コマンドをいちいち覚えるのはちょっと…」という人も安心してください。引数をつけずにllm-checkerとだけ打つと、メニュー画面が開きます。

PS> llm-checker

すると、こんなふうに使えるコマンドが一覧で出てきます。

PS C:\> llm-checker
llm-checker | Interactive command panel
------------------------------------------------------------------
> |
------------------------------------------------------------------
Main commands
/check         Analyze your system and show compatible LLM models
/recommend     Get intelligent model recommendations for your hardware
/list-models   List all models from Ollama database
/search        Search models in the database
/installed     Show ranking of installed Ollama models
/sync          Sync the model database from Ollama registry
...
------------------------------------------------------------------
up/down navigate | Enter run | Esc close | q exit

上下キーで選んでEnterを押すだけで実行できます(qで終了)。コマンド名を丸暗記しなくても、ここから選べば迷いません。

いちばん手軽なのはcheck(これ一つでOK)

細かいことは抜きにして「で、結局どれを入れればいいの?」を知りたいなら、checkコマンドがおすすめです。自分のPCの分析から、おすすめモデル1つ、その入れ方まで、これ一つでまとめて出してくれます

PS> llm-checker check

自分のノートPCで実行すると、こんな結果になりました。

PS C:\> llm-checker check
llm-checker | Compatibility Check
-------------------------------------------
Recommendation mode: Compatibility report: shows hardware fit first. Use `llm-checker recommend` for canonical ranked model picks.
SYSTEM SUMMARY
──────────────────────────────────────────────────
CPU: Core™ i5-9300H (8 cores)
Memory: 16GB RAM
GPU: NVIDIA GeForce GTX 1650 with Max-Q Design
Architecture: x64
Backend: NVIDIA CUDA
Hardware Tier: ULTRA LOW
RECOMMENDED MODEL
──────────────────────────────────────────────────
Model: gemma3
Size: 3.3GB
Compatibility Score: 96/100
Fine-tuning: No FT
Reason: Best general-purpose model for your hardware
Estimated Speed: 15 tokens/sec
Runtime: Ollama
Status: Available for installation
Pull: ollama pull gemma3
QUICK START
──────────────────────────────────────────────────
1. Install the recommended model:
   ollama pull gemma3
2. Start using it:
   ollama run gemma3

うれしいのが、下の方のQUICK STARTです。導入のコマンドまで書いてくれています。その通りにコピー&ペーストするだけで導入、実行ができます。先ほどの結果だと、gemma3(3.3GB)が「あなたのPCに一番合う汎用モデル(Compatibility Score 96点)」として選ばれました。

実際にgemma3を導入してみました。

性能としてはこんな感じですね。Estimated Speed: 15 tokens/secという予測結果でしたが、実行結果としては20 tokens/secくらいでてますね。GPUののメモリもちゃんと使用されています。

先ほどの導入ではCLIはもちろん使用できますが、そのままでGUI環境でも問題なく動作します。

参考:GTX 1070機で実行すると

試しに、別のノートPC(Ubuntu 24.04 + GTX 1070 Mobile)で同じcheckを実行すると、こうなりました。

SYSTEM SUMMARY
──────────────────────────────────────────────────
CPU: Core™ i7-8750H (12 cores)
Memory: 31GB RAM
GPU: NVIDIA GeForce GTX 1070 with Max-Q Design
Architecture: x64
Backend: NVIDIA CUDA
Hardware Tier: MEDIUM LOW
RECOMMENDED MODEL
──────────────────────────────────────────────────
Model: Mistral Small 3.1
Size: 15GB
Compatibility Score: 95/100
Fine-tuning: No FT
Reason: Best general-purpose model for your hardware
Estimated Speed: 9 tokens/sec
Runtime: Ollama
Status: Available for installation
Pull: ollama pull devstral-small-2
QUICK START
──────────────────────────────────────────────────
1. Install the recommended model:
   ollama pull devstral-small-2
2. Start using it:
   ollama run devstral-small-2

こちらはメモリが31GBと多めなこともあり、TierがMEDIUM LOWに上がって、より大きめのモデル(15GB)が提案されました。同じコマンドでも、実行したPCに合わせた結果が返るのが分かります。

ただ、この結果には少し引っかかる点もあります。モデル名は「Mistral Small 3.1」と表示されているのに、実際のollama pullコマンドはdevstral-small-2と、別のモデルを指しているのです。

⚠️おすすめの表示とインストールコマンドが食い違うこともあるので、pullする前にモデル名を軽く確認しておくとよいでしょう。

まずはこのcheckを試すのが、いちばん近道だと思います。

このあとは、「もう少し中身を知りたい」という人向けに、hw-detect(PCの実力だけを詳しく見る)とrecommend(用途ごとのおすすめを見る)も紹介しておきます。とりあえず動かせればいい、という人は読み飛ばしてもらって大丈夫です。

もっと詳しく:自分のPCの実力を見るhw-detect

PS> llm-checker hw-detect

これを実行すると、CPU・メモリ・GPUといった情報と、「だいたいこのくらいの大きさまでのモデルが動かせますよ」という目安を表示してくれます。

実際に実行すると、こんな結果が出ました(自分のノートPCでの例です)。

PS C:\> llm-checker hw-detect
llm-checker | Hardware Detection
------------------------------------------
✔ Hardware detected!
=== Hardware Detection ===
Summary:
  NVIDIA GeForce GTX 1650 with Max-Q Design + Intel(R) UHD Graphics 630 (4GB VRAM)
  + Intel(R) Core(TM) i5-9300H CPU @ 2.40GHz
  Tier: ULTRA LOW
  Max model size: 2GB
  Best backend: NVIDIA CUDA
CPU:
  Intel(R) Core(TM) i5-9300H CPU @ 2.40GHz
  Cores: 8 (4 physical)
  SIMD: AVX2
CUDA:
  Driver: 610.62
  Total VRAM: 4GB
  NVIDIA GeForce GTX 1650 with Max-Q Design: 4GB
GENERIC:
  Source: systeminformation
  NVIDIA GeForce GTX 1650 with Max-Q Design: 4GB (Discrete)
  Intel(R) UHD Graphics 630: 8GB (Integrated)
Fingerprint: cuda-gtx-1650-with-max-q-design-4gb

この結果から確認してほしいのは、Summaryの部分です。ここにTierBest backendがまとまっています。このPCは「ULTRA LOW(かなり控えめ)」で、GPU(NVIDIA CUDA)を使って動かすのが良さそう、と教えてくれました。まずはここだけ眺めれば十分です。

参考:GTX 1070機で実行すると

こちらも、別ノートPC(Ubuntu 24.04 + GTX 1070)でhw-detectを実行してみました。要点だけ抜き出すとこんな内容です。

$ llm-checker hw-detect
Summary:
  Tier: MEDIUM LOW
  Max model size: 6GB
  Best backend: NVIDIA CUDA
CPU:
  Intel(R) Core(TM) i7-8750H CPU @ 2.20GHz  Cores: 12 (6 physical)  SIMD: AVX2
CUDA:
  Driver: 570.133.07   CUDA: 12.8
  Total VRAM: 8GB
GENERIC:
  Source: systeminformation+lspci
  GP104M [GeForce GTX 1070 Mobile]: 8GB (Discrete)
  CoffeeLake-H GT2 [UHD Graphics 630]: 256GB (Integrated)  ← ※あきらかに変な値

こちらはVRAMが8GBある分、Max model size2GB → 6GBと大きくなり、扱えるモデルの幅が広がっているのが分かります。CUDAのバージョン(12.8)もきちんと認識されていますね。

⚠️いちばん下の内蔵GPUが「256GB」というありえない値で出ています😅。内蔵GPUのメモリ検出はこういう変な数字になることがあるのですが、実際に使うのは上のDiscrete(GTX 1070の8GB)なので、ここは気にしなくて大丈夫です。

用途ごとのおすすめを見るrecommend

PS> llm-checker recommend

すると、実行したPCに合ったモデルが、用途(コーディング・推論・画像など)ごとにおすすめとして出てきます。 うれしいのが、そのモデルを入れるためのコマンドまで一緒に表示してくれることです。表示されたollama pull ◯◯をコピーして使えば、そのまま動かせます。

実行すると、こんな感じで結果が表示されます。

PS C:\> llm-checker recommend
llm-checker | Recommendations
---------------------------------------
Recommendation mode: Canonical recommendations: deterministic hardware-aware selector by category.
 SYSTEM INFORMATION
╭──────────────────────────────────────────────────
│ CPU: Core™ i5-9300H (8 cores, 2.4GHz)
│ Architecture: x64
│ RAM: 16GB
│ GPU: NVIDIA GeForce GTX 1650 with Max-Q Design
│ Backend: NVIDIA CUDA
│ VRAM: 4GB (Dedicated)
│ Hardware Tier: ULTRA LOW
╰
 INTELLIGENT RECOMMENDATIONS BY CATEGORY
╭─────────────────────────────────────────────────────────────────
│ Hardware Tier: ULTRA LOW | Models Analyzed: 10799
│ Optimization: BALANCED | Runtime: AUTO
│
│ BEST OVERALL: mistral
│    Command: ollama pull mistral:7b-instruct-q3_K_S
│    Score: 89/100 | Category: general
│
│ Coding (Coding):
│    qwen2.5-coder (7B)  Score: 79/100
│    Command: ollama pull qwen2.5-coder:7b-base-q3_K_S
│
│ Reasoning (Reasoning):
│    qwen2.5 (7B)  Score: 83/100
│    Command: ollama pull qwen2.5:7b-instruct-q3_K_S
│
│ Multimodal (Multimodal):
│    llava (7B)  Score: 88/100
│    Command: ollama pull llava:7b-v1.6-mistral-q3_K_S
│
│ Creative (Creative):
│    qwen2.5 (7B)  Score: 87/100
│    Command: ollama pull qwen2.5:7b-instruct-q3_K_S
│
│ Talking (Chat):
│    qwen2.5 (7B)  Score: 87/100
│    Command: ollama pull qwen2.5:7b-instruct-q3_K_S
│
│ Reading (Reading):
│    yi (6B)  Score: 87/100
│    Command: ollama pull yi:6b-200k-q3_K_S
│
│ General (General):
│    mistral (7B)  Score: 89/100
│    Command: ollama pull mistral:7b-instruct-q3_K_S
╰

上の例だと、自分のPCは「Hardware Tier: ULTRA LOW(かなり控えめ)」と判定されていて、それに合わせて各モデルが軽めの設定(Q3_K)で提案されているのが分かります。あとは気になったモデルのollama pull ◯◯をコピーして実行するだけです。

参考:GTX 1070機で実行すると

こちらも、先ほどの別ノートPC(Ubuntu 24.04 + GTX 1070・メモリ32GB)でrecommendを実行してみました。要点だけ抜き出すと、こんな内容でした。

$ llm-checker recommend
 Hardware Tier: MEDIUM LOW | Optimization: BALANCED
 BEST OVERALL: mistral (7B)  Score: 92/100
    ollama pull mistral:7b-instruct-v0.2-q5_0   (Quantization: Q5_K_M)

 Coding:      qwen2.5-coder (7B)   Score 83  ollama pull qwen2.5-coder:7b-base-q6_K
 Reasoning:   qwen2.5 (14B)        Score 90  ollama pull qwen2.5:14b-instruct-q3_K_S
 Multimodal:  llava (7B)           Score 91  ollama pull llava:7b-v1.6-mistral-q6_K
 Creative:    deepseek-coder (6.7B) Score 91 ollama pull deepseek-coder:6.7b-base-q6_K
 Reading:     yi (6B)              Score 87  ollama pull yi:6b-200k-q3_K_S
 General:     mistral (7B)         Score 92  ollama pull mistral:7b-instruct-v0.2-q5_0

同じモデルでも「設定(量子化)」のグレードが上がっています。さきほどのGTX 1650機(VRAM 4GB)ではどれも軽めのQ3_Kでしたが、このGTX 1070機(VRAM 8GB・メモリ31GB)ではQ5_K_MQ6_Kと、より品質重視の設定が選ばれています。推論用途では14Bという一回り大きなモデルも候補に出てきました。PCに余裕があるほど、より良い設定・大きいモデルを勧めてくれる、という違いが分かって面白いですね。

⚠️注意点⚠️

最後に、日本語で使いたい人向けの大事な注意です。このツールは「日本語がどれくらい得意か」までは評価してくれません😣😣😣。

おすすめは、あくまで総合的な性能とハードウェアへの収まりやすさで選ばれています。そのため、スコアが高くても英語やコードが主戦場のモデルmistraldeepseek-coderllavaなど)が上位に来ることがよくあります。これらは日本語で使うと少し物足りない場面もあります。

日本語で快適に使いたいときは、おすすめの中から日本語に比較的強いモデルを選ぶとよいです。目安としては、

  • qwen2.5(Qwen系)… 今回の候補の中でも日本語が得意な方。まずはこれが無難です
  • gemma3(GTX 1650機で選ばれていたモデル)… 多言語対応で、日本語も実用的です
  • llama3.1 / llama3.2… 日本語もそこそここなせます

「スコアが高い=自分にとって使いやすい」とは限らない、という点だけ覚えておくと安心です。

おわりに

ローカルLLMは「長時間かかってダウンロードしてみたら動かなかった」で、けっこう心が折れがちです。 ですが、LLM Checkerは、その「あちゃー😵」を事前に防いでくれる、ちょっとした安心材料だと思いました。まずはcheckを打って、出てきたおすすめモデルを入れてみるところから、気軽に試してみてください。

なお、このツールが教えてくれるモデルはOllamaというアプリで動かすものが中心です。とはいえOllamaは有名なモデルはだいたい揃っているので、調査の最初の一歩にはちょうどよいと思います。LLM CheckerOllamaをインストールしていなくても動作できるのは助かります。