
シルバーウィークの5連休、皆さんいかがお過ごしでしょうか。
これまでなら「休みが続く=旅行やキャンプ」という過ごし方をしていましたが、今年は少し身体がしんどいのと、息子が中学3年で受験生ということもあり、特に予定のない連休を迎えています。
「このままだと、だらだら過ごして終わってしまいそうだな…」と少し残念に思っていたのですが、ふと気になったことを試してみたら思いのほか簡単にできたので、備忘録も兼ねて記事にしてみたいと思います。
きっかけはYouTubeでした。
外部のクラウドサーバーを使わず、自分のパソコン上でAIモデルを直接動かす「ローカルAI」を楽しんでいる方を見かけたんです。
「AIのような最先端技術を自分のPCで動かせる」という点に急に惹かれ、自分も挑戦してみたくなりました。
<前提条件:PCスペックについて>
自分のパソコンでAIを動かすには、物理的にある程度のマシンスペックが要求されます。
調べてみると「そこそこ快適に最近のゲームができるパソコン」であれば、とりあえずは動かせるようです。
参考までに、私が使っているパソコンのスペックは以下の通りです。
CPU:Intel Core i9-13900K
GPU:NVIDIA GeForce RTX 4070 Ti(※AIではこのVRAM容量が結構重要らしいです)
RAM:32GB (16GB×2) DDR4-4000
前世代のちょっといいゲーミングPCクラスですね。今回はこの環境でやってみます。
<Ollama か? LM Studio か?>
ローカルAIを動かすには、AIモデルを管理・実行するための「ランチャーソフト」のようなツールが必要になります。
定番としてよく名前が挙がるのが「Ollama」と「LM Studio」の2つ。
正直どちらも詳しくなかったのですが、ざっくり言うとOllamaはコマンド入力(CUI)メイン、LM Studioは画面操作(GUI)メインといった印象でした。
初心者には視覚的にわかりやすい方が良いだろうと思い、「LM Studio」を選ぶことにしました。
しかし、ここでちょっとしたハプニングが・・・・。
公式サイトからWindows版のLM Studioをダウンロードしたつもりだったのですが、実際には「LM Studio Bionic」という別バージョンのようなツールを入れていたようです。オオボケです。
(後で息子と話していて、どうも内容が噛み合わないと思ったらこういうことでした )
とはいえ、何も疑問を持たずにそのままインストール。
起動後、そこからAIモデル「Qwen2.5 Coder 14B」をダウンロードして、とりあえず使える状態にまで持っていくことができました。
ちなみに「Qwen2.5 Coder 14B」を選んだ理由は、ネットで「RTX 4070 TiクラスのGPUで動かすのにちょうどいい」という書き込みを見かけたからです。
それと、プログラミングに特化したモデルとのことで自分の利用範囲としては丁度良く、初めてのローカルAI体験にはピッタリの選択でした。
<導入手順>
それでは、本題の導入手順を解説していきます。
A. LM Studio Bionicのダウンロードとインストール
1.LM Studioのサイトから LM Studio Bionic をダウンロード
*2026/9/19現在 Bionic-1.1.4-3-x64.exe

lmstudio.ai
2.ダウンロードしたBionic-1.1.4-3-x64.exeをクリックしてインストール
「同意する」をクリック

とりあえず、「次へ」


「完了」をクリックしてBionicを起動

この画面が出てきたらOK! (シンプルすぎる!!)

B. ローカルAIモデル(Qwen2.5 Coder 14B)の導入
1.「モデルを選択」→ 「ローカルモデルを入手」を選択

2.検索窓(虫眼鏡)に Qwen2.5 を入力

Qwen2.5-Coder-14B-Instruct-GGUF Q4_K_M を選択して「ダウンロード」をクリック(注:ネット回線の状況次第でかなり時間がかかる場合があります)


↑ここが緑のものを選ぶのを推奨します。
各人のパソコン環境(GPU)によって変わりますので試行錯誤してください。
「このモデルはお使いのGPUのメモリに完全に収まる可能性があります。これにより、推論が大幅に高速化される可能性があります。
(ただし)モデルのアーキテクチャ、モデルファイルの整合性、またはお使いのコンピュータの利用可能なメモリ量など、読み込みを妨げる他の要因が存在する可能性もあります。」
C. ローカルAIの起動とちょっとした問題点
ダウンロードが終了して正常に導入できるとこんな感じになります。

後は自由にローカルAIに聞いてみてください。
ただし、ChatGPTとかGoogle Geminiとかと比べると能力が劣ります(アホです)のでご使用には十分気を付けてください。
注意:Qwen2.5は中華人民共和国製のAI(中国のアリババグループ:Alibaba Cloud が開発)なので、都合の悪い質問があると回答を拒否します。
こんな感じです。(下記)

<あとがき>
ローカルAIを導入しようと考えて使えるようになるまでに1日もかかりませんでした。
思ったより簡単だったというのが感想です。
これまで昔のOSやゲームを走らせることばかりを主にテーマにしてきた当ブログでしたが、やっと未来志向の話題も扱えるようになった(?)かもしれません。
でも正直何がなんやらの状態で、詳しいことは何も解りません。
Qwenの検閲・拒否なし(Uncensored)ヴァージョンもすでに導入済なので、導入方法を後日紹介したいと思います。(やる気があればですが・・・)