昨日、自分のMacにローカルLLMをインストールした話を書いた。9GBのファイルにAIが入っている、という気づきの話だった。今日はその前段、「そもそもなぜインストールがあんなに簡単だったのか」について書いておきたい。

魔法を使ったわけではない。Ollamaという、いま静かに業界の足場になっているツールの話だ。

実際にやったこと

私が一昨日の夜にMacのターミナルに打ち込んだのは、たったこれだけだった。

brew install ollama
brew services start ollama
ollama run hf.co/bartowski/NousResearch_NousCoder-14B-GGUF:Q4_K_M

3行。最初の brew install は30秒で終わった。ollama run を実行すると、Q4_K_M形式で約9GBに圧縮されたモデルファイルが自動でダウンロードされて、勝手に展開されて、対話画面が立ち上がった。

そこから先は、ChatGPTを使うのとほぼ同じ感覚だ。プロンプトを打ち込むと、自分のMacの中でAIが考えて、答えを返してくる。

「これだけ?」というのが、正直な感想だった。

Ollamaは何者か

Claudeに「Ollamaって何?」と聞いてみた。

「ローカルLLMを動かすための、一番ポピュラーなツールです。ものすごくざっくり言うと、LLM版のDockerみたいな存在ですね」

本来なら、モデルをダウンロードして、ランタイムを用意して、メモリ管理を設定して、推論サーバーを立てて——という手間が必要なところを、コマンド一発で全部やってくれる。

具体的な役割を整理するとこんな感じだ。モデルのダウンロード管理(公式リポジトリやHugging Faceから自動取得)、推論エンジン(内部で llama.cpp というOSSを使ってモデルを実行)、ハードウェア最適化(MacならMetal、NVIDIA GPUならCUDA、無ければCPUを自動で使い分け)、APIサーバー機能(localhost:11434 でOpenAI互換APIを提供)、そしてターミナルでの対話インターフェース。

つまり、ローカルLLMを動かすために必要な道具一式を、一つのコマンドの裏に隠してくれているわけだ。

数年前は、こうではなかった

ローカルLLMはOllamaが登場するまで、「敷居の高い世界」だったらしい。

Pythonの依存関係、CUDAのバージョン、量子化形式の選択、メモリ管理——エンジニアでも一日仕事で消耗するような手順の山があった、とClaudeは言う。

それが2023年、Ollamaが登場して景色が変わった。brew install ollama で終わり。それだけで、世界中の研究者やオープンソース開発者が作ったLLMが、自分のMacで動く。

これは、技術そのものが進化したというより、「手前の障壁が一気に取り払われた」と言うのが正確だと思う。中身は依然として llama.cpp という別のOSSをラップしているだけだ。でも、その「ラップした」ことが決定的だった。

Wi-Fiが出てきた時に、少し似ている

Claudeはこの状況を「Wi-Fiが出てきた時に少し似ている」と表現した。

それまでLAN配線やドライバ設定で消耗していたのが、ある日突然「電源入れたら繋がる」になった。技術そのものより、扱える人の母数が桁違いに増えた。

ローカルLLMも、2022年頃までは「Python環境を自力で構築できる人だけの世界」だった。それが2023年のOllama登場で、Macを持っている人なら誰でも触れる領域に降りてきた。

これは個人的に、いまのAI業界で起きていることの本質を象徴していると思う。GPT-4も、Claudeも、Stable Diffusionも、技術そのもの以上に「触りやすさ」で社会に浸透した。難しい部分は研究者やライブラリ作者が引き受けて、ユーザーは結果だけを享受できる。

簡単になったことが、別のものを開いた

そしてここからが、私にとって今日の本題なのだけど——

Ollamaがインストールを30秒で終わらせたから、私は別の問いに辿り着けた。

「9GBの中に、何が入っているのか?」

これは昨日書いた記事のテーマでもある。インストールで一日消耗していたら、おそらく動かしただけで満足して、その先の「これは何なのか」まで考える余裕はなかったと思う。

技術が簡単になると、人はその先を考え始める。

Wi-Fiが普及した結果、人はネットワーク機器の設定ではなく「インターネットで何をするか」を考えるようになった。Ollamaが普及した結果、私たちは「ローカルLLMをどうインストールするか」ではなく「ローカルLLMで何ができるのか、そもそもこれは何なのか」を考えられるようになっている。

これは小さくない変化だ。

選択肢は広がっている

Ollamaと似た立ち位置のツールも増えてきている。

LM Studio はGUIで初心者向け、llama.cpp は自分で全部制御したい人向け、vLLM はサーバー用途・本番運用向けで爆速、Jan はデスクトップアプリでOSSの後発。

それから、先日紹介した Osaurus のように、OllamaベースのローカルLLMとクラウドAPIを単一UIで統合管理するツールも登場している。

「自分のPCの中でAIを動かす」が当たり前になる時代は、もう来ているように思う。次に何が起きるかは、LLMの次に来る『ワールドモデル』の議論あたりにヒントがあるのかもしれない。

3行のコマンドの裏側

私が一昨日打ったコマンドは、たった3行だった。

brew install ollama
brew services start ollama
ollama run hf.co/bartowski/NousResearch_NousCoder-14B-GGUF:Q4_K_M

このコマンドの裏には、世界中の研究者と開発者が積み上げてきた、何年分もの仕事がある。それが、私の30秒という体験に圧縮されている。

技術が簡単になるというのは、こういうことなのだろう。表面が滑らかになるほど、その下に積まれているものは、見えなくなる。

でも、見えなくなったからこそ、私たちはその先を考えられる。