Ollama（オラマ）は、自分のパソコンの中だけで AI（大規模言語モデル＝LLM）を動かすための標準ツールです。クラウドの ChatGPT などと違い、データを外に出さずに使えるのが最大の特徴。インストールから初回のモデル実行まで 10〜15 分ほどで、「手元の PC で動く AI」が手に入ります。本ガイドは、はじめての人が迷わず動かし、選び、安全に使うところまでを図とともに案内します。
FIG.1 クラウド AI はデータを外部サーバーに送る。Ollama は手元の PC だけで完結する
01そもそも「ローカルで動かす」と何が良いのか
クラウドの AI は便利ですが、入力した文章は外部のサーバーに送られます。Ollama は AI 本体（モデル）を自分の PC にダウンロードして動かすので、入力も出力も手元から出ません。具体的なメリットは次の通りです。
プライバシー
入力したデータが外に出ない。社外秘の文章や個人情報を扱う場面で安心。
追加料金なし
API の従量課金が発生しない。動かすぶんの電気代だけ。何回呼んでも料金は増えません。
オフライン
一度モデルをダウンロードすれば、ネット接続がなくても動く。機内や出張先でも使える。
一方で万能ではありません。手元の PC の性能の範囲でしか動かせず、最高性能のクラウドモデル（後述）には及びません。「軽い作業・機密データ・実験用」をローカル、「最高精度が要る本番」をクラウド、と役割を分けるのが現実的です。
02必要なパソコンのスペック
AI モデルには「サイズ」があり、数字が大きいほど賢いぶん、必要なメモリ（RAM）と処理能力が増えます。サイズは B（ビリオン＝10億パラメータ） という単位で表されます。下表は目安です。Mac の場合は CPU・GPU・メモリが一体（ユニファイドメモリ）なので、表の RAM をそのまま見てください。
| モデルサイズ | 目安の必要メモリ・速度感 |
|---|---|
| 1B〜4B（小型） | 8GB 程度。GPU なしでも動く。軽快。まず試すならここ |
| 7B〜8B（標準） | 16GB 程度。Apple Silicon（M1 以降）や RTX 3060 級で快適 |
| 12B〜14B（中型） | 24GB 程度。M2 Pro / RTX 4070 級。やや待つ場面も |
| 27B〜32B（大型） | 32GB 以上。M3 Max / RTX 4090 級が欲しい。重い |
数値は量子化（モデルを圧縮して軽くする技術。Ollama は標準で適用済み）の度合いでも変わるため、あくまで出発点です。迷ったらまず 4B 前後の小型モデルから始めるのが失敗しないコツ。動いてから大きいモデルに進めば、自分の PC の限界が体感でわかります。
03インストール
2026年現在、Ollama は公式デスクトップアプリが用意され、コマンドに不慣れな人でも導入しやすくなりました。macOS・Windows は公式サイト ollama.com からインストーラをダウンロードするのが一番簡単です。
アプリをダウンロード
macOS（12 以降）・Windows は ollama.com からインストーラを入手。Apple Silicon（M1 以降）推奨。Intel Mac は CPU のみで動作が遅く非推奨です。
Linux はコマンドで
Linux はインストールスクリプトを実行します。curl -fsSL https://ollama.com/install.sh | sh（GUI アプリは現状 Mac / Windows のみ）。
動作確認
ターミナルで ollama --version が表示されれば導入完了。次にモデルを 1 つ落として動かします。
なお、Homebrew の brew install ollama でも入りますが、Mac では公式アプリ版のほうが GPU まわりの設定や自動更新が楽なので、はじめての人にはアプリ版をおすすめします。
04はじめてのモデル実行
モデルは ollama run <モデル名> で実行します。初回はモデル本体（数 GB）を自動ダウンロードし、2 回目以降は即起動。コマンドを打つと対話シェルが立ち上がり、その場で会話できます。2026年時点で初心者が試しやすい代表的なモデルは次の通りです。
# Gemma 3（Google 製、軽くて画像も読める。まず試すならコレ） ollama run gemma3:4b # Qwen 3（Alibaba 製、日本語・多言語に強い汎用モデル） ollama run qwen3:8b # gpt-oss（OpenAI 公開のオープンモデル、推論が得意） ollama run gpt-oss:20b # DeepSeek-R1（じっくり考える「推論モデル」） ollama run deepseek-r1:8b
モデル名のコロン以降（:4b など）はサイズの指定です。自分の PC のメモリに合わせて選びます。サイズを付けないと標準サイズが落ちてくるので、小さい PC では明示的に小さいサイズを指定してください。終了は対話シェルで /bye と入力します。
Ollama は GUI アプリからも使えます。アプリのチャット画面で、インストール済みモデルを選び、PDF や画像をドラッグ＆ドロップして読ませたり、モデルが覚えておく文脈の長さ（コンテキスト長）をスライダーで調整できます。ターミナルが苦手な人はこちらが入口になります。
05用途別・モデルの選び方
「どれを使えばいい？」は最初の悩みどころ。2026年時点での定番を用途別に整理します。モデルは入れ替わりが速いので、迷ったら公式ライブラリ（ollama.com/library）で最新タグを確認するのが確実です。
| やりたいこと | おすすめモデル（タグ例） |
|---|---|
| 汎用チャット・日本語 | qwen3、gemma3 |
| コード生成 | qwen3-coder、qwen2.5-coder |
| じっくり推論・数学 | deepseek-r1、gpt-oss |
| 画像を読ませる（マルチモーダル） | gemma3（4B 以上）、llama3.2-vision |
| とにかく軽く・速く | gemma3:1b、qwen3:0.6b |
最初から最強を狙わず、「自分の PC で快適に動く一番賢いモデル」を見つけるのが正解。
注意点をひとつ。DeepSeek-R1 の小型タグ（7B/8B など）は「蒸留版」です。本家の R1 は 671B という巨大モデルで、個人 PC では動きません。小型タグはその思考の癖を小さいモデルに移したもの、と理解しておくと期待値がずれません。
06プログラムから API として呼ぶ
Ollama を起動しておくと、PC 内に localhost:11434 という窓口（REST API）が立ち上がります。便利なのは、これがOpenAI 互換 APIになっていること。つまり ChatGPT 向けに書いたコードの「接続先」を 1 行差し替えるだけで、そのままローカルモデルに切り替えられます。
FIG.2 接続先（baseURL）と モデル名を変えるだけで、ローカルモデルに切り替わる
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "http://localhost:11434/v1", // ← ここをローカルに
apiKey: "ollama", // 任意の文字列でよい
});
const res = await client.chat.completions.create({
model: "qwen3:8b",
messages: [{ role: "user", content: "東京の見どころを3つ教えて" }],
});
console.log(res.choices[0].message.content);
さらに 2026年の Ollama は、回答を決まった形式（JSON など）に強制できる構造化出力と、モデルに外部処理を呼ばせるツール呼び出し（function calling）に対応しています。アプリに組み込んで「必ず決まったデータ形で返させる」「検索や計算を実行させる」といった使い方が、ローカルでもできるようになりました。
07自分好みのモデルを作る（Modelfile）
既存モデルに「あなたは丁寧な日本語アシスタントです」のような役割（システムプロンプト）や、回答のばらつき具合（temperature）をあらかじめ仕込んでおけます。Modelfile という小さな設定ファイルを書くだけです。
# Modelfile というファイル名で保存 FROM qwen3:8b SYSTEM "あなたは丁寧な日本語アシスタントです。専門用語は噛み砕いて説明します。" PARAMETER temperature 0.7 # 上の設定でカスタムモデルを作成して実行 ollama create my-assistant -f Modelfile ollama run my-assistant
毎回同じ前置きを打たずに済むので、用途別アシスタント（翻訳係・要約係・コード係）を作り分けると便利です。なお、これは元のモデルの能力を変えるものではなく、振る舞いの初期設定を固定する機能だと理解しておきましょう。
08画面で使う GUI ツール
ターミナルが苦手なら、画面（GUI）で使う選択肢が複数あります。2026年は Ollama 公式アプリ自体が GUI を備えましたが、用途に応じて外部ツールも人気です。
- Ollama 公式アプリ：チャット UI・PDF/画像のドラッグ＆ドロップ・コンテキスト長スライダーを内蔵（Mac / Windows）
- Open WebUI：ChatGPT 風の Web UI。複数ユーザー・履歴管理など機能が豊富
- LM Studio：Ollama とは別系統の GUI ツール。モデル探索や量子化の選択が視覚的
09Ollama と vLLM、どう違う
「もっと大量・高速に捌きたい」となると vLLM という別のツールが候補に挙がります。役割が違うので、無理に比べず使い分けます。
| Ollama | vLLM |
|---|---|
| 個人・小規模・実験向け | 本番サービス・大量リクエスト向け |
| セットアップが数分で簡単 | セットアップに手間（GPU 設定など） |
| 消費者向け GPU・Mac でも動く | 業務用 GPU 前提で真価を発揮 |
まずは Ollama で開発・検証し、同時アクセスが増える本番フェーズで vLLM などへ移す、という流れが定番です。最初から vLLM を選ぶ必要はありません。
Notes & Caveats
動かす前に知っておきたい注意点
ローカル LLM は手軽ですが、いくつか前提があります。トラブルや誤解を避けるために、最初に押さえておきましょう。
FIG.3 ローカル LLM の 4 つの留意点
- 消費電力と発熱：大きいモデルを動かすと GPU がフル稼働し、電力消費と発熱が増えます。ノート PC では電源接続を推奨。
- 初回ダウンロード：モデルは数 GB〜数十 GB。回線と空き容量に余裕を持って。
- ライセンス：商用利用の可否はモデルごとに異なります。仕事で使う前に、必ず各モデルの公式ライセンスを確認してください（オープンモデルでも条件付きの場合あり）。
- 性能差：ローカルモデルは進化が速い一方、最高精度を求める用途ではクラウドのフラッグシップに及ばないことがあります。出力は鵜呑みにせず、重要な内容は裏取りを。
10まとめと次のステップ
Ollama は「ローカル AI を試す最初の一歩」として最適です。アプリを入れ、ollama run gemma3:4b のような小型モデルから始め、慣れたら用途別にモデルを選び、API でアプリに組み込む——この順で進めば無理がありません。プライバシーやコストの理由でクラウドを使いにくい場面でも、手元の AI という選択肢を持てるのは大きな強みです。まずは 1 つ、軽いモデルを動かして「自分の PC で AI が喋る」体験から始めましょう。
