ChatGPTみたいなAIを自分のMacで動かす。LM StudioでQwen3.8 27Bをはじめる完全ガイド

ローカルLLM

はじめに

「ChatGPTのようなAIを、インターネットに繋がず自分のパソコンの中だけで動かせたら」と思ったことはありませんか。

社外秘の資料をクラウドのAIに投げるのは不安、毎月のAPI利用料が気になる、そもそも仕組みとしてローカルで動くAIに触ってみたい。理由はさまざまだと思いますが、2026年現在、これは特別なスキルがなくても実現できるようになっています。

この記事では、LM Studioという無料アプリを使って、Alibaba発のオープンモデルQwen3.8 27BをMacで動かすまでの手順を、エンジニア初心者の方にも分かるように一つずつ解説します。単なる操作手順だけでなく、「MLXとGGUFはどちらを選べばいいのか」「4BITと8BITは何が違うのか」といった、初めての人が必ずつまずくポイントの意味まで噛み砕いて説明します。

この記事で学べること

  • LM Studioのインストールからモデルのダウンロード、チャット開始までの手順
  • 量子化(4BIT/8BITなど)やMLX/GGUFといった専門用語の意味と選び方
  • コンテキスト長の設定方法と、適切な値の考え方
  • ターミナルやPythonプログラムからローカルAIを呼び出す方法

想定読者

  • プログラミング経験は浅いが、ローカルLLMに興味がある方
  • ChatGPTなどのAIチャットは使ったことがある方
  • Apple Silicon搭載のMac(M1以降)をお持ちの方

背景: ローカルLLMとは何か

ChatGPTやClaudeのようなAIチャットは、あなたの質問をインターネット経由で事業者（OpenAI、Anthoropic）のサーバーに送り、サーバー上の巨大なAIモデルが回答を生成して返す仕組みです。

これに対してローカルLLMは、AIモデル本体のファイルを自分のパソコンにダウンロードし、手元のマシンの計算能力だけで回答を生成します。LLMはLarge Language Model(大規模言語モデル)の略です。

ローカルで動かすメリットは大きく3つあります。

  • プライバシー: 入力した内容が一切外部に送信されません。機密情報や個人的な相談も安心です
  • コスト: モデル自体は無料で、何回使ってもAPI料金がかかりません。電気代だけです
  • オフライン動作: 一度ダウンロードすれば、飛行機の中でも山奥でも使えます

一方でデメリットは、マシンの性能に品質が左右されることです。最高峰のAI（Fable5など）と比べると賢さは一歩劣りますが、近年のオープンモデルの進化は目覚ましく、日常的な質問応答、文章作成、コーディング支援であれば十分に使用できるレベルになっています。

Qwen3.8 27Bを選ぶ理由

今回使うQwen3.8 27Bは、「ノートパソコンで動くサイズなのに、推論・ツール呼び出し・画像理解までこなす」ことを売りにした最新世代のオープンモデルです。具体的には次の特徴があります。

  • 画像が読める(Vision): スクリーンショットや図表を渡して質問できます
  • 考えてから答える(Reasoning): 難しい問題では思考プロセスを挟んで回答精度を上げます
  • 道具が使える(Tools): プログラムから外部機能を呼び出させるエージェント用途に対応します
  • 長い文章を扱える: 最大262,144トークン(日本語で数十万文字相当)まで一度に読み込めます

いわば「全部入り」のモデルで、最初の一台として使い倒すのに向いています。

環境構築・準備

必要なもの

項目要件
パソコンApple Silicon搭載Mac(M1/M2/M3/M4/M5)
メモリ最低32GB、推奨64GB以上(選ぶモデルサイズによる)
ストレージ空き容量40GB以上
ソフトウェアLM Studio(無料)

重要なのは メモリ(ユニファイドメモリ) です。ローカルLLMはモデルファイルを丸ごとメモリに載せて動かすため、メモリ容量で「どのサイズのモデルを動かせるか」が決まります。目安として、この記事で扱うQwen3.8 27Bは、軽量版なら約16GB、最高品質版なら約30GBのメモリを消費します。

LM Studioのインストール

LM Studioは、ローカルLLMの「ダウンロード・実行・管理」を全部GUIでできるオールインワンアプリです。コマンド操作なしで始められるため、入門に最適です。

  1. 公式サイト(lmstudio.ai)にアクセスします
  2. 「Download」からmacOS版をダウンロードします
  3. ダウンロードした.dmgファイルを開き、アプリをApplicationsフォルダにドラッグします
  4. 起動して初期設定を進めます

これで準備完了です。

本編: モデルをダウンロードして動かす

ステップ1: モデルを探す

LM Studioの検索画面(虫めがねアイコン、またはExplore)を開くと、Hugging Faceというモデル共有サイトに公開されたモデルを検索できます。「Staff picks」にはLM Studioチームのおすすめが並んでおり、Qwen3.8 27Bもここに表示されます。

モデル一覧では、名前の横に小さなアイコンが付いています。これは対応機能を表すバッジです。

  • 目のアイコン: Vision(画像入力対応)
  • レンチのアイコン: Tools(ツール呼び出し対応)
  • 半分塗りの円: Reasoning(思考機能対応)

Qwen3.8 27Bは3つすべてが揃っています。

ステップ2: モデル名の読み方を知る

一覧を眺めると「27B」「12B QAT」「35B A3B」など、暗号のような名前が並んでいます。ここが最初の関門なので、読み方を整理します。

表記意味例
27Bパラメータ数270億(Bはbillion=10億)Qwen3.8 27B
A3B総パラメータのうち推論時に動くのは3B分(MoE型)Qwen3.6 35B A3B
QAT量子化を前提に学習したモデル。圧縮しても劣化が少ないGemma 4 12B QAT

パラメータ数(B)は、モデルの「脳の大きさ」だと考えてください。基本的には数字が大きいほど賢くなりますが、その分メモリを消費します。ただし、モデルの世代が新しいと小さいモデルが古い大型モデルを上回ることも珍しくないため、「同じシリーズ内なら大きい方が賢い」くらいの理解が実態に合っています。

ステップ3: フォーマットを選ぶ(MLX vs GGUF)

モデルの詳細画面で「Download Options」を開くと、同じQwen3.8 27Bに対してGGUFとMLXという2種類のフォーマットが並んでいます。

これは「モデルをどのエンジンで動かすか」の違いです。

項目MLXGGUF
開発元Applellama.cppコミュニティ
対応環境Apple Silicon専用Windows/Linux/Macなんでも
Macでの速度速い(最適化されている)普通(十分実用的)

MLXは、Appleが自社チップ向けに開発した機械学習フレームワークです。Apple SiliconはCPUとGPUがメモリを共有する特殊な構造(ユニファイドメモリ)をしており、MLXはこれを前提に設計されているため無駄がありません。

結論はシンプルで、Macで使うならMLXを選べばOKです。GGUFが必要になるのは、WindowsマシンやLinuxサーバーでも同じモデルファイルを使い回したい場合くらいです。

ステップ4: 量子化レベルを選ぶ(4BIT vs 8BIT)

次に、同じMLXの中でも「4BIT」「6BIT」「8BIT」といった選択肢があります。これは量子化という圧縮技術のレベルを表しています。

AIモデルの中身は膨大な数値(パラメータ)の集まりです。量子化は、この数値を粗く丸めることでファイルサイズを削る技術です。画像に例えると、高画質JPEGを低画質に圧縮するイメージに近く、ビット数が小さいほどファイルは軽くなるが、賢さがわずかに削れるというトレードオフがあります。

Qwen3.8 27Bの場合の目安です。

量子化サイズ品質必要メモリの目安
4BIT約16GB日常用途では十分。複雑な推論でやや劣化32GB機
6BIT約23GB8BITとほぼ区別がつかない48GB機
8BIT約30GB元のモデルとほぼ同等64GB機以上

選び方の考え方はこうです。

  • メモリに余裕があるなら大きいビット数を選ぶ。品質を落とす理由がないためです
  • メモリがぎりぎりなら4BITで妥協する。4BITでも一般的なチャットでは体感差がほとんどありません
  • 差が出やすいのは数学、コーディング、複数ステップの推論といった「間違いが積み重なる」タスクです

たとえば128GBメモリのMacなら迷わず8BIT、32GBのMacBook Airなら4BIT、という判断になります。

ステップ5: ダウンロードして動作確認

フォーマットと量子化を選んだら、「Download」ボタンを押します。30GB近いファイルなので、回線によっては30分〜数時間かかります。

このとき「Full GPU Offload Possible」という緑のバッジが出ていれば、モデル全体をGPU側で処理できる(=最速で動く)ことを意味します。


ダウンロードが完了したら、チャット画面の上部でモデルを選択してロードし、何か話しかけてみてください。初回のロードには数十秒かかりますが、2回目以降の応答はスムーズになります。

ステップ6: コンテキスト長を設定する

快適に使えることを確認したら、一つだけ設定を変えておくことをおすすめします。 コンテキスト長(Context Length) です。

コンテキスト長は「AIが一度に覚えていられる会話や文書の長さ」の上限で、初期設定では短め(4K〜8Kトークン程度)になっていることが多いです。これだと長い文書を読ませたときにすぐ頭打ちになります。

設定は2箇所でできます。

  1. ロード時に指定: モデル選択時の詳細設定にある「Context Length」スライダーで変更します。すでにロード済みの場合は一度アンロードして再ロードが必要です
  2. デフォルト値として保存: 設定の「Local Model Defaults」でモデルごとの既定値を保存できます。常用するならこちらが楽です

おすすめの値は 65536(64K) です。理由を簡単に説明します。

コンテキスト長を増やすと、KVキャッシュというメモリ領域がその分だけ大きく確保されます。KVキャッシュとは、AIが「すでに読んだ文章の解析結果」を保存しておく場所です。この保存のおかげで、AIは文章を1文字生成するたびに全文を読み直す必要がなくなり、高速に動作します。いわば「速度をメモリで買う」仕組みで、コンテキスト長はその予算枠です。

つまり、大きくするほどメモリを消費し、小さすぎると長文が扱えない。64Kは「長めの文書処理やAIエージェント用途までカバーしつつ、メモリ消費が現実的」なバランスの良い値です。まず64Kで運用を始めて、足りなければ引き上げる進め方がおすすめです。

応用: プログラムから呼び出す

チャット画面で使うだけでもローカルLLMは便利ですが、真価を発揮するのはプログラムから呼び出せるようにしたときです。LM Studioには、ダウンロードしたモデルをAPIサーバーとして公開する機能が標準で付いています。

ここで嬉しいのは、このAPIがOpenAI互換である点です。世の中のAIツールやライブラリの多くはOpenAIのAPI形式に対応しているため、接続先のURLを差し替えるだけで、それらがそのまま自分のローカルAIで動くようになります。

サーバーを起動する

LM Studioの設定画面から「Local Model API」をRunningに切り替えるか、ターミナルで次のコマンドを実行します。

# LM Studio付属のCLIを有効化する(初回のみ)
~/.lmstudio/bin/lms bootstrap

# 新しいターミナルを開いてサーバーを起動する
lms server start

# モデルをロードする(コンテキスト長も指定できる)
lms load qwen/qwen3.8-27b --context-length 65536

これで http://localhost:1234 にAPIサーバーが立ち上がります。localhostは「自分のパソコン自身」を指すアドレスなので、外部には一切公開されません。

動作確認する

ターミナルから次のコマンドで疎通確認できます。

curl http://localhost:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen/qwen3.8-27b",
    "messages": [{"role": "user", "content": "自己紹介してください"}]
  }'

JSON形式で回答が返ってくれば成功です。

Pythonから呼び出す

OpenAIの公式ライブラリがそのまま使えます。

pip install openai
from openai import OpenAI

# 接続先をローカルのLM Studioに向ける
client = OpenAI(
    base_url="http://localhost:1234/v1",
    api_key="lm-studio",  # ローカルなので任意の文字列でよい
)

resp = client.chat.completions.create(
    model="qwen/qwen3.8-27b",
    messages=[{"role": "user", "content": "ローカルLLMの魅力を3行で教えて"}],
)
print(resp.choices[0].message.content)

たったこれだけで、自作スクリプトやアプリの頭脳としてQwen3.8を組み込めます。API利用料はゼロなので、大量にリクエストを投げる実験も気兼ねなくできます。

メモリの様子を観察してみる

モデルをロードした状態で、Macのアクティビティモニタ(アプリケーション → ユーティリティ)を開いてみてください。メモリタブでは使用量が30GB前後増えていること、GPUの履歴では文章生成中にGPUがフル稼働していることが確認できます。「AIが自分のマシンで動いている」実感が得られる瞬間です。

トラブルシューティング

初心者がつまずきやすいポイントを表にまとめます。

症状原因対処法
動作が極端に遅い、Macが固まるメモリ不足でスワップが発生しているより小さい量子化(4BIT)や小型モデルに変更する
長い文書を貼ると途中から無視されるコンテキスト長の上限を超えているコンテキスト長を引き上げて再ロードする
APIに接続できないサーバーが起動していないlms server start を実行、またはGUIでRunningにする
curlは通るがモデル名エラーが出るモデル識別子の指定間違いlms ls で正確なモデル名を確認する
初回のAPI応答だけ異常に遅いリクエスト時にモデルを自動ロードしている事前に lms load でロードしておく
生成が遅くなってきた会話が長くなりKVキャッシュ処理が重くなっている新しいチャットを開始する

まとめ

この記事では、LM StudioでQwen3.8 27Bをローカル実行するまでの流れを解説しました。要点を振り返ります。

  • ローカルLLMは「プライバシー・コスト・オフライン」が魅力で、性能はメモリ容量に左右される
  • Macで使うならフォーマットはMLXを選ぶ
  • 量子化は「メモリが許す範囲で大きいビット数」が基本。8BITなら元モデルとほぼ同等
  • コンテキスト長は64Kを起点に、実際の使い方に合わせて調整する
  • OpenAI互換APIを立てれば、既存のツールやライブラリからURL差し替えだけで使える

次のステップとしては、複数の役割を持たせたAIに議論させて結果をレポート化する「マルチエージェント」の構築や、DifyのようなノーコードツールとローカルLLMの接続に挑戦してみると、活用の幅が一気に広がります。

まずは今日、モデルのダウンロードボタンを押すところから始めてみてください。

参考リソース

  • LM Studio公式サイト: https://lmstudio.ai
  • LM Studio公式ドキュメント(CLI・API): https://lmstudio.ai/docs
  • MLX(Apple公式リポジトリ): https://github.com/ml-explore/mlx
  • Qwen公式(Hugging Face): https://huggingface.co/Qwen
タイトルとURLをコピーしました