ローカルLLM

AI最新情報

LLM を 1 トークンごとに切り替える TokenRouter とは？ 0.6B と 32B を回答の途中で使い分ける

判定モデルで「質問ごとにモデルを振り分ける」のが当たり前になった先にある、回答の途中で1トークンごとに担当モデルを替える「トークン単位ルーティング」。清華大学が公開した推論基盤TokenRouterの仕組みと「2.01〜64.15倍」の読み方を解説し、Macで公式のR2Rルーターを使ってQwen3-0.6Bと32Bを切り替えた結果（数学30問で0.6B 20問→切り替わ 23問→32B 27問）を動画つきで紹介します。
2026.10.12
AI最新情報LLMローカルLLM
AI最新情報

Qwen-Image-2.1-Turbo は従来版より何倍速い？ 8ステップ化の仕組みと商用利用の条件

2026年10月9日に公開された Qwen-Image-2.1-Turbo を、従来版の Qwen-Image-2.1 と M5 Max の Mac で同じ条件で比べました。1024px 級で1枚3分56秒→50秒（約4.7倍）。テキストエンコーダーと VAE は従来版と同一で、変わったのは画像生成部の重みと8回分の予定表。KV キャッシュは Turbo 専用ではない点、日本語の文字や質感の違い、Mac で編集するときの VAE の落とし穴、Qwen Research License で商用利用できるかもまとめます。
2026.10.12
AI最新情報ローカルLLM画像生成
AI最新情報

LightOnOCR-3 で RAG の前処理は1つのモデルにまとまるか？ 日本語の帳票で PaddleOCR-VL・olmOCR と比べた

2026年10月に公開された文書解析モデル LightOnOCR-3（0.8B・1B・4B、Apache 2.0）を Mac で動かし、正解が分かる日本語の帳票・グラフ・olmOCR-Bench・情報通信白書で PaddleOCR-VL-1.6・olmOCR-2 と比べました。文字・表・グラフの数値・枠・写真の説明・速度の実測と、grounding の出力を RAG のチャンクにするコードを紹介します。
2026.10.10
AI最新情報LLMローカルLLM企業 × 生成AI活用
AI最新情報

EmbeddingGemma 2 は何が変わった？ 画像・音声・コードを1つのベクトルで検索できるか Mac で試した

Google DeepMind が公開した EmbeddingGemma 2（740M、Apache 2.0）は、テキスト・コード・画像・動画・音声を1つの768次元のベクトル空間に置く埋め込みモデルです。旧版との違いと公式ベンチマークの変化を整理し、Mac（M5 Max）で日本語テキスト・コード検索・写真・文書ページ・音声・動画・混在索引の6つの実験を行いました。写真検索は画像専用モデルの約2倍、日本語テキストは旧版とほぼ同じ、そして1つの索引に混ぜるとテキストが上位を独占する落とし穴も見つかりました。
2026.10.07
AI最新情報LLMローカルLLM
AI最新情報

Microsoft GraphRAG は何が違う？ ベクトル検索RAGと同じ社内文書で比べてみた

Microsoft の GraphRAG は、文書からエンティティと関係を抽出して知識グラフを作り、Leiden でコミュニティに分けて要約を事前生成する RAG です。ふつうのベクトル検索 RAG と何が違うのかを仕組みから整理し、架空の社内文書34本・同じ10問を Mac のローカル LLM（Qwen3.8-27B）で両方に投げて比較しました。索引作成のコストと、GraphRAG が効く質問・効かない質問を実測で示します。
2026.10.06
AI最新情報LLMローカルLLM
AI最新情報

「資料にない答えは言わない」は本当か　Kolibri-1 を Mac で動かして Qwen と比べた

ドイツの Aleph Alpha が公開したオープンモデル Kolibri-1 は「資料に答えが無ければ答えない」能力を訓練で教え込んだと公表しています。MacBook Pro（M5 Max・128GB）で動かし、Qwen3.6・Qwen3.5 と 650 問で比べると、指示なしでは Kolibri がいちばん答えてしまい、「答えないで」の 1 文を足すと逆にいちばんよく控えました。手順・数字・使い分けをまとめます。
2026.10.04
AI最新情報LLMローカルLLM
AIエージェント

DGX Spark 64GBで何ができる？ Mac mini＋OpenClawと費用・使い道を比べる

はじめに最近、Mac mini に OpenClaw（オープンクロー）を入れて、AI エージェントを 24 時間動かす使い方が流行っています。そこへ NVIDIA が 2026 年 10 月 2 日、AI 専用の小型コンピュータ「DGX S...
2026.10.04
AIエージェントAI最新情報OpenClawローカルLLM
AI最新情報

SGLang 0.5.21 の Decisions API とは？ vLLM との違いと、Mac で測った速さ

SGLang v0.5.21 で入った Decisions API の仕組みと vLLM との違いを整理し、M5 Max の Mac で Qwen3.8-27B を動かして、JSON で答えさせる従来の方法と速さ・正解率を比べました。
2026.10.03
AI最新情報LLMローカルLLM
AI入門

Julia 1 は Jev の代わりになる？ 手元の Mac で動く判定モデルの精度と導入手順

この記事の確認範囲確認日: 2026年9月28日対象: Supersonic Labs「Julia 1」(Hugging Face SupersonicLabs/Julia-1、リポジトリのコミット a85b127、重みの SHA-256 ...
2026.09.28
AI入門AI最新情報LLMローカルLLM
AI入門

Qwen Code は Codex・Claude Code と何が違う？ 全コマンドと使いどころ

はじめに「Claude Code や Codex は使っているけれど、Qwen Code って何が違うの？」「無料で使えるって聞いたけど本当？」――そんな疑問を持っている方に向けた記事です。Qwen Code(クウェン・コード)は、中国 A...
2026.09.27
AI入門Claude CodeCodexローカルLLM
次のページ