ローカルLLM

Google DeepMind が公開した EmbeddingGemma 2（740M、Apache 2.0）は、テキスト・コード・画像・動画・音声を1つの768次元のベクトル空間に置く埋め込みモデルです。旧版との違いと公式ベンチマークの変化を整理し、Mac（M5 Max）で日本語テキスト・コード検索・写真・文書ページ・音声・動画・混在索引の6つの実験を行いました。写真検索は画像専用モデルの約2倍、日本語テキストは旧版とほぼ同じ、そして1つの索引に混ぜるとテキストが上位を独占する落とし穴も見つかりました。

Microsoft の GraphRAG は、文書からエンティティと関係を抽出して知識グラフを作り、Leiden でコミュニティに分けて要約を事前生成する RAG です。ふつうのベクトル検索 RAG と何が違うのかを仕組みから整理し、架空の社内文書34本・同じ10問を Mac のローカル LLM（Qwen3.8-27B）で両方に投げて比較しました。索引作成のコストと、GraphRAG が効く質問・効かない質問を実測で示します。

ドイツの Aleph Alpha が公開したオープンモデル Kolibri-1 は「資料に答えが無ければ答えない」能力を訓練で教え込んだと公表しています。MacBook Pro（M5 Max・128GB）で動かし、Qwen3.6・Qwen3.5 と 650 問で比べると、指示なしでは Kolibri がいちばん答えてしまい、「答えないで」の 1 文を足すと逆にいちばんよく控えました。手順・数字・使い分けをまとめます。

SGLang v0.5.21 で入った Decisions API の仕組みと vLLM との違いを整理し、M5 Max の Mac で Qwen3.8-27B を動かして、JSON で答えさせる従来の方法と速さ・正解率を比べました。