LLM

AIエージェント

AIエージェントの高度なメモリは、素のRAGに負ける? 要約と整理が払う「メモリ税」とは

会話を要約・整理して覚える AI エージェントのメモリ11種類が、原文をそのまま検索するだけの素の RAG に、99通り中90通りで負けていました。イリノイ大学・清華大学などの論文「Memory Tax」をもとに、整理で解ける問題(メモリ利益)と解けなくなる問題(メモリ税)を1問ずつ数える考え方、税が生まれる3つの場所、原文も残して検索する対策までを解説します。公開された問題ごとの正誤データから、論文の主要な数字を手元で再計算した結果もあわせて載せています。
AI最新情報

GPT-6.1 Terra は前の Terra からどれだけ伸びた? Sol の半額モデルを Codex で比べた

OpenAI が2026年10月26日に公開した GPT-6.1 Terra を、前の Terra(GPT-5.6 Terra)や GPT-6.1 Sol などと比べました。単価は100万トークンあたり入力1ドル・出力5ドルで、6.1 Sol のちょうど半額です。公式の数字では OSWorld 2.1 が27.4%から66.7%に、事実の誤り率が51.5%から10.1%に改善しました。手元の Codex 比較では、実装の7題を Terra も Sol も21回すべて満点で解き、1回の費用は0.035ドル対0.101ドル。一方、推論の難問の正解は Sol 21問・Terra 16問でした。
AI最新情報

Softmax と Cross-Entropy に潜む 2 つの数値バグを Mac で再現してみた

Google DeepMind が2026年10月22日に公開した論文「A Fix for Softmax and Cross-Entropy」を解説し、Mac で再現しました。確信が強すぎると正解の勾配だけが0に丸まる Softmax Collapse と、蒸留で勾配が0にならない Softmax Cancellation の仕組みと直し方、PyTorch への移植、グロッキング・蒸留・LLM の LoRA での手元の結果(損失の跳ね21回→0回、ただし fp32 では成績の差なし)までまとめました。
AIエージェント

頭の中では言葉を使わないAIエージェント「HybridAgent」を Mac で動かしてみた

Stanford大学・Together AI・UIUC・Meta が2026年10月に公開した論文「Hybrid Reasoning Agents」を解説します。頭の中の考えごとは言葉にせず内部の数字のまま進め、検索や Python を使うときだけ言葉に戻す HybridAgent の仕組み、論文の数字(生成ステップ35.5〜54.7%減・1.8〜2.6倍速)が何と比べた値か、公開モデルを Mac で動かした30問の比較(正解25対20)までまとめました。
AIエージェント

Kimi K3.1 Pro は Claude Opus 5.5 や GPT-6 Astra にどこまで迫ったのか

中国の Moonshot AI が公開した Kimi K3.1 Pro を、Claude Opus 5.5・GPT-6 Astra などと比べました。開発元の表と第三者(Artificial Analysis)の測定を分けて読み、総合指数・得意と苦手・料金と速さ・Kimi Code/Claude Code/Codex からの使い方と、自分のリポジトリで比べる手順をまとめています。
AI最新情報

ReplaySSM とは? ハイブリッド LLM の推論を「状態を書き戻さない」で速くする仕組み

NVIDIAとプリンストン大学Dao AI Labが公開したReplaySSMは、ハイブリッドLLMのSSM層の状態を毎回書き戻さず、チェックポイントと直近の入力で持つことでデコードを速くする手法です。SSM層が遅くなる理由、仕組み、公式の数字(通常デコード1.20〜1.47倍・投機的デコーディング1.85〜2.10倍)、Mac(M5 Max)のMetalカーネルでの再現結果、vLLM・SGLangでの使い方を解説します。
AI最新情報

Meta「Muse Wonder」は Claude Fable 5.1 や GPT-6 Astra と比べてどれくらい強いのか

Metaが10月12日に発表した最上位モデル「Muse Wonder/Wonder Full」は、Claude Fable 5.1・GPT-6 Astra・Claude Opus 5.5と比べてどれくらい強いのか。第三者の総合指数(Artificial Analysis・Vals AI)での位置、分野別の勝ち負け、1タスクあたりの費用、使う前の注意点を公開データから整理し、Claude CodeやCodexのまま自分の課題で比べる手順も紹介します。
AI最新情報

LLM を 1 トークンごとに切り替える TokenRouter とは? 0.6B と 32B を回答の途中で使い分ける

判定モデルで「質問ごとにモデルを振り分ける」のが当たり前になった先にある、回答の途中で1トークンごとに担当モデルを替える「トークン単位ルーティング」。清華大学が公開した推論基盤TokenRouterの仕組みと「2.01〜64.15倍」の読み方を解説し、Macで公式のR2Rルーターを使ってQwen3-0.6Bと32Bを切り替えた結果(数学30問で0.6B 20問→切り替わ 23問→32B 27問)を動画つきで紹介します。
AIエージェント

Claude CodeやCodexの「会話の圧縮」は何を取りこぼすのか? 要約文に学習した記憶を足すREMORYの仕組み

Claude Code や Codex は、会話が長くなると履歴を要約文に置き換えて圧縮します。その仕組みと、ツールの結果や細部が消えて同じ作業を繰り返してしまう問題を整理し、2026年10月8日に公開された論文 REMORY が「要約文+学習した記憶トークン」でどう補うのかを解説します。全文の5.2%の長さで全文並みの成績、ツール出力の繰り返し18〜30%減などの結果と、動かすのに必要な環境もまとめます。
AIエージェント

AI エージェントに見せるツールは何個まで? Postman が 170 個から 15 個に絞った本番設計

Postman と AWS が公開した Agent Mode の本番設計では、AI エージェントに見せるツールが約 40 個を超えると選び間違いが増えたため、170 個以上のツールから依頼ごとに約 15 個だけを検索で選んで見せています。従来の設計の課題、本番アーキテクチャで改善した点(動的ツール選択・スキーマ+クエリ・コンテキスト・キャッシュ)を整理し、架空のツール 120 個で「全部見せる」と「絞る」を手元で比べた結果と、自分の環境での作り方をまとめます。
AIエージェント

Cloudflare Clef-omni は音声と動画をどこまで判定できるか ── 通話の用件は得意、異常音と感情は苦手

2026年10月9日に公開された Cloudflare の判定モデル Clef-omni は、音声と動画をそのまま入力できます。音声508件・動画206本のテストデータを自作し、通話の用件・環境音・声の感情・機械の異常音・動画の動き・画面録画・映像と音の照合を実測しました。文字起こし経由との比較、Liquid AI の d1-omni-600M との比較、速度と費用、使い分けのコツをまとめます。
AI最新情報

LightOnOCR-3 で RAG の前処理は1つのモデルにまとまるか? 日本語の帳票で PaddleOCR-VL・olmOCR と比べた

2026年10月に公開された文書解析モデル LightOnOCR-3(0.8B・1B・4B、Apache 2.0)を Mac で動かし、正解が分かる日本語の帳票・グラフ・olmOCR-Bench・情報通信白書で PaddleOCR-VL-1.6・olmOCR-2 と比べました。文字・表・グラフの数値・枠・写真の説明・速度の実測と、grounding の出力を RAG のチャンクにするコードを紹介します。