11月10日（火）の話

毎朝 5:30 に各社の公式発表から集めた候補のうち、この回のテーマに合う 35 件を AI に見せました。AI は検索を使わず、候補にある事実だけで下書きを書き、出典と結びつく話だけを載せています。くわしくはこのサイトのしくみへ。

AI に見せた候補（35 件）

1. ggml-org/d1-Omni-2B-GGUF ggml-org ・ 11/8
2. ggml-org/Mage-VL-Cowork-GGUF ggml-org ・ 11/8
3. llama.cpp b12192 ggml-org ・ 11/8
4. ggml-org/DeepSeek-V4.1-Flash-1017-GGUF ggml-org ・ 11/8
5. Accelerating LLM Inference with Multi-Token Prediction (MTP) and OpenVINO™ Intel ・ 11/7この回で使った
6. llama.cpp b12180 ggml-org ・ 11/7
7. Migrating vLLM to the LibTorch Stable ABI vLLM project ・ 11/6
8. PrimusClaw: An Open-Source Managed Agent Runtime for AMD Instinct GPU Clusters AMD ・ 11/6
9. ROCm InferaSim: Cut LLM Serving Trial Costs and Deploy the Best Configuration AMD ・ 11/6
10. Zero Mismatch, Simple Async RL: REINFORCE Zero, DeepSeek-V4.1 and Kimi K3.1 vLLM project ・ 11/6
11. Egyptian and Nigerian English join the Open ASR Leaderboard Hugging Face ・ 11/6
12. Ollama v0.40.15 Ollama ・ 11/6この回で使った
13. ggml-org/tinyLFM3-Omni-for-testing-gguf ggml-org ・ 11/6
14. ggml-org/chatterbox-turbo-GGUF ggml-org ・ 11/6
15. ggml-org/chatterbox-GGUF ggml-org ・ 11/6
16. From Operator to Kernel: Profile DeepSeek-V4-Flash in Primus with madengine AMD ・ 11/5
17. Le Chonk brings the brains. Studio puts it to work. Mistral AI ・ 11/5
18. A Closer Look at Phonon TTS. Launching High-Quality On-Device Speech That Tops the Benchmarks. Hugging Face ・ 11/5
19. nvidia/MetricTrail NVIDIA ・ 11/5
20. Online Quantization: Smooth Path from One Checkpoint to Any Desired Serving Scenario AMD ・ 11/5
21. Qualcomm AI Hub Models v0.66.0: Run AI Hub Models CI on the aihub-models EC2 runners (#5037) Qualcomm ・ 11/5
22. ONNX Runtime GenAI v0.19.0 Microsoft ・ 11/4
23. GLM-5.2 AgentX on AMD Instinct MI355X: Boosting Throughput and Interactivity AMD ・ 11/4
24. Introducing Kinference: An Open Source Inference Control Plane for vLLM and Kubernetes vLLM project ・ 11/4この回で使った
25. Quark Mixed-Precision Quantization for Wan2.2 Video Generation on AMD Instinct GPUs AMD ・ 11/4
26. Performance Profiling on AMD GPUs - Part 7: AI/PyTorch® Edition AMD ・ 11/4
27. vLLM Delivers Day-0 Support for Kimi K3.1 Pro vLLM project ・ 11/4
28. llama.cpp b12087 ggml-org ・ 11/4
29. ComfyUI v0.44.0 Comfy Org ・ 11/4
30. Transformers Model Integration Contracts Hugging Face ・ 11/3
31. FlyDSL Mono Kernels for High-Interactivity LLM Serving in ATOM AMD ・ 11/3
32. Ollama v0.40.14 Ollama ・ 11/3
33. CWE-bench v2: More coverage, quality, and transparency Hugging Face ・ 11/3
34. llama.cpp b12060 ggml-org ・ 11/3
35. SGLang v0.5.23 SGLang (sgl-project) ・ 11/3

題とリンクは各発表元の発表のままです（一覧は trends.snamo.jp が作成）。

下書き（AI が最初に書いた文）

1. 複数の言葉を同時に出して AI を速くする工夫（新しい話）
発表日: 2026-11-07
- なにが起きた
  すず「パソコンで動かす AI が、もっと速くお返事できるようになるの？」
  しおり「うん。言葉を 1 つずつではなく、一度にいくつも予想して出す仕組みの使い方が紹介されたよ」
- たとえると
  すず「どういうこと？」
  しおり「文字を 1 文字ずつキーボードで打っていたのを、よく使う単語をまとめてポンと入力できるようにした感じだね」
- なぜ大事
  すず「なにが便利になるの？」
  しおり「手元のパソコンで AI に文章を作ってもらうときの、待ち時間を減らせるよ」
- くわしく
  しおり「インテルの発表（出典 5）。原文では『Multi-Token Prediction』と書かれているよ」
- ふつうの要約
  Intel は、推論フレームワーク「OpenVINO GenAI 2026.4」において、複数トークンを同時に予測する手法（Multi-Token Prediction）を導入する手順を解説した。従来のローカル言語モデルでは 1 トークンずつ処理を繰り返していたが、投機的デコーディングなどの技術を活用することで推論速度を向上させている。

2. 手元で動く AI の実行ソフトに新しい頭脳が追加（新しい話）
発表日: 2026-11-06
- なにが起きた
  すず「自分のパソコンで動かせる AI の種類が増えたんだって？」
  しおり「プログラム作りを手伝うモデルや、はい・いいえで判断してくれるモデルが新しく使えるようになったよ」
- たとえると
  すず「どういうこと？」
  しおり「おうちのゲーム機に、プログラミングが得意な助っ人と、質問の答えを選んでくれる助っ人の 2 本の新しいソフトが届いた感じ」
- なぜ大事
  すず「どんなときに役に立つの？」
  しおり「プログラムを作るときのお手伝いや、質問に対して白黒はっきりした答えがほしいときに、手軽に呼び出せるよ」
- くわしく
  しおり「オラマのリリースノート（出典 12）。Xiaomi MiMo の『mimo-v2.6』などの名前が載っているよ」
- ふつうの要約
  Ollama は版「v0.40.15」を公開し、コード生成やエージェント用途に向けた 9B モデル「mimo-v2.6」のサポートを追加した。あわせて、質問に対して選択肢や確率、評価を返す決定モデル群「AutoTrust」にも対応した。

3. 大規模な AI サービスを無駄なく動かす無料の土台（新しい話）
発表日: 2026-11-04
- なにが起きた
  すず「AI をみんなで使うための、新しい仕組みが配られ始めたの？」
  しおり「たくさんのパソコンをつなげて AI を動かすときに、順番待ちや利用の量を管理する仕組みが誰でも使える形で公開されたよ」
- たとえると
  すず「どういうこと？」
  しおり「人気のお店に行列ができたとき、お客さんを上手に案内して席のむだをなくす、しっかり者の受付係さんがやってきた感じ」
- なぜ大事
  すず「使う人にはどんな得があるの？」
  しおり「会社や学校などで AI をたくさんの人に使ってもらうときに、混雑しにくくなって、かかる費用も把握しやすくなるよ」
- くわしく
  しおり「vLLM プロジェクトの発表（出典 24）。『control plane』という仕組みとして紹介されているよ」
- ふつうの要約
  vLLM プロジェクトは、Kubernetes 上で vLLM を用いた推論基盤を構築するためのオープンソース管理機構「Kinference」を発表した。トークンの使用制限やユーザーごとのコスト追跡、負荷分散機能を提供し、規模の大きい推論環境の運用を支援する。

用語:
- トークン = AI が言葉を読んだり書いたりするときに使う、文字のひとかたまり。
- エージェント = 人の代わりに、自分で考えて手順を進めてくれる AI のこと。
- オープンソースソフトウェア = 作り方（設計図）が公開されていて、だれでも無料で使ったり改良したりできるプログラム。