AI 技术
0 条新闻 · 9 条遗珠 · 33 篇文章 · 13 个模型追踪
收录栏目回答"我该用什么"，本栏目回答"行业正在发生什么、这意味着什么"。
AI 新闻
每日追踪主流媒体与行业网站 AI 报道 — 摘要与事实核查情况见列表页
官方快讯 自动同步 · 未编辑
官方 RSS/Atom 原标题与直达链接，每小时自动更新。
正在读取官方源…
技术文章
深度解读 / 热点拆解 / 概念科普 — 均为本站原创，力争每条事实都可回溯核验
把 25 万 token 的序列切到 8 张卡上，为什么注意力不会白拿 8 倍速：环形注意力的通信账、因果三角与负载不均
主题：长上下文训练里的序列并行（Ring Attention / Striped Attention / DeepSpeed-Ulysses / USP）。口径声明：本文的通信与强度推导针对 bf16、非因果注意力前向、完整 KV 环传的 Ring 算例；算例固定 S=262,144 token（=256×1024，标题「约 25 万」是近似称呼，不等于字数），并行度 N=8、查询头 32、KV 头 8（GQA 4:1）、批 1、单层，带宽按 A100 单向 NVLink 300 GB/s 计。核心机制：固定并行度下，每台设备的计算量按 S² 增长、接收量按 S 线性增长，两者之比（算术强度）约等于「查询头与 KV 头之比 × S ÷（N−1）」；逐块重叠要用的则是单步强度，约为它的 N/(N−1) 分之一。关键陷阱：因果掩码在「连续等长分片、对角块按整块计」的示意模型下给出 1:2:3:4 的工作量分布，最慢一台决定整步耗时，示意利用率 (N+1)/2N（N=8 时 56.3%；若对角块只算下三角则 53.3%）——这是按块对计数的示意值，不是实测 MFU。Striped Attention 论文在因果训练中相对原始 Ring Attention 报告 256k token 下最高 1.45 倍端到端吞吐，不是本文八卡算例的实测结果。证据边界：只读公开论文摘要，所有显存、通信、时间数字均为本文按公开公式代入公开规格的推导值，未在真实集群实测。
377 个结论、721 篇稿件、其中 300 篇附 Lean 形式化（占当时 719 篇的 41.7%）：一次「AI 数学」发布里，验证究竟验证了什么
主题：OpenAI 2026-10-06 一次性公开的机器撰写数学稿件。核心区分：宣称的结论数（377）、结果族数（372→373）、稿件数（722→719→721）、被 Lean 形式化的稿件数（300，占 719 篇的 41.7%）是四个不同分母的量，混用会直接算错「验证覆盖」。关键机制：形式化只保证「代码里的那个命题」被内核接受，不保证它与英文原文说的是同一件事；依赖图会把一个符号错放大成三篇撤稿。证据边界：本文只读了公开仓库、官方博客、独立第三方审计预印本与媒体报道，未编译 Lean、未逐篇阅读稿件、未复核任何具体定理。
同样是 16 位，fp16 与 bf16 的溢出风险为什么不同：从表示范围、舍入间距到 fp8 的分块缩放
主题：同样是 16 位，fp16 与 bf16 把比特切给了不同的用途——一个优先细刻度，一个优先大范围。核心区分：fp16 的主要风险是表示范围不足，梯度很小的场景通常要配 fp32 主权重与 loss scaling；bf16 的主要限制是尾数位数少、刻度较粗。证据边界：文中含一个 CPU 上的 numpy 顺序点积演示，未做 GPU 训练、量化或端到端精度实测；引用的一手论文与厂商文档按其自身口径转述。
厂商在合成负载上把 124B MoE 的解码从 36 提到 103 tok/s：DGX Spark 三招拆解，以及那个会静默让服务变慢的回退（NVIDIA 官方报告解读）
NVIDIA 官方技术博客（2026-10-27）报告：在单台 DGX Spark（128 GB 统一内存、标称内存带宽 273 GB/s）上以单请求小批方式跑 Inclusion AI 的 Ling-3.0-flash（124B 总参、每 token 激活 5.1B），用 Humming MXFP4 MoE 内核、在线 FP8 输出层量化、模型内置 NEXTN 多 token 预测三招，把厂商合成负载（32K 输入 / 2K 输出、贪心解码、厂商口径）的解码吞吐从 36.09 提到 102.88 tok/s（+185.1%）； GSM8K 数学应用题测试集（Cobbe 等，2021）全部 1319 题上为 37.81→53.89 tok/s（+42.5%），准确率 96.89%→96.82%（厂商称未见到统计上可检出的差异）。 本文给出一个简化的每 token 权重读取估计（激活参数全按 4 bit、不含 KV、不含量化元数据、不含未被量化的混合精度部分、输出层单列，约 3.36 GB），并按「估算读量 ÷ 厂商报告的 TPOT」反推等效带宽 121 GB/s、为标称的 44%——这是等效指标，不是总线计数器实测； 无法归因的差额在文中保留为未解项。本文没有任何独立实测。
模型追踪
主流模型版本 / 价格 / 开源 / 基准结构化对比 — 数据核验日期逐行标注
| 模型 | 厂商 | 最新版本 | 上下文 | 数据核验日期 |
|---|---|---|---|---|
| DeepSeek V4 | DeepSeek（深度求索） | DeepSeek V4（V4-Pro-0813 / V4.1-Flash-1017（2026-10-17 快照更新：API 调用名 deepseek-flash 与定价不变，权重已开源）；V4-Flash 已退役，旧名由 V4.1-Flash 顶替） | 100 万 token（最大输出 384K） | 2026-10-20 |
| Kimi K3 | Moonshot AI（月之暗面） | Kimi K3.1 Pro（K3.1 系列首个模型，官方模型列表列为当前旗舰；另有 highspeed 档；K3 仍列于当前模型列表） | 1,048,576 token（最大输出默认 131,072，最大可设 1,048,576） | 2026-11-02 |
| MiniMax M3 | MiniMax（稀宇科技） | MiniMax-M3（仍售，官方文档「MiniMax-M3 also remains available」）；MiniMax M3.1 Flash 已于 2026-10-19 正式推出（官方博客「officially roll out MiniMax M3.1 Flash」，名称去掉 Preview，官方称其为 the latest M-series language model；1M 上下文、可调思考深度 effort（low/medium/high/xhigh/max，默认 max，思考不可关闭）、前沿多模态编码），已进 models-intro 模型总表主表与双平台按量定价页，不再限于 M Plan / MiniMax Code | 1M（官方模型页：最高 1M、保障至少 512K） | 2026-10-20 |
| Qwen（通义千问） | 阿里巴巴 | Qwen3.8-Max（API ID qwen3.8-max） | 1M（最大输入 991,808，思考模式 983,616；最大输出 131,072） | 2026-10-08 |
| GLM | 智谱 AI | GLM-5.3 | 1M（GLM-5.2；最大输出 128K） | 2026-10-20 |
| GPT 系列 | OpenAI | GPT-6.1 Sol（GPT-6 系列当前主力；旗舰为 GPT-6 Astra；2026-10-26 新增 GPT-6.1 Terra，面向视觉推理、精确计算机使用与自然写作；GPT-5.6 仍在售） | 1,050,000 token（最大输入 922,000；最大输出 128K）——GPT-6 Astra/Sol/Luna、GPT-6.1 Sol 与 GPT-5.6 一致 | 2026-10-28 |
价格 / 开源与权重 / 基准成绩 / 变更时间线见 模型追踪完整对比。
沧海遗珠
被忽视但高价值的信息 — 低关注度信源里挖出的新工具、新研究，宁缺毋滥