C_Meng PSNA

一句话前提：这些度量不是同一件事的不同近似，而是对”两个分布有多不同”的六种不同定义。选错了不是精度问题，是问错了问题。

导语

在 ML 里，”两个分布的距离”出现在至少六个不同位置：训练损失（交叉熵、ELBO）、蒸馏与对齐（KL）、生成模型（JS、Wasserstein）、隐私（Rényi KL）、漂移检测（PSI、KS）、采样质量评估（MMD、Energy distance）。

这些位置上的度量都在算”分布差异”，但它们的数学性质完全不同：

• KL 不对称，且可以是 $+\infty$；
• JS 对称有界，但在分布不重叠时梯度消失；
• Wasserstein 有良好的几何性质，但计算要解最优传输问题；
• TV 有界，但在高维样本上几乎恒等于 1，失去分辨力。

AI 服务的定价难点不在”按什么计费”，而在”容量稀缺时谁先用”。前者是会计问题，后者是机制设计问题——绝大多数定价翻车，是把后者当成了前者。

导语

先摆一个矛盾。

云厂商卖虚拟机，成本导向定价很好用：CPU 小时、内存 GB 小时、存储 GB 月，每一项都能追到硬件折旧 + 电费 + 机房成本，加个目标毛利就是价格。

但同一个云厂商卖大模型推理 API，这套算法立刻失效：

这份术语表不是按字母序排的。因为懂这些词的关键不是记住定义，而是知道它们串成几条链——串错了链，AI 方案在 POC 阶段就会撞墙。

导语

面向 AI 落地工程师，半导体产线有三个”看不懂”：

1. 术语看不懂：ADC、OCAP、FDC 混着讲，不知道谁是谁的上游；
2. 链路看不懂：拿到了设备数据，但不知道它该进 SPC 还是 FDC，也不知道异常之后谁接手；
3. 边界看不懂：模型准确率 99%，工艺工程师一句”这个我不能签字”就打回来了。

“我们的模型在 NQ 上比 baseline 高 2.1 个点”——这句话在 2026 年几乎没有信息量。因为它缺三样东西：哪个 NQ 变体、多少样本量、这个差值是否超过噪声。

导语

开放域问答（Open-Domain QA）是大模型评测里最成熟、也最容易被误用的板块。成熟在于：数据集、评测框架、指标都有十年积累；易误用在于：大多数论文和内部评测报告只报均值，不做统计检验，也不说明数据集的变体与设置。

XGBoost、LightGBM、CatBoost 的差异不在”谁更快”，而在它们各自选择了哪个近似。SHAP 的陷阱不在”算得慢”，而在你在用相关性解释因果。

导语

表格数据上，GBDT 依然是不可替代的基线。三个主流实现在 2026 年都还在活跃迭代，但它们的设计取舍差异很大——选错了不是”慢 20%”，而是”在特定数据形状上根本训不动”或”在小数据上稳定过拟合”。

“统一排序”这个词在 2025–2026 年被用得极滥。它至少指三件不同的事：统一打分、统一阶段、统一目标。搞混这三个层次，会让技术选型从一开始就错。

导语

推荐与搜索的排序系统，过去十年几乎都长成同一个形状：漏斗。

BM25 与稠密向量不是”新旧替代”，而是两种互补的匹配信号。RAG 系统里真正的分水岭，往往不在选哪个模型，而在你有没有把两种信号正确地融合，并且正确地评估。

导语

检索是 RAG 的地基，但工程上最常见的两种失败恰好发生在两个极端：

Agent 的 RL 不是”把 RLHF 用在多轮对话上”。它的奖励稀疏、horizon 长、环境不可微且非平稳、rollout 成本高一个量级——这五点差异，把算法和基础设施都改了。

导语

2024 年的 RL 后训练主线是 RLHF：偏好对 → 奖励模型 → PPO。2025 年的主线换成 RLVR：可验证奖励 → GRPO → 数学/代码能力跃升。2026 年的主线正在变成 Agentic RL：让模型在环境里跑几十步，用最终结果做奖励。

解码不是”调参”，是在似然最大化、多样性、正确性约束三者之间做显式的取舍。大多数线上事故，源于把这三者的优先级搞反了。

导语

语言模型的训练目标只有一个：最大化 log p(y|x)。但从这个分布到最终输出的一段文本，中间隔着一个决策过程——每一步从 5 万维的词表里选一个 token，重复几百次。

一条机器人链路里，五个模块不是”堆叠”，而是按频率和抽象层级切分的责任田。搞混频率，再强的模型也会抖。

导语

具身智能的技术讨论长期被两件事占据：VLA 是不是终局、世界模型会不会取代 VLA。这两个问题之所以争不出结果，是因为大家在讨论”模型能力”，而实际系统失效的原因通常是”接口与频率“。