AI 服务定价:当计价单位变成商品,成本导向为什么会失灵 Posted on 2026-08-29 Edited on 2026-11-11 Valine: AI 服务的定价难点不在”按什么计费”,而在”容量稀缺时谁先用”。前者是会计问题,后者是机制设计问题——绝大多数定价翻车,是把后者当成了前者。 导语先摆一个矛盾。 云厂商卖虚拟机,成本导向定价很好用:CPU 小时、内存 GB 小时、存储 GB 月,每一项都能追到硬件折旧 + 电费 + 机房成本,加个目标毛利就是价格。 但同一个云厂商卖大模型推理 API,这套算法立刻失效: Read more »
半导体产线质量数字化术语手册:从 EAP 到 APQP,以及 AI 落在哪里 Posted on 2026-08-14 Edited on 2026-11-11 Valine: 这份术语表不是按字母序排的。因为懂这些词的关键不是记住定义,而是知道它们串成几条链——串错了链,AI 方案在 POC 阶段就会撞墙。 导语面向 AI 落地工程师,半导体产线有三个”看不懂”: 术语看不懂:ADC、OCAP、FDC 混着讲,不知道谁是谁的上游; 链路看不懂:拿到了设备数据,但不知道它该进 SPC 还是 FDC,也不知道异常之后谁接手; 边界看不懂:模型准确率 99%,工艺工程师一句”这个我不能签字”就打回来了。 Read more »
开放域问答评测:从数据集到统计显著性 Posted on 2026-08-07 Edited on 2026-11-11 Valine: “我们的模型在 NQ 上比 baseline 高 2.1 个点”——这句话在 2026 年几乎没有信息量。因为它缺三样东西:哪个 NQ 变体、多少样本量、这个差值是否超过噪声。 导语开放域问答(Open-Domain QA)是大模型评测里最成熟、也最容易被误用的板块。成熟在于:数据集、评测框架、指标都有十年积累;易误用在于:大多数论文和内部评测报告只报均值,不做统计检验,也不说明数据集的变体与设置。 Read more »
GBDT 三巨头与 SHAP:从分裂策略到可解释性的工程手册 Posted on 2026-07-27 Edited on 2026-11-11 Valine: XGBoost、LightGBM、CatBoost 的差异不在”谁更快”,而在它们各自选择了哪个近似。SHAP 的陷阱不在”算得慢”,而在你在用相关性解释因果。 导语表格数据上,GBDT 依然是不可替代的基线。三个主流实现在 2026 年都还在活跃迭代,但它们的设计取舍差异很大——选错了不是”慢 20%”,而是”在特定数据形状上根本训不动”或”在小数据上稳定过拟合”。 Read more »
Unified Ranking:从级联漏斗到单一模型,推荐与搜索排序的范式迁移 Posted on 2026-07-27 Edited on 2026-11-11 Valine: “统一排序”这个词在 2025–2026 年被用得极滥。它至少指三件不同的事:统一打分、统一阶段、统一目标。搞混这三个层次,会让技术选型从一开始就错。 导语推荐与搜索的排序系统,过去十年几乎都长成同一个形状:漏斗。 Read more »
从 BM25 到稠密检索:BGE 系列与混合检索的工程实践 Posted on 2026-07-22 Edited on 2026-11-11 Valine: BM25 与稠密向量不是”新旧替代”,而是两种互补的匹配信号。RAG 系统里真正的分水岭,往往不在选哪个模型,而在你有没有把两种信号正确地融合,并且正确地评估。 导语检索是 RAG 的地基,但工程上最常见的两种失败恰好发生在两个极端: Read more »
面向 Agent 的强化学习:从 GRPO 到 Agentic RL Posted on 2026-07-19 Edited on 2026-11-11 Valine: Agent 的 RL 不是”把 RLHF 用在多轮对话上”。它的奖励稀疏、horizon 长、环境不可微且非平稳、rollout 成本高一个量级——这五点差异,把算法和基础设施都改了。 导语2024 年的 RL 后训练主线是 RLHF:偏好对 → 奖励模型 → PPO。2025 年的主线换成 RLVR:可验证奖励 → GRPO → 数学/代码能力跃升。2026 年的主线正在变成 Agentic RL:让模型在环境里跑几十步,用最终结果做奖励。 Read more »
大模型解码策略综述:从贪心到受控生成 Posted on 2026-07-16 Edited on 2026-11-11 Valine: 解码不是”调参”,是在似然最大化、多样性、正确性约束三者之间做显式的取舍。大多数线上事故,源于把这三者的优先级搞反了。 导语语言模型的训练目标只有一个:最大化 log p(y|x)。但从这个分布到最终输出的一段文本,中间隔着一个决策过程——每一步从 5 万维的词表里选一个 token,重复几百次。 Read more »
具身智能的完整模型栈:VLM、VLA、世界模型、规划 LLM 与小脑 Posted on 2026-07-13 Edited on 2026-11-11 Valine: 一条机器人链路里,五个模块不是”堆叠”,而是按频率和抽象层级切分的责任田。搞混频率,再强的模型也会抖。 导语具身智能的技术讨论长期被两件事占据:VLA 是不是终局、世界模型会不会取代 VLA。这两个问题之所以争不出结果,是因为大家在讨论”模型能力”,而实际系统失效的原因通常是”接口与频率“。 Read more »
时序建模的四条路线:Transformer、Mamba、GRU 与 ODE 求解器 Posted on 2026-07-07 Edited on 2026-11-11 Valine: 它们不是四个互相替代的方案,而是同一个状态方程在四种离散化假设下的解。看清这一点,选型问题会简单一半。 导语时序建模领域过去五年最消耗工程师注意力的一场争论是”Mamba 能不能取代 Transformer”。这场争论之所以反复无解,是因为大部分对比都在模型层面做(谁的 benchmark 高、谁的 FLOPs 低),而真正的差异在更下面一层: Read more »