AI 实干派 看真正用 AI 拿到结果的人怎么做
AI 认知·观点访谈·2026-11-12·US

「95% 是爱因斯坦,5% 是憨豆」:工程师把快模型写进代码

在 AI Engineer Code Summit 上,Glean、UiPath 和 Workday 的工程师展示了 Jev 这类「系统一」模型的用法:只返回选项、分数或概率,速度快,成本低。UiPath 的测试里,几千次调用不到一秒就跑完了。

谁说的
TypeSafe AI 联合创始人兼 CEO Diogo Almeida(Jev 的主要作者),以及 Glean、UiPath、Workday 的工程师,在大会上分享。Latent Space 做了报道。
核心观点
Almeida 主张,不要把 LLM 放在软件的核心再靠拼接字符串碰运气。应该在应用代码里到处嵌入「系统一」模型调用,用它做分类、打分和排序这类结构化判断。
依据
Glean 说决策的分类体系变了也不用重新微调。UiPath 用淘汰赛的方式让 Jev 给文档片段排序,几千次调用不到一秒跑完。Workday 做的原型能在用户还在打字时就开始填请假单。
对你的意义
如果你在用 LLM 做分类、打分或路由,挑一个环节换成返回结构化选择的快模型调用,对比一下稳定性、延迟和成本。
争议·条件
Almeida 推的是自家产品。Jev 九月才发布,不到两个月。UiPath 的工程师也说,Jev 单独用看起来没那么聪明,要靠组合策略才能用好。

Latent Space 报道了这场大会的主题:「系统一」模型。这类模型不生成文本,只返回结构化的选择、分数或概率。Almeida 认为,LLM 做核心的问题出在可靠性上:「95% 的时候你得到爱因斯坦,5% 的时候是憨豆先生。分不清是哪个,怎么自动化?」

几家公司的用法更务实。Glean 把 Jev 和 LLM、其他分类器搭配使用,用户不需要知道背后跑的是哪种模型。UiPath 的淘汰赛式排序可以直接借鉴:把候选分成小组,每组选出最相关的,胜者进下一轮。

对工程和产品岗位来说,这提供了一种拆分思路:开放式生成交给 LLM,有限选项的判断交给快模型。会场还有人提到,业余时间用 Jev 做了一个给梦幻足球新闻排序的网站。

原文:Latent Space