LLM 时代的最大桎梏：概率与模糊，导致 AI 工具就像是中医圈子

在 claude code 源码泄露的前夜，v 站关于 LLM 工程化调用的帖子可以说是群魔乱舞。

有说自己的 agent 思路好，和市场方案相比是“你可以理解为架构师和实习生的对比”，但就是说不出怎么好的：
https://v2ex.xtra.eu.org/t/1201268#reply6

有说自己的方案“将整体协作效率提升 1300% 以上”的：
https://v2ex.xtra.eu.org/t/1201460#reply10

在我看来，这些都是中医圈子用烂了的把戏。
既，在一个黑盒下（中医是药理，AI 是 LLM 模型），只要我不提细节，我就有最终解释权。人有多大胆，地有多大产。张口就是好用，问怎么好用，你猜。

不需要证明，不需要实验，更不需要对比。只要我烧 token 够快，agent 流程转的时间够长，我就是先进。

JingW

4 月 2 日

没办法，LLM 就是构建在概率上的，关键是这些 trick 有时候是有效的。
你可以用 benchmark 来评估它，它也可以针对 benchmark 做优化，相互不耽误。

hafuhafu

4 月 2 日

最后一段话我是认同的。
现在一些趋势,夸张点说，就比如像翻译这种任务,恨不得上个好几个模型并行翻译,然后再安排几个对结果润色审核,最后可能再安排几个打分选出一个所谓的最优解...
token 是烧的快了,效果好不好还真是个未知数。况且现在 token 就是实实在在的钱，不可能不考虑用量的。

coefu

4 月 2 日

和 80 年代的专家模型，本质上是一个路数的；如果你读过 The Bitter Lesson, 就能明白，这种把人类先验知识注入的模式，终究就是走不通的。

kuhung

4 月 2 日

同意 up 主观点。这波 AI 热，到处都是说自己消耗多少 token 的，就是不说有哪些作品。要不就是“现在不行，不代表半年后不行”“你不行，是你的工具不行”。LLM 这玩意儿，抽卡多巴胺分泌太大了。

sentinelK

4 月 2 日

@yigecaiji 即便是 claude code 这种第一方工具，其实他也很难自证他的工程化、产品化是合理且足够优化的。LLM 靠大力出奇迹其实可以理解，毕竟是统计学的涌现。

但产品化工具也靠大力出奇迹 while(true)，其实就很难令人信服这是最优方案。

TerryBlues

4 月 2 日

都是在实践和摸索中前进的，很多产物确实会有民科味道。

我个人是反对把人类组织的糟粕搬给 agent 的，太多博眼球的东西了。简单保持规划——执行——审计的角色也许就可以了——也许以后模型能力变得更强，连这个也不需要了呢。

mcgga

4 月 2 日

感觉根本原因还是神经网络目前是一个黑盒。只要结果对了或者符合预期，你怎么吹别人也说不了什么，也没办法反驳。这就造成了最终还是大力出奇迹来的简单粗暴，省时间省脑力...

takeshima

4 月 2 日

这就是 AI 的本质啊，LLM 本质上还是在计算下一个最高概率的 token ，这也是为什么 AI 生成一定要 review ，跟传统的编译器、框架、脚手架有本质差别，后者的工作是确定性的，你不用 revie 编译器输出的二进制

coefu

4 月 3 日

https://mp.weixin.qq.com/s/DE0hc3Mz6zwoSCgL0k4SgQ

这哥们儿写了一篇正当时。

你们可以看到订阅的 tokens 都是怎么烧没的，😄。以及，当前大众上下文语境中的“AI”的边界在哪里，这个问题可以衍生的，在 coding 领域如此，openclaw 所延伸的领域亦是如此。当最熟悉的 coding 领域都如此难搞，别的开放离散场景，只会更加难搞。

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://v2ex.xtra.eu.org/t/1203085

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.