风扇响了一夜

半夜醒来,听见那台 2015 年的 MacBook Pro 风扇还在呼呼转。
笔者没合盖,本来也没太在意。十一年的老机器,偶尔喘两口很正常。
早上起来一看 Activity Monitor,有两个进程很忙。
一个 browser_crashpad_handler,接近 200% CPU。
一个 node,接近 100%。
前一个先关了。后一个有点好奇,就查了一下。
PID PPID %CPU ELAPSED
79027 1 99.1 09-07:22:50
九天七个小时。
再查下去,发现是 ChatGPT 里的 Codex 九天前启动的一个 Node。那个任务早就做完了,父进程也已经消失,它却没有退出。
于是成了一个孤儿进程。
而且相当敬业。
Codex:
Done.
Node:
收到。
然后 Codex 走了。
Node 等了一会儿,发现没人叫下班。
于是继续干。
一天,三天,九天。
CPU 100%。
这当然首先是个普通的软件 bug。
而且公平地说,笔者用的是老 Mac、老系统,以及一个因为系统太老已经没法继续升级的旧版客户端。问题很可能和模型聪不聪明没有任何关系,就是进程没清理干净。
旁边那个接近 200% CPU 的 crash handler,甚至可能是 Chrome 或其他 Chromium 软件留下的。
这倒提醒了笔者另一件事。
人类写软件几十年了,bug 也修了几十年。
修完了吗?
显然没有。
网络会断,API 会变,进程会卡住,缓存会过期,数据会丢,两个本来应该互相知道状态的系统偶尔就是不知道。
这不是什么 AI 时代的新发现。
真正新的地方,是我们开始把越来越聪明的模型接到这个并不完美的世界上。
以前,大部分软件还是人把路铺好:
从这里进去,经过这里,再从那里出来。
现在开始变成:
目标在那边,你自己想办法过去。
它可以自己读文件、写代码、调用工具、启动程序、发现问题、换条路,再继续。
这也是过去两年最让笔者兴奋的变化之一。
很多以前只是脑子里的想法,现在真的可以很快推到一个能运行、能验证的状态。
只是那个跑了九天的 Node,让笔者顺着这件事多想了一步。
路可以自己走以后,谁来看路上发生了什么?
现在经常有人讨论,智能体已经可以自主工作几个小时,以后会不会是几天、几周。
大概率会。
但几个小时变成几天,可能并不只是“模型再强一点”。
时间越长,遇到的状态就越多。
有些东西会失败。
有些东西会变化。
还有些东西最麻烦:
它既不失败,也不报错。
它就是继续跑。
那个 Node 就是这样。
没有 crash,没有报警,没有求救。
它非常稳定。
每天 24 小时,CPU 100%。
如果只看它自己,甚至可以说一切正常。
但从更大的系统看,它早就已经没有必要继续存在了。
最后发现它的,也不是什么高级监控系统。
是笔者半夜听见风扇响。
想想还挺有意思。
人并没有在认真监督它。
只是在旁边生活。
听见一个声音不太对,第二天顺手看了一眼。
而今天的智能体其实没有这个“旁边”。
它能读很多东西,能处理很多东西,甚至在自己看得见的范围里比人敏锐得多。
但风扇声没有进入它的世界。
所以它听不见。
再往前想一步。
如果以后 AI 更多地进入资产管理,会怎么样?
这其实是笔者非常期待的方向。
投资研究里有太多工作适合机器:材料很多,更新很快,需要持续比较,需要跨时间跟踪,也有大量重复的信息处理。
AI 显然可以做得越来越多。
那么有意思的问题可能就不只是:
它能做什么?
而是:
它能看见什么?
投资里其实也有很多“风扇声”。
某个数字单独看没有错,但和另外几个数字放在一起有点奇怪。
一家公司最近几次说的是同一件事,但措辞好像慢慢变了。
一个数据源还在正常更新,只是覆盖范围悄悄少了一块。
一个模型每天都能跑出结果,但某个原来稳定的关系正在一点点失效。
这些东西很多时候并不会变成一个鲜红的:
ERROR
它们只是让一个熟悉这个领域的人觉得:
等等,好像哪里不太对。
今天这种感觉很容易被归到“人的经验”或者“直觉”。
但很多所谓经验,也许只是因为一个人在旁边待得够久,知道平常大概是什么样。
所以一旦有一点不一样,他会听见。
如果未来真的希望 Agent 工作几天、几周甚至更久,那一个很实际的问题就是:
这些原本由人在旁边顺手听见的“风扇声”,怎么进入系统?
哪些应该变成监控?
哪些应该触发复核?
哪些可以让模型自己发现?
哪些仍然需要另一个独立的视角?
还有一些东西,在真正出问题以前,我们可能甚至不知道应该监控它。
不知道。
但这可能比单纯讨论“它还能连续自主工作多少小时”更有意思。
最后,笔者把那个 Node kill 了。
风扇很快安静下来。
它其实挺冤的。
任务完成以后主动加班九天,没有周末,没有加班费,最后还被强制下线。
作为一个 Node,这种工作态度无可挑剔。
作为未来的资产管理同事嘛——
能力当然越强越好。
只是偶尔,
还是得有人听听风扇。