Skip to content

思想领袖的洞见:权力与责任

在过去四十年我所见证的所有技术浪潮中——从个人电脑和互联网的诞生,到移动和云计算的革命——没有一次像今天这样。多年以来,围绕人工智能的讨论始终遵循着一种熟悉的节奏:始于大肆宣传,终于幻想破灭,所谓「AI 之夏」之后,总是伴随着漫长而寒冷的冬天。但这一次,情况有所不同,风向发生了切实的转变。如果说过去的十八个月是关于「引擎」的故事——即大语言模型那惊人的、近乎垂直的飞跃——那么下一个时代将是关于我们如何围绕它造出一辆「汽车」。这个时代,将关乎我们如何构建框架来驾驭这股原始的力量,把它从能生成看似合理文本的工具,打造成真正能付诸行动的智能体。

坦白说,我起初是怀疑的。我发现,一件事物的「貌似可信度」,往往与我们对该主题的了解程度成反比。早期的模型,尽管语言流畅,却仿佛患上了「冒名顶替综合征」,它们被优化的目标是追求可信度,而非正确性。然而,转折点随之而来——推理模型 的出现,实现了一次质的飞跃。那一刻,我们对话的对象不再仅仅是那个预测词语的统计机器;我们所窥见的,是一种正在萌芽的全新认知。

当我第一次试用一款新型的智能体编程工具时,我感受到了那种久违的、如魔法般的火花。我让它去做一个一直无暇推进的个人项目:把一个慈善网站从简易的网页构建器,迁移到一个规范、现代的 CI/CD 环境中。在接下来的二十分钟里,它开始工作,不断提出澄清问题,请求授权凭证,并提供进度更新。这感觉不像是在使用一个工具,更像是在与一位初级开发人员协作。当它最终向我提交一个带有无可挑剔的文档和单元测试、可完全部署的软件包时,我被彻底震撼了。

当然,它并非完美。它会犯错,会卡住。它需要我的监督,以及至关重要的——我的判断力来引导它重回正轨。这次经历让我深刻地体会到了我在漫长的职业生涯中历经坎坷才学到的一个教训:你永远不能盲目信任。然而,这个过程本身却极其迷人。窥视它的「思维链」,宛若观看一颗大脑的运作——杂乱、非线性,充满开始、停顿与自我修正,这与我们人类的推理如出一辙。那不是一条直线,而是一场通往解决方案的随机游走。在这里,我看到了新事物的雏形:一种不仅能生成内容,更能制定计划的智能。

这便是智能体框架所带来的希望。它就像一张静态的地铁线路图与一个能为你实时重新规划路线的动态 GPS 之间的区别。一个经典的、基于规则的自动程序遵循固定的路径,当遇到意外障碍时,它就会崩溃。而一个由推理模型驱动的 AI 智能体,则有潜力去观察、适应并找到另一条路。它拥有一种数字化的常识,使其能够应对现实世界中无数的边缘案例。这代表着一种转变:我们不再是简单地告诉计算机「做什么」,而是向它解释「为什么需要做某件事」,并相信它能自己找出「如何做」。

尽管这个新领域令人振奋,但它也带来了一种深远的责任感,尤其从我作为一家全球金融机构首席信息官的视角来看更是如此。这里的风险之高,不可估量。一个智能体在为「鸡肉三文鱼融合派」创建菜谱时犯了错,不过是个有趣的轶事。但如果一个智能体在执行交易、管理风险或处理客户数据时犯了错,那就是一个实实在在的大问题。我读过那些免责声明和警示故事:一个网络自动化智能体在登录失败后,竟然决定给一位国会议员发邮件抱怨登录墙。这是一个黑色幽默般的提醒:我们正在打交道的,是一项我们尚未完全理解的技术。

正是在这里,专业精神、企业文化以及对原则的执着追求,成为了我们至关重要的指南。我们的工程信条不是纸上的口号,而是我们的指南针。我们必须为使命而构建: 确保我们设计的每一个智能体都始于对我们正在解决的客户问题的清晰理解。我们必须洞见未来,防患未然: 预见各种失败模式,并设计出具有内在韧性的系统。最重要的是,我们必须启迪信任,不负所托: 对我们的方法保持透明,对我们的结果负责。

在一个智能体化的世界里,这些信条被赋予了新的紧迫性。一个残酷的现实是,你不可能简单地将这些强大的新工具叠加在混乱、不一致的系统之上,并期望得到好的结果。混乱的系统加上智能体,只会酿成灾难。一个用垃圾数据训练出来的 AI,不仅会产生垃圾结果,它还会产生貌似可信、充满自信的垃圾,足以毒化整个流程。因此,我们首要且最关键的任务,是打好基础。我们必须投资于干净的数据、一致的元数据和定义良好的 API。我们必须建立起现代化的「州际高速公路系统」,让这些智能体能够安全、高速地运行。这是一项艰巨的基础性工作,其目的就是构建一个可编程的企业——即实现「企业即软件」的理念,从而让我们的业务流程也能像代码一样,拥有精良的架构。

归根结底,这段旅程并非要取代人类的智慧,而是要增强它。它要求我们所有人掌握一套新的技能:清晰解释任务的能力,明智授权的智慧,以及验证产出质量的勤勉。它要求我们保持谦逊,承认自己的未知,并永不停止学习。本书接下来的篇章给出搭建这些新框架的技术地图。愿各位不止于把可能之事做成,更能把正确、可靠且负责任的事做好。

这个世界正在召唤每一位工程师挺身而出。我相信,我们已经准备好迎接挑战。

愿你享受这段旅程。

Marco Argenti,高盛首席信息官(CIO)


本书所有版税将捐赠给救助儿童会(Save the Children)