四月份以来的新一代 agent GPT ecosystem，可信达雅翻译成：智子

@木遥：讨论一下四月份以来的新一代 agent GPT ecosystem。

上一波 GPT 创新的阶段性节点是3月23号的 ChatGPT 插件系统发布。从那时起的到现在的三周里，发生了下面这些事：

– 被给予厚望的插件系统使用并不如想象中广泛和热烈，很大程度是因为插件的使用体验太简陋，框架也过于固定。插件系统发布让很多人认为刚刚拿到 A 轮融资的 LangChain 被判了死刑，但事实上 LangChain 活得更好了。（LangChain 是一个用自然语言模型链式调度任务的 agent，概念上类似于描述的 auto-GPT。）

– 采纳和 LangChain 类似的思路，微软基于 HuggingGPT 推出了 JARVIS。

– 一系列关于大语言模型自我修正能力的论文发布：
· arxiv.org/pdf/2303.11366 模型记录并反思自己犯过的错误
· arxiv.org/pdf/2304.05128 模型自己 debug 自己写的程序
· arxiv.org/abs/2303.17071 模型们通过互相交流迭代修正彼此的输出

– 基于 LangChain 的 babyAGI 发布

– 有浏览器界面的 AgentGPT 发布

– auto-GPT 发布，冲上推特热搜

如果说 ChatGPT 本身的突破体现在人们意识到语言可以成为一种服务，成为人和机器之间最自然的沟通接口，这一轮新发展的关键在于人们意识到语言（不一定是自然语言，也包括命令、代码、错误信息）也是模型和自身、模型和模型以及模型和外部世界之间最自然的接口，让 AI agent 在思考和表达之外增加了调度、结果反馈和自我修正这些新的功能模块。于是在人类用自然语言给 AI 定义任务目标（只有这一步在实质上需要人类参与）之后可以形成一个自动运行的循环：

agent 通过语言思考，分解目标为子任务
agent 检讨自己的计划
agent 通过代码语言把子任务分配给别的模型，或者分配给第三方服务，或者分配给自己来执行
agent 观察执行的结果，根据结果思考下一步计划，回到循环开始

原生的 ChatGPT 让人和 AI 交流成为可能，相当于数学归纳法里 n=0 那一步。而新的 agent ecosystem 实现的是 AI 和自己或者其他 AI 或者外部世界交流，相当于数学归纳法里从 n 推出 n+1 那一步，于是新的维度被展开了。

回过头来看，这一切路径的思路和 ChatGPT 自己想做的插件没有本质不同，区别在于它要开放得多也灵活得多。它最大程度地发挥了语言指令作为开放和普遍的现成接口的优势：既然语言模型能输出调动其它工具的指令，你就无法把大家限制在一个封闭插件系统里。

目前的瓶颈在于模型的prompt 处理能力。这个轮子能转起来，靠的是不断把关于执行结果的评价——无论是外部报错信息还是自我检讨结果——作为下一步思考的 prompt。其结果就是 prompt 愈发臃肿。今天的 GPT API 普遍支持的是 4k 到 8k token 的上下文窗口，可以应付人和机器对话，但支持这种新维度的自我反馈机制就很吃力。虽然可以借助 PINECONE 这样的外部向量缓存机制处理一些长期记忆，但记忆被提取出来之后还是要装进 prompt。在 arxiv.org/pdf/2303.11366 这篇论文里，作者提到由于上下文窗口太小，不得不每次至多选择三条反思喂给 AI，这对复杂的现实任务来说未免太不够用。——长期来看，这里需要的是某种更本质的解决方案：要么让 AI 能把每次在自我纠错中学到的东西以 finetuning 的形式沉淀下来（不然无法实现经验在任务之间的有效迁移），要么找到让 AI 一次性吞吐大量上下文的更有效率的方式。

但即使如此，这个新的维度也已经能让任何一个上手尝试的人意识到自己在面对多大的全新可能性。一个朋友今天试着用 auto-GPT 做了这样的事：让 AI 假设自己是某大厂的公关，要求它分析关于该厂的国际报道并制定公关策略（用自然语言描述这个目标是人的全部工作）。然后 AI 制定了工作计划，自己先搜了相关新闻，然后试图抓取新闻内容，不断尝试各种抓取工具，遇到错误反复测试努力修复，然后分析内容，生成文档。一气呵成。

（这也是老板们最想要的助理的样子：听指令办事，执行中遇到困难自己解决，尽量不给领导添麻烦。

今天和群里几个朋友讨论 AI 语境下的 agent 这词到底怎么翻译比较好。传统上一般叫智能体或者智能代理，但读写都别扭。Agent 本身的其它直译又不适合 AI 上下文。然后一个朋友说：智子。

很信达雅了。