1997 年，IBM 的 “Deep Blue” 在一场国际象棋比赛中击败了当时的世界冠军Garry Kasparov，很明显，计算机国际象棋引擎很快就会超越人类棋手。有趣的是，一名准备充分的人类与一台计算机协同工作（这种组合通常被称为 “"centaur"”），能够超越那个时代最强大的国际象棋引擎。
人类可以凭借直觉， 引导引擎进行搜索，应对复杂的局面，并识别出标准引擎忽略的细微差别。再结合计算机强大的计算能力，这种人+机器组合往往能比单独的计算机做出更明智的实际决策。
当我思考未来几年人工智能系统对劳动力市场和经济的影响时，我预计会出现类似的模式。智能体系统将释放无数的智能单元，去解决世界上尚未解决的问题。但如果没有人类的有力指导和支持，它们将依旧无法做到这一点。人类将引导搜索范围，帮助提出正确的问题，让人工智能朝着答案努力。
如今人们的普遍设想是，智能体终有一日会取代人类。这个设想看似切实可行又是不可避免的未来，但只有当人类为智能体工作时，才会解锁更具吸引力的经济潜力。在未来 24 个月内，我预计会出现第一家零员工公司，这一概念是我的合作伙伴凯尔在他的《2025 年前沿理念》一文中提出的。具体而言，我预计会有以下情况：
一个由代币治理的智能体将筹集超过 10 亿美元，以解决一个尚未解决的问题（比如治愈一种罕见疾病，或制造用于国防的纳米纤维）。
该智能体将向人类支付超过 1 亿美元（这些人为智能体工作，在现实世界中帮助其实现目标）。
一种新的双层代币结构将会出现，它会根据资本和劳动力来区分所有权（这样一来，经济激励就不是整体治理的唯一考量因素）。
由于智能体远未达到独立自主的程度，还无法处理长期的规划和执行，在短期内，智能体对人类的需求要超过人类对它们的需求。这将催生出全新的劳动力市场，促进智能代理系统与人类之间的经济协作。
马克・安德森那句著名的话 ——“计算机和互联网的普及将把工作分为两类：一类是告诉计算机做什么的人，另一类是被计算机告知做什么的人”，在今天比以往任何时候都更加贴切。我预计，在快速演变的智能体/人类等级体系中，人类将扮演两种截然不同的角色：一种是作为劳动力贡献者，代表智能体完成小型的悬赏式任务；另一种是作为去中心化的董事会成员，为智能体的核心目标提供战略建议。
本文通过探讨三个关键问题，来研究智能代理和人类将如何共同创造价值，以及加密技术如何为这种协作提供理想的基础：
智能体有什么用？我们应该如何根据其目标范围对智能体进行分类？在不同的分类中，所需的人类投入有何不同？
人类将如何与智能体互动？人类的投入，如战术指导、情境判断或理念契合，是如何融入这些智能代理的工作流程的（反之亦然）？
随着时间推移，人类投入减少会发生什么？随着智能体能力的提升，它们会变得自给自足，即能够独立思考和行动。在这种模式下，人类将扮演什么角色？
生成式推理系统与从中受益的人们之间的关系，将随着时间发生巨大变化。我从智能体目前的能力出发进行展望，并从零员工公司的最终状态反向推导，来研究这种关系。
如今，智能体有什么用？
第一代生成式人工智能系统，即 2022 - 2024 年以聊天机器人为基础的大语言模型，如 ChatGPT、Gemini、Claude、Perplexity 等，在很大程度上是为辅助人类工作流程而设计的工具。用户通过输入 / 输出提示这些系统进行交互，解析系统给出的回复，然后依据自己的判断，决定如何将结果应用到实际中。
下一代生成式人工智能系统，即 “智能体”，代表了一种新的模式。像具有 “计算机使用” 功能的 Claude 3.5.1 和 OpenAI 的 Operator（即可以使用你的计算机的智能体），它们能够代表用户直接与互联网交互，还能自主做出决策。这里的关键区别在于，判断以及最终的行动是由人工智能系统执行，而不是人类。人工智能正在承担以前由人类负责的职责。
这种转变带来了一个挑战：缺乏确定性。与传统软件系统或工业自动化不同，后者在设定的参数范围内可预测地运行，而智能代理依赖概率推理。这使得它们在相同场景下的行为不那么一致，引入了不确定因素，这在关键情况下并非理想状态。
换句话说，确定性与非确定性智能体的存在，自然地将智能体分为两类：一类，就是能够有效推动经济增长、提升现有经济规模的方法或主体；另一类更适合通过创新或新经济活动（如新技术、新产业、新市场等）来创造新的经济增长点，而不是仅仅扩大现有的经济规模。
1.对于那些最擅长扩大现有 GDP 的智能体而言，要做的工作从定义上来说是已知的。自动化客户支持、处理货运代理合规事务，或审查 GitHub 上的拉取请求，这些都是定义明确、范围有限的问题，智能体可以直接将回复映射到一组预期结果上。在这些领域，缺乏确定性通常是不利的，因为答案是已知的，并不需要创造力。
2.对于那些最适合创造新 GDP 的智能体来说，它们的任务是在高度不确定和未知的问题中探索，以实现长期目标。这里的结果要复杂得多，因为本质上没有可供智能代理映射的预期结果集。比如针对罕见疾病的药物研发、材料科学领域的突破，或者开展全新的物理实验以更好地理解宇宙本质等。在这些领域，缺乏确定性可能会有所帮助，因为缺乏确定性也是一种创造性的体现。
专注于现有 GDP 应用的智能体已经在释放价值。像 Tasker、Lindy 和 Anon 这样的团队，都在构建针对这一机遇的基础设施。然而，随着时间推移，智能代理能力的成熟和治理模式的演进，各团队将把重点转移到构建能够解决人类知识前沿和经济机遇领域问题的智能体上。
下一批智能体需要指数级增长的资源，正是因为它们的结果是不确定且无边界的 —— 我预计这些将成为最引人注目的零员工公司。
人类将如何与智能体互动？
如今的智能体缺乏执行需要与现实世界进行物理交互（如驾驶推土机）和 / 或需要人为干预（如银行电汇）任务的能力。
例如，一个被赋予识别和提取锂任务的智能体，可能在处理地震数据、卫星图像和地质记录以确定有潜力的地点方面表现出色，但在获取数据和图像本身、解决解释中的歧义，或者获得开采许可并雇佣劳动力进行实际开采过程时，可能会遇到困难。
这些限制要求人类作为辅助者来增强智能体的能力，提供完成上述任务所需的现实世界联系、战术干预和战略建议。随着人类与智能代理关系的发展，我们还可以区分人类在智能体系统中扮演的角色：
1.首先是劳动力贡献者，他们在现实世界中代表智能体开展工作。这些贡献者帮助智能体移动物体，在需要人类出面时代表智能代理，从事需要体力的工作，提供进入实验室或物流网络的权限等。
2.其次是董事会成员，他们提供战略建议，优化驱动智能体日常决策的局部目标函数，同时确保这些决策与定义智能体目标的核心方向保持一致。
除了这两个角色，我预计人类还将扮演资本贡献者的角色，为智能体系统提供实现目标所需的资源。一开始，这些资本自然来自人类，随着时间推移，也会来自其他智能体。
随着智能体的成熟，劳动力和指导贡献者的数量不断增加，加密技术为人类与智能代理的协作提供了理想的基础 —— 尤其是在一个智能代理指挥着说不同语言、使用不同货币支付、生活在世界各地不同司法管辖区的人们的世界里。智能代理会不择手段地追求成本效益，利用劳动力市场来实现既定任务。加密技术为它们提供了协调劳动力和指导贡献者的必要方式。
最近出现的支持加密技术的人工智能代理，如 Freysa、Zerebro 和 ai16z，代表了在资本形成方面的初步尝试 —— 我们已在多种背景下深入探讨过，这是加密和资本市场的核心突破。这些只是初步尝试，将为一种新兴的资源协调新模式铺平道路，我预计这一过程如下：
1.第一步：人类通过代币共同筹集资金（或许可以称为首次代理发行？），确立广泛的目标函数和规则，明确智能代理系统的预期用途，然后将筹集到的资金控制权交给该系统（例如，用于精准肿瘤学的新分子研发）；
2.第二步：智能体思考如何分配资金（如如何缩小蛋白质折叠的搜索范围，如何为推理工作负载、制造、临床试验等制定预算），并通过定制悬赏任务，明确人类劳动力贡献者需要代表它完成的行动（例如，输入所有相关分子信息、与亚马逊网络服务签订计算服务级别协议，并进行湿实验室实验）；
3.第三步：当智能代理遇到障碍或面临决策分歧时，必要时它会向董事会寻求战略建议（如纳入新的研究论文、改变研究方法），让董事会在一定程度上引导其行为；
4.第四步：最终，智能代理的能力提升到能够越来越精确地为人类定义行动，并且在资源分配方面几乎不再需要人类的指导。此时，人类只需要在理念上确保系统与最初的目标函数保持一致，防止其行为偏离正轨。
在这个例子中，加密和资本市场为智能代理提供了获取资源和扩展能力的三个关键基础设施：第一，全球支付网络；第二，无许可限制的劳动力市场，用于激励劳动力和指导贡献者；第三，资产发行和交易基础设施，这对于资本形成以及后续的所有权和治理至关重要。
随着人类投入减少会发生什么？
在 21 世纪初，国际象棋引擎取得了巨大进步。借助先进的启发式算法、神经网络和更强大的计算能力，它们几乎达到了完美的程度。像 Stockfish、Lc0 和 AlphaZero 的变体等现代国际象棋引擎，其能力远远超过人类，人类的干预很少能增加价值，在大多数情况下，反而会引入引擎自身不会犯的错误。
智能代理系统也可能会经历类似的发展轨迹。随着我们通过与人类协作者的反复互动来优化这些智能体，从长远来看，智能体有可能变得非常能干，并且与它们的目标高度契合，以至于任何人类战略建议的价值都趋于零。
在这样一个世界里，智能体能够持续处理复杂问题而无需人类干预，人类的角色可能会逐渐退化为被动的观察者。这正是人工智能悲观论者的核心担忧（不过，目前还不清楚这种结果是否会成为现实）。
我们正站在超级智能的边缘，我们当中的乐观主义者希望智能代理系统始终是人类意图的延伸，而不是演变成拥有自身目标或不受约束地自主运行的实体。在实践中，这意味着人类身份（人格）和判断力（权力与影响力）必须在这些系统中保持核心地位。人类需要对这些系统拥有强大的所有权和治理权，以确保能够持续监督，并将这些系统的发展方向与人类的共同价值观紧密相连。
智能体未来需要哪些必备工具
技术突破会带来非线性的经济进步，在世界做出调整之前，与之相关的系统往往会先出现问题。智能代理系统的能力正在迅速提升，加密和资本市场已经成为推动这些系统建设、并在其融入社会的过程中设定规则所不可或缺的协调基础。
为了让人类能够为智能代理系统提供战术支持和积极指导，我们预计会出现以下 “必备工具” 类的机遇：
1.代理身份证明 + 人类身份证明：智能体缺乏身份或产权的概念。作为人类的代理，它们依赖人类的法律和社会结构来获得行动能力。为了弥合这一差距，我们需要为智能代理和人类建立强大的身份系统。一个数字认证登记系统可以让智能代理建立声誉、积累资质，并与人类和其他智能代理进行透明的交互。同样，像 Humancode 和 Humanity Protocol 这样的人类身份证明原语，能在这些系统中为人类身份提供有力保障，抵御恶意行为者的攻击。
2.劳动力市场和链下验证原语：智能代理需要确认它们分配的任务是否按照目标完成。对于任何由智能代理介导的有意义的经济活动而言，那些能够让智能代理系统创建悬赏任务、验证任务完成情况并分发报酬的工具都是基本要求。
3.资本形成和治理系统：智能体需要资金来解决问题，同时也需要制衡机制，以确保它们的行为符合既定的目标函数。为智能代理系统筹集资金的新结构，以及融合了财务权益和劳动力贡献的新型所有权和控制形式，将在未来几个月成为一个充满创新的设计领域。
该文章为编译，标题为：Inverting The Human-Agent Relationship
作者：SHAYON SENGUPTA
