【智能体架构】麦肯锡：企业技术的下一章：将重塑商业技术的四代人工智能转变

由于生成式人工智能的出现，技术领导者如何组织和管理团队、人才、IT架构和成本在未来十年可能会发生巨大变化。以下是需要考虑的问题。

企业往往高估了技术短期变化的影响，低估了长期变化的影响。这一众所周知的动态与企业技术中的生成人工智能（gen-AI）尤其相关。如今，许多关于其对企业技术影响的大胆预测往往集中在短期内（在两到三个用例中立即关注效率和生产力），而不是更具前瞻性的转变和影响。

我们最近与各行业技术领导者的讨论表明，由于人工智能的出现，四种新兴的转变即将出现，每种转变都对技术领导者如何管理他们的组织产生影响。这些包括新的工作模式、架构基础以及组织和成本结构，这些都改变了团队与人工智能的互动方式以及人工智能智能体所扮演的角色。1

要实现这一雄心壮志，还需要做很多工作。今年早些时候接受调查的组织中，只有30%表示他们在IT和软件工程中使用了人工智能，并看到了显著的可量化影响。2此外，组织需要了解和解决人工智能的许多风险，包括安全性、隐私性和可解释性3，以便利用这些机会。4但我们采访的技术领导者表示，他们的组织已经在奠定基础。

从支持团队的工具到人工智能“工匠”和“工厂”团队

与技术领导者的对话表明，技术团队的工作方式正在发生根本性的演变，远远超出了当今使用人工智能工具来提高个人生产力的范围。相反，领导者将重组每个企业技术领域的整个流程和工作流程，以整合人类和人工智能团队，实现人类生产力和创造力的峰值。团队可能会随着两种新的人机交互模式而发展：“工厂”和“工匠”（见图1）。

• 工厂模式。在这个模型中，领导者部署了自主的人工智能智能体，这些智能体可以端到端地协作和导航工作。这种方法最适合企业技术中可预测的常规流程，如日志监控、监管技术更新或遗留代码迁移。5我们已经看到了这种方法的一些有前景的早期结果，组织通过编排人工智能智能体来处理死记硬背的编码活动，在近一半的时间内实现了代码现代化。6
• 工匠模式：在这种模式下，大规模实施人工智能工具作为助手，帮助和增强经验丰富的软件工程师、企业技术战略家和高管的工作。这种方法最适合需要人类判断和创造力的流程，如企业技术成本管理和优化以及供应商采购和评估。这些是非确定性活动，这意味着可能有许多潜在的方法来解决这个问题，这使得它们通常不适合自主AI智能体处理，因为它们需要更高层次的思考，并且通常缺乏大型语言模型（LLM）得出确定答案所需的大量训练数据。
• 

我们采访的领导人一致认为，正确的人工智能团队模型（工匠与工厂）将因企业技术领域和用例而异。例如，许多人认为，用户接受度测试可能会继续主要由人主导，并辅以一些自动化，而IT服务管理则相反（见图2）。领导者可能面临的挑战之一是有效地融合这些方法，以创建一个流畅、同步的工作流程，因为任务从人类转移到人工智能，再回到人类。为了支持这项工作，技术领导者应该考虑制定一个框架、治理和风险管理策略来指导他们的工作。7哪些工作应该由人工智能主导，哪些工作应该是人类主导？你如何有效地结合工厂和工匠的方法来优化企业技术交付？哪些工作保持不变，因为人工智能除了基本的生产力提升外几乎没有其他价值？你如何在每个流程中管理从人类到人工智能（反之亦然）的切换？每个工作流程都需要用明确的行为规则进行评估、解构和重建。

新的角色和技能也是必要的。对于人工智能主导的任务，将需要“工厂”主管，他们可以监督和实施审计机制，验证人工智能输出样本，识别和纠正任何与预期行为的人工智能智能体偏差，并确保必要的治理和可解释性到位，以保持高水平的准确性和信任度。在流程由人主导的情况下，企业技术专家将需要拓宽他们的战略、判断和执行技能——例如，通过快速迭代问题的解决方案，而不是将工作交给初级员工，或者利用人工智能提供的想法来激活头脑风暴并激发新思维。

随着工厂和工匠模式的采用从少数企业技术领域扩展到许多企业技术领域，技术债务（约占IT资产负债表的40%）以及管理环境的时间和成本预计将大幅减少。8因此，专注于日常维护的员工可以重新分配到创新领域。

这可能会引发两个重要的变化。首先，随着IT将更多资源用于战略问题解决，清理积压的业务请求，并接受业务的新请求，创新的规模预计会增加。其次，随着员工生产力的提高，IT构思、构建和启动能力的速度也有望提高，9而这项工作的成本可能会降低。Gen AI可能不会完全减少企业技术预算。相反，它将推动企业技术组合内的战略重新分配，技术领导者越来越关注以增长为导向的项目，而不是日常维护。

技术领导者可能需要加强规划和风险管理工作，以维持快速发展。例如，这可能涉及在创新路线图上更频繁地与最高管理层保持一致，在大量新业务请求中关注价值而非数量。10应设计严格的可解释性、安全性、隐私和其他人工智能风险护栏，以安全和负责任的方式实现速度和规模。11技术领导者还应考虑定期审查他们的组织如何应用工匠和工厂模式，并随着业务重点的发展微调他们的方法，以有效地平衡成本效益和创新。这可能包括探索在工作流程中应用自主智能体的额外机会，以及提高工匠团队生产力的方法。

从占主导地位的应用程序架构到主要的人工智能智能体和数据架构

IT架构预计也会有很大的不同，从传统的以应用程序为中心的方法演变为新的多智能体架构12，在这种架构中，技术领导者监督数百或数千个不同的人工智能智能体，这些智能体可以相互通信并与外部世界通信，以实现共同的目标。13例如，一组人工智能智能体可能会与现有的库存、供应链和分析系统交互，以自动监控库存水平，识别低库存，并生成采购订单并将其发送给供应商，而无需复杂的集成。

技术领导者预计将通过三种主要方式在其环境中部署这些智能体（见图3）：

• 超级平台。超级平台代表了下一代第三方业务应用程序，如协作工具、客户关系管理（CRM）或企业资源规划（ERP）解决方案，内置了第三代人工智能智能体。这些智能体本质上是可以快速投入使用的商品。例如，CRM超级平台不仅可以让用户运行销售报告，还可以在不进行任何编程的情况下自动与公司的分析工具进行通信。
• AI包装。这些基本上是中间平台，使企业服务能够通过API与第三方服务进行通信和协作，而不会暴露其专有数据。例如，一家银行可能会围绕内部开发的人工智能驱动的信用风险模型构建一个支持人工智能的包装器。然后，AI包装器可以发起任何查询，例如，利用供应商的LLM根据银行的客户数据和信用评分生成风险因素。一旦构建完成，AI包装器可以轻松地与任何第三方服务交互，使IT能够在需要时轻松切换供应商。
• 自定义AI智能体。通过微调预训练的LLM或使用具有公司专有数据的检索增强生成（RAG），内部开发了支持自定义AI的智能体。14例如，企业技术可以为现有模型提供客户数据、呼叫中心记录、公司政策和其他内部信息，以创建一个可以帮助呼叫中心员工回答客户问题的AI智能体。

企业技术组织选择哪种平台战略可能取决于许多因素，包括专有数据在竞争性差异化业务方面的潜力。借助超级平台，组织可以让供应商访问其专有数据，这些数据可能是匿名的，但可能会用于培训和进一步改进模型，以使供应商的客户（包括竞争对手）受益。因此，拥有敏感或专有数据的域最好通过使用AI包装器在内部平台内保护数据来提供服务。了解何时保护专有数据以保持竞争优势将是技术领导者持续关注的问题，因为答案并不总是显而易见的。
此外，设计和管理一个有效利用不同智能体系统的多智能体架构需要与管理以应用程序为中心的架构有根本不同的考虑因素。指导通用可重用AI智能体和工具开发的模块化框架对于确保智能体可以像乐高一样轻松修改和组装，以用于不同的智能体工作流程非常重要（见图4）。架构应包括旨在管理传入请求并促进流程所有步骤工作的智能体，例如用于跨多个智能体协调任务的编排智能体，或可以在整个工作流中与智能体共享消息和更新的通信器智能体。它们还应包括面向任务的智能体，例如可以确定完成给定请求所需步骤的计划智能体，或从不同来源收集和综合信息以支持决策的研究智能体。

中央企业技术团队可以提供整体平台，包括一个数据层，用于为所有用例提供一致的高质量培训数据；使智能体能够与不同的第三方和企业系统交互的工具和应用程序，如图像生成器或API；以及风险控制。数据科学和业务团队可以提供智能体来解决特定的关键业务问题。这种方法允许业务部门通过直接构建和试验智能体来快速移动。

因此，企业技术的首要任务从传统的发布周期和更新转向了对人工智能智能体和底层数据集的持续改进。强大的反馈机制是这一过程的重要组成部分，因为它们使企业技术组织能够提高智能体性能，并确保其生态系统中所有智能体之间的任务高效协作和编排。

从“金字塔”或“钻石”组织结构到更扁平的组织结构，并考虑到新的劳动力发展因素

随着自动化和人工智能（人工智能）在IT内部的扩展，技术领导者可能会开始重塑他们的组织结构，以获得全部的生产力效益（见图5）。与工匠团队模式最相关的领域（如软件开发、用户体验设计和IT财务）的15名中层员工将越来越多地承担跨越整个战略和执行范围的更综合的角色，使他们能够与业务专家实时测试和微调想法。对于与工厂团队模型最相关的领域，如IT运营和帮助台，我们将看到组织结构的显著扁平化和初级角色的精简，以及需要一些主管来监督和实施审计机制，验证人工智能输出样本，并识别和纠正任何人工智能智能体偏离预期行为。例如，在软件开发中，精通业务战略和人工智能开发的全栈工程师将推动上游任务，如了解最终用户意图和业务成果，与产品经理和业务负责人一起概念化和开发新产品功能的原型，以及开发代码框架（例如代码库和支持程序）。对于某些项目，例如为公司的销售或营销团队开发一个内部AI驱动的分析仪表板，由gen AI授权的全栈工程师可能会承担组合角色（他们自己和产品经理的角色），领导业务构思和产品开发。

沟通是一项关键的新兴技能，需要确保工程师能够更有效地与领导者、同行和客户互动。随着人工智能自动化许多基本任务并提高员工的生产力和能力，高级和初级专家的角色可能会发生巨大变化。例如，在软件开发中，技术主管和产品经理可能会转向新的角色，利用他们的经验来解决高度复杂的业务问题，或提供监督人工智能智能体的专业知识。初级开发人员可能会被要求监督不同的智能体，而不是编写代码。因此，一个更扁平、更精简的企业技术组织模式可能会出现。

这无疑将引发一场技能革命，涉及新的劳动力和职业发展考虑。你如何量身定制技能提升和学习之旅，让员工为这些变化做好准备？17对于需要高级专家分解复杂问题、挑战假设（并生成人工智能智能体决策）以及在手头数据很少的情况下确定创造性解决方案的新角色，您如何培训他们？当初级员工传统上从事的大部分工作现在都是自动化的时候，你如何建立一个强大的企业技术成本管理专家、运营专家和全栈工程师队伍？你如何培训员工以这些新的方式充分利用人工智能，而不是把它当作拐杖来代替批判性和创造性思维？除了培训，可能还需要新的招聘和与外部供应商的合作，以在需要的地方获得专业的人工智能专业知识，包括快速工程，这对优化计算成本至关重要。

此外，在组织做出这一转变之前，制定一个明确的基线和流程来衡量人工智能的影响，可以帮助指导劳动力规划和技能提升决策。理想情况下，指标应该跟踪个人生产力（基于时间在哪里和如何花费）、开发速度（如从软件产品构思到发布的周期时间）和质量。

从基于应用程序到基于基础设施的成本结构，越来越关注计算支出

随着员工生产率的提高，企业技术劳动力成本将降低。与此同时，技术领导者可能会在基础设施上投入更多资金，特别是计算，以支持人工智能智能体——这一转变将需要密切关注，以降低计算成本超过人工智能带来的生产力增长的风险。

在优化计算支出时，领导者应该仔细检查整个生命周期的计算和存储支出，从最初的规划到新一代人工智能智能体的持续管理。

当领导者评估哪些活动应该由人工智能主导时，衡量有和没有人工智能智能体的工作流程的成本可以提供有价值的见解。在考虑了从智能体人那里产生准确产出所需的计算和运营费用（包括技能提升和治理成本）后，从长远来看，一些流程可能会通过在岸和离岸人才的混合来降低成本。

在开发人工智能智能体的过程中，进行成本优化审查可以提出最具成本效益的选择。例如，较小的专用LLM可能比大型LLM需要更少的计算，以实现给定过程所需的相同水平的预测和输出精度。更精确的提示或动态资源分配也可能有助于从底线上削减一些成本。从我们的工作中获得的早期经验表明，与已经优化的人工智能模型和方法相比，使用尚未优化的AI模型和方法时，成本可能会迅速增加。

最后，一旦人工智能智能体投入运行，领导者应该考虑持续监控计算支出，以避免成本失控。许多问题——包括智能体的使用率高于预期、查询比测试更复杂以及导致智能体重复步骤的未解决任务依赖关系——可能会导致计算成本远高于预期。与云一样，使用FinOps-As-code（FaC）方法将财务管理集成到工厂运营中，可以提供领导者主动识别问题并采取行动有效管理运营成本所需的实时洞察力。

全面采用这种新的企业技术运营模式可能需要十年时间，而成功需要的不仅仅是工具。它取决于理解在哪里实施工厂和工匠模式，设计一个有效的智能体架构，并为人才、成本、运营和风险的许多影响做好准备。从一些企业技术领域开始，可以帮助领导者建立以这些新方式运营的组织力量，并在扩展过程中推断学习成果以提高效率。鉴于变化的规模，这段旅程将充满挑战，但长期影响可能会比目前想象的更大。