【人工智能】技术三明治和TRISM技术：构建人工智能集成的未来

在Gartner IT Symposium/Xpo 2024上，一个关键的焦点是有效的人工智能集成所需的架构转变。两个概念——技术三明治和TRISM技术——被强调为首席信息官管理人工智能在企业中日益增长的存在的重要工具。

随着人工智能的不断发展和渗透到业务运营的每一层，这些想法为技术栈和安全性提供了一种新的思考方式。

技术三明治：人工智能集成的新框架

在传统的IT世界中，组织依赖于技术栈——线性、分层系统，其中一层技术支持下一层技术，从基础设施到数据和应用程序。然而，人工智能的本质，尤其是生成型人工智能（Gen AI），颠覆了这种传统模式。

人工智能和数据不再整齐地组织起来，它们来自分散的、通常是非结构化的来源。为了反映这一点，Gartner引入了技术三明治的概念，作为一种更动态、更灵活的架构，适合人工智能驱动的企业。

什么是技术三明治？

技术三明治代表了这样一种观点，即在人工智能时代，技术和数据层不是严格垂直的，而是水平分层的，元素既在顶部（分散的人工智能和数据），也在底部（集中的IT系统）。将其视为一个更加流畅、相互关联的结构——就像一个三明治——其中业务的各个部分，而不仅仅是it，都在贡献人工智能技术并生成数据。

技术三明治的关键组成部分包括：

1.AI无处不在：

AI功能嵌入到现有的应用程序中，如企业资源规划（ERP）和客户关系管理（CRM）系统。事实上，Gartner预测，到2026年，超过80%的企业软件将包含人工智能组件。

这意味着人工智能不是孤立在一个地方，而是分散在各个部门和工具中。

2.数据无处不在：

数据，特别是非结构化数据（电子邮件、通话记录、PDF等），来自组织的各个角落。为了有效地利用这一点，人工智能需要在混乱、分散的数据集上运行。人工智能现在可以直接处理它所在的数据，解释和使用它，而不需要传统的清理和结构化，而不是将所有数据拉入集中式存储库。

3.打包、嵌入式和BYO AI：

技术三明治包括打包AI（来自外部供应商）、嵌入式AI（内置于现有软件中）和自带AI（BYO AI）（由各个部门采用，通常没有IT的直接监督）。这种去中心化的采用创造了人工智能技术的混合体，所有这些技术都以三明治般的结构分层在一起。

这种分层方法有助于首席信息官管理人工智能集成的复杂性，确保他们不会陷入僵化的技术栈，而是能够应对不同部门的不同需求和能力。

在这个模型中，人工智能可以“去数据”，而不是传统的人工智能集中数据的方法。

这种灵活性使管理不断扩展的人工智能工具和数据集变得更加容易，但也带来了控制和信任方面的挑战。

TRiSM技术：确保人工智能时代的信任

虽然技术三明治提供了灵活性和创新性，但它也带来了风险，特别是在数据安全、合规性和人工智能可信度等领域。

这就是TRiSM技术发挥作用的地方。

TRISM代表信任、风险和安全管理，这是一类新的技术，旨在加强治理、监控风险，并确保整个企业人工智能系统的安全。

TRISM技术的需求

随着人工智能应用的加速，其风险也在增加。

从侵犯隐私到人工智能“幻觉”（人工智能产生不正确或无意义的输出），确保安全可靠地使用人工智能至关重要。根据Gartner的数据，2023年，29%的组织报告了与人工智能相关的隐私或安全事件。此外，人工智能的成本，特别是人工智能一代的成本是不可预测的，管理不善可能会导致巨大的财务和安全风险。

首席信息官们不能再仅仅依靠人力监督、治理委员会或传统的风险管理框架。

随着人工智能系统数量的增长，实时、自动执行信任策略至关重要。TRiSM技术旨在以手动流程无法实现的方式扩展人工智能治理，提供对安全、隐私和道德标准的持续监控和执行。

TRiSM技术的关键组成部分

1.守护者代理：

这些自动化代理充当看门人，确保人工智能系统遵循组织制定的规则。例如，他们可以实时监控人工智能的输出，标记不恰当的反应（如幻觉）或违反数据隐私政策的行为。在某些情况下，这些代理可以防止敏感数据被泄露，或确保人工智能生成的内容准确并符合公司指导方针。

2.实时监测：

与可能依赖定期审查的传统治理系统不同，TRiSM技术能够持续监测人工智能活动。这一点至关重要，因为人工智能系统，特别是那些使用实时数据的系统，需要即时监督，以防止代价高昂或破坏性的结果。

3.合规执行：

随着人工智能系统从各种数据集中提取数据（通常没有集中控制），确保遵守合规政策成为一项重大挑战。TRiSM工具确保人工智能模型尊重数据隐私法（如GDPR）和内部安全协议，自动执行访问权限和许可。

4.输出过滤器：

主题演讲中提到的一个具体例子是TRiSM输出过滤器，它可以防止人工智能做出不恰当的反应，例如当人工智能模型根据错误的数据源建议吃石头时。这些过滤器确保人工智能生成的内容不仅准确，而且符合道德准则和公司标准。

在人工智能驱动的世界中实施TRiSM

TRiSM技术对于人工智能加速的组织至关重要，这些组织拥有10多项人工智能计划，并雄心勃勃地利用人工智能来改变其业务。对于这些公司来说，传统的治理结构无法快速扩展以跟上人工智能采用的步伐。通过使用TRiSM技术，首席信息官可以确保他们的人工智能系统保持安全、合规和值得信赖，即使人工智能越来越融入日常运营。

对于以稳定的人工智能速度运营的组织来说，TRiSM仍然很有价值，但可能不需要那么全面。治理和安全实践可以更多地依赖于人工监督和小规模自动化。

然而，随着人工智能倡议的增长，TRiSM将成为有效扩展治理所不可或缺的。

总结

技术三明治和TRiSM技术的结合为首席信息官们提供了将人工智能成功整合到其组织中的路线图。技术三明治框架提供了管理各种人工智能工具和数据集的灵活性，而TRiSM技术确保了这种复杂性得到安全和负责任的管理。

通过构建一个适合他们需求的技术三明治——无论是依赖嵌入式人工智能、打包解决方案还是内部开发——首席信息官们都可以保持对快速扩展的人工智能生态系统的控制。与此同时，TRISM技术提供了管理人工智能风险所需的保障措施，确保这些系统值得信赖、安全，并符合内部和外部标准。

随着人工智能的不断发展，并成为企业系统中不可或缺的一部分，理解和实施这些概念将是技术领导者安全有效地驾驭创新和成果的双重人工智能竞赛的关键。