[Azure AI]人工智能（AI）架构设计

人工智能（AI）是计算机模仿人类智能行为的能力。通过人工智能，机器可以分析图像，理解语音，以自然的方式进行交互，并使用数据进行预测。

描绘人工智能作为父概念的关系的插图。AI内部是机器学习。机器学习的核心是深度学习。

人工智能概念

算法

算法是用于解决问题或分析一组数据的一系列计算和规则。它就像一个流程图，有一步一步的问题说明，但用数学和编程代码编写。算法可以描述如何确定宠物是猫、狗、鱼、鸟还是蜥蜴。另一种更复杂的算法可能描述如何识别书面或口语，分析其单词，将其翻译成另一种语言，然后检查翻译的准确性。

机器学习

机器学习是一种使用数学算法创建预测模型的人工智能技术。一种算法用于解析数据字段，并通过使用其中的模式来生成模型，从而从数据中“学习”。然后，这些模型用于对新数据做出明智的预测或决策。

预测模型根据已知数据进行验证，通过为特定业务场景选择的绩效指标进行衡量，然后根据需要进行调整。这个学习和验证的过程称为训练。通过定期的再训练，机器学习模型会随着时间的推移而得到改进。

• What are the machine learning products at Microsoft?
   

深度学习

深度学习是一种机器学习，可以自行确定其预测是否准确。它还使用算法来分析数据，但它的规模比ML更大。

深度学习使用由多层算法组成的人工神经网络。每一层都会查看传入的数据，执行自己的专门分析，并产生其他层可以理解的输出。然后将此输出传递到下一层，在那里，不同的算法会进行自己的分析，依此类推。

每个神经网络都有很多层，有时还使用多个神经网络，机器可以通过自己的数据处理来学习。这需要比ML多得多的数据和计算能力。

• Deep learning versus machine learning

• Batch scoring of deep learning models on Azure

机器人

机器人是一种旨在执行特定任务的自动化软件程序。把它想象成一个没有身体的机器人。早期的机器人相对简单，用相对简单的算法逻辑处理重复和大量的任务。一个例子是搜索引擎用来自动探索和分类网络内容的网络爬虫。

机器人已经变得更加复杂，使用人工智能和其他技术来模仿人类的活动和决策，通常同时通过文本甚至语音与人类直接交互。例子包括可以预订晚餐的机器人、帮助客户服务互动的聊天机器人（或对话式人工智能），以及向社交媒体网站发布突发新闻或科学数据的社交机器人。

微软提供Azure机器人服务，这是一种专为企业级机器人开发而构建的托管服务。

• About Azure Bot Service

• Ten guidelines for responsible bots

• Azure reference architecture: Enterprise-grade conversational bot

自主系统

自主系统是超越基本自动化的不断发展的新类别的一部分。自主系统不会像机器人那样反复执行特定任务，几乎没有变化，而是为机器带来智能，使其能够适应不断变化的环境，实现预期目标。

智能建筑使用自主系统来自动控制照明、通风、空调和安全等操作。一个更复杂的例子是，一个自主机器人探索一个坍塌的矿井，以彻底绘制其内部地图，确定哪些部分结构完好，分析空气的透气性，并检测需要救援的被困矿工的迹象——所有这些都不需要远程实时监控。

Microsoft AI的一般信息

了解有关Microsoft AI的更多信息，并及时了解相关新闻：

• Microsoft AI School

• Azure AI platform page

• Microsoft AI platform page

• Microsoft AI Blog

• Microsoft AI on GitHub: Samples, reference architectures, and best practices

• Azure Architecture Center

高层架构类型

预构建AI

预构建的AI正是听起来像现成的AI模型、服务和API，可以随时使用。这些可以帮助您为应用程序、网站和流添加智能，而无需收集数据，然后构建、训练和发布自己的模型。

预构建AI的一个例子可能是预训练模型，它可以按原样合并或用于为进一步的自定义训练提供基线。另一个例子是一个基于云的API服务，可以随意调用该服务来以所需的方式处理自然语言。

Azure人工智能服务

认知服务为开发人员提供了使用预构建的API和集成工具包来创建可以看到、听到、说话、理解甚至开始推理的应用程序的机会。Azure AI服务中的服务目录可分为五大支柱：视觉、语音、语言、Web搜索和决策/推荐。

• Azure Cognitive Services documentation

• Try Azure Cognitive Services for free

• Choosing an Azure Cognitive Services technology

• Choosing a natural language processing technology in Azure

AI Builder中的预构建AI模型

AI Builder是Microsoft Power Platform中的一项新功能，它提供了一个点击式界面，用于将AI添加到您的应用程序中，即使您没有编码或数据科学技能。（AI Builder中的一些功能尚未正式发布，仍处于预览状态。有关更多信息，请参阅按地区列出的功能可用性页面。）

您可以构建和训练自己的模型，但AI Builder还提供了可立即使用的精选预构建AI模型。例如，您可以在Microsoft Power Apps中添加一个基于预构建模型的组件，该模型可以从名片中识别联系人信息。

• Power Apps on Azure

• AI Builder documentation

• AI model types in AI Builder

• Overview of prebuilt AI models in AI Builder

自定义AI

尽管预构建的人工智能很有用（而且越来越灵活），但从人工智能中获得所需信息的最佳方式可能是自己构建一个系统。这显然是一个非常深刻和复杂的主题，但让我们来看看我们刚才讨论的一些基本概念。

代码语言

人工智能的核心概念是使用算法来分析数据并生成模型，以有用的方式对其进行描述（或评分）。算法是由开发人员和数据科学家（有时是其他算法）使用编程代码编写的。目前人工智能开发中最流行的两种编程语言是Python和R。

Python是一种通用的高级编程语言。它有一个简单易学的语法，强调可读性。没有编译步骤。Python有一个大型的标准库，但它也支持添加模块和包的能力。这鼓励了模块化，并允许您在需要时扩展功能。Python有一个庞大且不断增长的AI和ML库生态系统，其中包括许多在Azure中可用的库。

• Python on Azure product home page

• Azure for Python developers

• Azure Machine Learning SDK for Python

• Introduction to machine learning with Python and Azure Notebooks

• scikit-learn. An open-source ML library for Python

• PyTorch. An open-source Python library with a rich ecosystem that can be used for deep learning, computer vision, natural language processing, and more

• TensorFlow. An open-source symbolic math library also used for ML applications and neural networks

• Tutorial: Apply machine learning models in Azure Functions with Python and TensorFlow

R是一种用于统计计算和图形的语言和环境。它可以用于从在线绘制广泛的社会和营销趋势到开发金融和气候模型的一切。

微软已经完全接受了R编程语言，并为R开发人员在Azure中运行代码提供了许多不同的选项。

• Use R interactively on Azure Machine Learning.

• Tutorial: Create a logistic regression model in R with Azure Machine Learning

培训

训练是机器学习的核心。它是“教授”一种算法以创建模型的迭代过程，这些模型用于分析数据，然后从中做出准确的预测。在实践中，这个过程有三个一般阶段：训练、验证和测试。

在训练阶段，标记一组已知数据的质量，以便识别各个字段。标记的数据被馈送到配置为进行特定预测的算法。完成后，算法输出一个模型，该模型将发现的模式描述为一组参数。在验证过程中，新数据被标记并用于测试模型。根据需要调整算法，并可能进行更多的训练。最后，测试阶段使用没有任何标签或预选目标的真实数据。假设模型的结果准确，则认为它已准备好使用并可以部署。

• Train models with Azure Machine Learning

超参数调整

超参数是控制训练过程本身的数据变量。它们是控制算法如何运行的配置变量。因此，超参数通常在模型训练开始之前设置，并且在训练过程中不会像参数那样进行修改。超参数调优涉及在训练任务中运行试验，评估他们完成工作的程度，然后根据需要进行调整。此过程生成多个模型，每个模型都使用不同的超参数族进行训练。

• Tune hyperparameters for your model with Azure Machine Learning
   

型号选择

训练和超参数调整的过程会产生许多候选模型。这些可能有许多不同的差异，包括准备数据所需的努力、模型的灵活性、处理时间，当然还有其结果的准确性。为您的需求和约束选择最佳训练模型称为模型选择，但这既是训练前的预先规划，也是选择最有效的模型。

自动机器学习（AutoML）

自动机器学习，也称为AutoML，是将机器学习模型开发中耗时的迭代任务自动化的过程。它可以显著减少获得生产就绪的ML模型所需的时间。自动机器学习可以帮助进行模型选择、超参数调整、模型训练和其他任务，而不需要大量的编程或领域知识。

• What is automated machine learning?
   

评分

评分也称为预测，是在给定一些新的输入数据的情况下，基于训练好的机器学习模型生成值的过程。创建的值或分数可以代表对未来值的预测，但它们也可能代表一个可能的类别或结果。评分过程可以生成许多不同类型的值：

• 推荐项目列表和相似性评分
• 时间序列模型和回归模型的数值
• 概率值，表示新输入属于某个现有类别的可能性
• 与新项目最相似的类别或集群的名称
• 分类模型的预测类或结果

批量评分是指在某个固定的时间段内收集数据，然后批量处理。这可能包括生成业务报告或分析客户忠诚度。

实时评分正是正在进行并尽快执行的评分。经典的例子是信用卡欺诈检测，但实时评分也可用于语音识别、医疗诊断、市场分析和许多其他应用。

Azure上自定义AI的一般信息

• Microsoft AI on GitHub: Samples, reference architectures, and best practices

• Azure Machine Learning SDK for Python

• Azure Machine Learning Python SDK notebooks. A GitHub repo of example notebooks demonstrating the Azure Machine Learning Python SDK.

• Train R models using the Azure ML CLI (v2)

Azure AI平台产品

以下是可用于开发满足您需求的AI解决方案的Azure技术、平台和服务的细分。

Azure机器学习

这是一个企业级的机器学习服务，可以更快地构建和部署模型。Azure机器学习提供web界面和SDK，因此您可以快速大规模地训练和部署机器学习模型和管道。将这些功能用于开源Python框架，如PyTorch、TensorFlow和scikit-learn。

• What are the machine learning products at Microsoft?

• Azure Machine Learning product home page

• Azure Machine Learning documentation overview

• What is Azure Machine Learning? General orientation with links to many learning resources, SDKs, documentation, and more

Azure的机器学习参考架构

Batch scoring of deep learning models on Azure

• Machine learning operationalization (MLOps) for Python models using Azure Machine Learning

• Batch scoring of Spark machine learning models on Azure Databricks

• Enterprise-grade conversational bot

Azure自动化机器学习

Azure为自动化ML提供了广泛的支持。开发人员可以使用无代码UI或通过代码优先的笔记本体验构建模型。

• Azure automated machine learning product home page

• Azure automated ML infographic (PDF)

• Tutorial: Create a classification model with automated ML in Azure Machine Learning

• Tutorial: Use automated machine learning to predict taxi fares

• Configure automated ML experiments in Python

• Use the CLI extension for Azure Machine Learning

• Automate machine learning activities with the Azure Machine Learning CLI

Azure人工智能服务

这是一个全面的人工智能服务和认知API系列，可帮助您构建智能应用程序。这些特定领域的预训练AI模型可以根据您的数据进行定制。

• Cognitive Services product home page

• Azure Cognitive Services documentation

Azure认知搜索

这是一个基于人工智能的云搜索服务，用于移动和web应用程序开发。该服务可以搜索私有异构内容，如果您的内容是非结构化的或原始形式无法搜索，则可以选择人工智能丰富。

• Azure Cognitive Search product home page

• Getting started with AI enrichment

• Azure Cognitive Search documentation overview

• Choosing a natural language processing technology in Azure

• Quickstart: Create an Azure Cognitive Search cognitive skill set in the Azure portal

Azure机器人服务

这是一个专门构建的机器人开发环境，具有现成的模板，可以快速入门。

• Azure Bot Service product home page

• Azure Bot Service documentation overview

• Azure reference architecture: Enterprise-grade conversational bot

• Microsoft Bot Framework

• Microsoft Bot Framework SDK repo

Azure上的Apache Spark

Apache Spark是一个并行处理框架，支持内存处理，以提高大数据分析应用程序的性能。Spark为内存集群计算提供了原语。Spark作业可以将数据加载并缓存到内存中，并重复查询，这比基于磁盘的应用程序（如Hadoop）快得多。

Azure HDInsight中的Apache Spark是微软在云中实现的Apache Spark。HDInsight中的Spark群集与Azure存储和Azure数据湖存储兼容，因此您可以使用HDInsight Spark群集来处理存储在Azure中的数据。

Apache Spark的微软机器学习库是SynapseML（以前称为MMLSpark）。这个开源库为Spark生态系统添加了许多深度学习和数据科学工具、网络功能和生产级性能。了解更多关于SynapseML特性和功能的信息。

• Azure HDInsight overview. Basic information about features, cluster architecture, and use cases, with pointers to quickstarts and tutorials.

• Tutorial: Build an Apache Spark machine learning application in Azure HDInsight

• Apache Spark best practices on HDInsight

• Configure HDInsight Apache Spark Cluster settings

• Machine learning on HDInsight

• GitHub repo for SynapseML: Microsoft machine learning library for Apache Spark

• Create an Apache Spark machine learning pipeline on HDInsight

Azure Databricks Runtime for Machine Learning

Azure Databricks 是一个基于Apache Spark的分析平台，具有一键设置、简化的工作流程和数据科学家、工程师和业务分析师之间协作的交互式工作区。

用于机器学习的Rancher Runtime（Rancher Runtime ML）允许您使用分布式训练所需的所有库启动一个copula集群。它为机器学习和数据科学提供了一个现成的环境。此外，它还包含多个流行的库，包括TensorFlow、PyTorch、Keras和XGBoost。它还支持使用Horovod进行分布式培训。

• Azure Databricks product home page

• Azure Databricks documentation

• Machine learning capabilities in Azure Databricks

• How-to guide: Databricks Runtime for Machine Learning

• Batch scoring of Spark machine learning models on Azure Databricks

• Deep learning overview for Azure Databricks

客户案例

不同的行业正在以创新和鼓舞人心的方式应用人工智能。以下是一些客户案例研究和成功案例：

• ASOS: Online retailer solves challenges with Azure Machine Learning service

• KPMG helps financial institutions save millions in compliance costs with Azure Cognitive Services

• Volkswagen: Machine translation speaks Volkswagen – in 40 languages

• Buncee: NYC school empowers readers of all ages and abilities with Azure AI

• InterSystems: Data platform company boosts healthcare IT by generating critical information at unprecedented speed

• Zencity: Data-driven startup uses funding to help local governments support better quality of life for residents

• Bosch uses IoT innovation to drive traffic safety improvements by helping drivers avoid serious accidents

• Automation Anywhere: Robotic process automation platform developer enriches its software with Azure Cognitive Services

• Wix deploys smart, scalable search across 150 million websites with Azure Cognitive Search

• Asklepios Klinik Altona: Precision surgeries with Microsoft HoloLens 2 and 3D visualization

• AXA Global P&C: Global insurance firm models complex natural disasters with cloud-based high-performance computing (HPC)

Browse more AI customer stories

下一步

• To learn about the artificial intelligence development products available from Microsoft, refer to the Microsoft AI platform page.

• For training in how to develop AI solutions, refer to Microsoft AI School.

• Microsoft AI on GitHub: Samples, reference architectures, and best practices organizes the Microsoft open source AI-based repositories, providing tutorials and learning materials.