【AI合规】负责任的人工智能的含义-实践指南

人工智能是我们这个时代的决定性技术。它已经使人类努力的几乎每个领域都取得了更快、更深刻的进步，并帮助解决了社会上一些最艰巨的挑战，如为远程学生提供受教育的机会，帮助农民为我们不断增长的全球人口生产足够的粮食。

在微软，我们认为人工智能的计算智能应该被用来放大人类天生的创造力和独创性。我们对人工智能的愿景是让每一位开发者都有能力创新，让组织有能力改变行业，让人们有能力改变社会。

人工智能的社会意义

与过去所有伟大的技术创新一样，人工智能技术的使用将对社会产生广泛影响，对我们希望看到的未来提出复杂而富有挑战性的问题。人工智能将影响整个行业的决策、数据安全和隐私，以及人们在工作场所取得成功所需的技能。展望未来，我们必须问问自己：我们如何设计、构建和使用对个人和社会产生积极影响的人工智能系统？我们如何最好地让员工做好应对人工智能影响的准备？我们如何在尊重隐私的同时获得人工智能的好处？

负责任的人工智能方法的重要性

重要的是要认识到，随着新的智能技术在整个社会的出现和扩散，其好处将带来意想不到和不可预见的后果，其中一些会产生重大的道德后果，并有可能造成严重伤害。虽然组织目前还不能预测未来，但我们有责任通过深思熟虑的规划和持续的监督，共同努力预测和减轻我们向世界发布的技术带来的意外后果。

新的威胁

2016年，当我们在推特上发布了一个名为Tay的聊天机器人时，我们被提醒了这一责任。我们教Tay在与推特用户的互动中在无人监督的情况下学习，这样她就可以更好地复制人类的沟通和个性特征。然而，在24小时内，用户意识到她可以学习，并开始灌输她的偏执言论，将她从一个礼貌的机器人变成了仇恨言论的载体。这段经历告诉我们，虽然技术本身可能并不不道德，但人们并不总是有良好的意图，我们在设计人工智能系统时必须考虑人的因素。我们学会了为影响学习数据集的新型攻击做好准备，尤其是对具有自动学习能力的人工智能系统。为了帮助确保类似的体验不会再次发生，我们开发了先进的内容过滤器等技术，并为具有自动学习功能的人工智能系统引入了监督员。

有偏见的结果

组织应该记住的另一个意外后果是，人工智能可能会在没有经过深思熟虑的规划和设计的情况下强化社会或其他偏见。例如，微软与一家大型金融贷款机构合作，开发了贷款审批的风险评分系统。我们使用客户的数据培训了一个现有的行业模型。当我们对该系统进行审计时，我们发现虽然它只批准低风险贷款，但所有批准的贷款都是针对男性借款人的。培训数据反映了一个事实，即贷款官员历来青睐男性借款人，检查该系统使我们能够在部署该系统之前识别和解决这种偏见。对于开发人员来说，了解如何在训练数据或机器学习模型中引入偏差是很重要的。在微软，我们的研究人员正在探索检测和减少人工智能系统中偏见的工具和技术。在本模块的摘要和资源单元中探索更多关于这方面的内容。

敏感用例

另一个说明我们有责任减轻意外后果的例子是面部识别等敏感技术。最近，人们对面部识别技术的需求越来越大，尤其是执法组织，他们看到了该技术在寻找失踪儿童等案件中的潜力。然而，我们认识到，政府可能会利用这些技术来威胁基本自由，例如，对特定个人进行持续监控。我们认为，社会有责任为这些技术的使用设定适当的界限，其中包括确保政府对面部识别技术的使用仍受法治约束。

虽然我们认为必须制定新的法律法规，但我们也认识到，这些法律法规不能取代企业、政府、非政府组织和从事人工智能的学术研究人员所需履行的责任。这就是为什么我们在2018年7月宣布，我们将评估和制定指导我们面部识别技术工作的原则。我们预计，随着我们在这个问题上继续与客户、其他科技公司、学者、民间社会和其他人学习和合作，这些原则将随着时间的推移而演变。在本模块的摘要和资源单元中查看它们。

面部识别技术强调了为所有新兴人工智能的缺点和意外后果做好准备并保持警惕的重要性。我们认为，负责任地参与人工智能是公共和私营部门的共同责任。至关重要的是，我们要继续促进企业、政府、非政府组织、学术研究人员以及所有其他感兴趣的个人和组织之间的公开对话。

在您的组织中应用这些想法

以下三个问题可以帮助您开始考虑您的组织如何以负责任的方式开发和部署人工智能。

1. 您如何使用以人为本的方法来为您的业务带来价值？
2. 您所在组织的基本价值观将如何影响您的人工智能方法？
3. 你将如何监控人工智能系统，以确保它们负责任地发展？

接下来，让我们看看微软关于负责任人工智能的六项指导原则如何在其他组织中应用。