【道德实践】技术方面的最佳道德实践

技术中的道德“最佳实践”是什么？

“最佳实践”是一个经常用于以下情况的术语：把事情做好非常重要，而且以不太理想的方式做事情会产生巨大的成本或风险。

在这里，我们描述了在技术开发的背景下结合适当的道德关注、反思和决策的最佳实践。

没有一个单一的技术伦理准则能够适用于所有的环境和从业者；因此，组织和专业人员应制定明确的内部政策、程序、指导方针和最佳实践，以专门适应其自身的活动和挑战。然而，这些具体的行为准则可以通过反思这16个广泛的道德实践规范和准则来形成。

1.将道德放在聚光灯下，并将其排除在合规框之外：​ 

伦理是技术实践的一个普遍方面。由于技术的巨大社会力量，伦理问题几乎总是在起作用。即使我们的工作不是直接面向客户，道德问题也从不缺席。然而，在许多组织中发现的“合规心态”，当应用于技术时，可能会助长一种危险的倾向，将道德“边缘化”为外部约束，而不是将其视为擅长我们所做事情的一个组成部分。法律和道德是不一样的。合法的可能是不道德的（很常见），而合乎道德的可能是非法的（即使不太常见）。如果我们在思考道德问题时成为“遵守”心态的受害者，我们更有可能将我们的道德义务视为一个复选框，一旦我们觉得我们已经完成了“遵守”这些义务所需的最低限度，就会忘记。不幸的是，这往往会导致灾难性的后果。由于伦理考虑无处不在，而且是技术发展的内在因素，我们的个人和组织必须努力将伦理问题放在聚光灯下。

2.突出技术背后的人类生命和利益：​ 

尤其是在技术背景下，人们很容易忽视技术对人类生活和利益的实际影响。即使这项技术涉及非人类实体（例如海洋温度记录），它也被用于重要的人类目的和兴趣。许多技术涉及人类生活中最敏感的方面：他们的身体、财务、社会关系以及情绪和精神状态。一个体面的人会谨慎地处理他人的身体、金钱或精神状况；当开发涉及人们生活的这些和其他重要方面的技术时，同样的道德义务也适用。

3.考虑技术的下游（以及上游和横向）风险：​

 我们经常过于狭隘地关注自己是否遵守了道德准则，而忘记了一旦我们努力完成了自己的特定任务，与技术有关的道德问题就不会消失。思考设备、软件、硬件或数据离开我们的手中后会发生什么是至关重要的。例如，即使我们在产品发布前对其进行了广泛的测试，也总是会出现新的威胁，以及可能带来新挑战的产品的新应用程序。因此，我们应该始终了解我们业务的下游风险，并与那些能够监控产品情况的人保持有效的沟通渠道。与那些“上游”和横向于我们实践的人进行沟通也是至关重要的；如果我们努力保持技术以合乎道德的方式运行和与社会互动的原因是上游糟糕的设计和配置选择束缚了我们的手脚，或者是因为另一个部门的人不断忽视或凌驾于我们制定的实践之上，那么我们需要做好解决这一问题的准备。如果我们没有关注下游、上游和横向风险，那么我们就没有充分意识到我们当前做法的道德风险。

4.不要低估非技术参与者、兴趣和期望：

​ 技术人员在特定的技术实践领域非常熟练，并习惯于与具有类似技术专业知识水平的其他人互动。在考虑非技术行为者的利益和他们所面临的风险时，这可能会导致一种危险的孤立心态。它还可以培养对那些因技术无能或天真而面临风险的人的道德冷漠态度。这种态度导致错过了实施基本风险预防和缓解策略的机会，增加了组织和第三方的总体风险。此外，事实上，从技术上讲，天真并不是让一个人更值得受到伤害或伤害，或者更不值得得到安全保障。对非技术参与者及其兴趣保持适当的同理心，最终会让你成为一名更好的技术专家。

5.设想技术生态系统：​ 

我们需要牢记我们正在研究的技术现在存在的完整背景，以及其用途，并牢记我们今天处理的技术明天将走向何方。例如，处理大型医疗记录数据集的技术人员可能倾向于狭隘地关注如何负责任地收集和使用数据。但他们也必须考虑还有谁可能有兴趣获得这些数据，以及出于什么其他目的。他们可能还必须考虑他们收集数据的文化背景，这些数据可能包含与技术人员的期望、价值观和优先事项相冲突的期望、值和优先事项。事实上，技术实践从未与更广泛的社会技术生态系统分离，该生态系统包括强大的社会力量和不受我们控制的不稳定性；我们必须从更大的角度来考虑我们的道德实践和义务。

6.注意用户期望与现实之间的差距：​

 在开发技术时，请记住利益相关者对特定产品的期望可能与现实存在差异。例如，用户是否对这项技术的风险有足够的了解？某些披露和使用通知是否会导致对用户安全性的期望过高？我们能兑现对用户做出的所有承诺吗？例如，我们是否有一天会将我们的产品和/或其相关数据出售给可能不履行这些承诺的第三方？我们经常犯错误，认为与我们签订合同的各方是平等的，而事实上，我们可能是从认知优势的角度来运作的——我们知道的比他们多得多。与“蒙在鼓里”或对数据协议的性质抱有幻想的主体达成协议，通常在道德上是不合法的。

7.避免围绕技术的炒作和神话：​ 

我们还需要记住，技术是强大的，但它不是解决复杂社会问题的灵丹妙药。然而，行业和媒体有很大的动机将技术描绘成这样。这可能会导致许多危害，从不合理的产品开发目标到容易导致反弹的未实现的用户期望。并非所有的问题都有技术解决方案，如果我们不这么认为，我们可能会忽视更经济、道德和实用的解决方案。我们应该记得一个笑话，讲的是一个喝醉的男人，当被问及为什么在路灯下寻找丢失的车钥匙时，他回答说“因为那就是灯的所在”。对于一些问题，最好的解决方案可能不在我们技术关注的“光”范围内。

8.建立道德责任和问责链：​

 在组织环境中，“多人参与的问题”是对负责任的实践和问责制的不断挑战。为了避免责任的分散，团队中的任何人都可能感到有权或有义务采取必要的措施来确保有效和合乎道德的实践，必须建立明确的责任链，并在项目的最早阶段向参与工作的每个人明确。我们应该明确谁负责道德风险管理和预防伤害的各个方面，在每个相关的风险活动领域。我们还应该明确谁最终负责确保一个合乎道德的项目或实践。如果团队的工作造成道德沦丧或重大伤害，谁将提供答案、解释和补救措施？建立的责任和问责链确保项目或组织的成员明确拥有工作的道德意义。

9.将技术视为有条件的商品：​

 技术中一些最危险的做法涉及将技术发展视为无条件的利益。技术进步本身并不会带来一个更美好的世界。相反，它是​技术是如何使用的​ 这将决定技术发展是否会带来一个更美好的世界。例如，核武器是一项令人难以置信的强大技术进步，但自其发展以来，它给整个文明蒙上了漫长的阴影。举一个更现代的例子，可以存储更多数据的设备会导致“收集和存储”的粗心心态，从而加剧隐私和安全风险​全部的​ 现在，我们稍后会弄清楚我们实际需要什么。”技术是​有条件的善——只有当我们小心地创造它时，它才是有益和有用的。

10.实践灾害规划和危机应对：

​ 大多数人希望关注项目或系统的积极潜力。虽然这是可以理解的，但这种态度的危险是众所周知的，并且经常导致本可以轻松避免的失败、灾难或危机。当没有人为最坏的情况做好计划时，这种态度往往也会阻碍有效的危机应对。土木和机械工程师的设计极大地影响了公共安全，他们长期以来一直有一种鼓励提前考虑失败的文化。了解产品或系统在非理想条件下、在预期用途的边界上，甚至在这些边界之外如何发挥作用，对于建立适当的安全边际和为不受欢迎的情况制定计划至关重要。思考失败会让技术人员的工作变得更好，而不是更糟。危机计划应该是明智的，对公众的投入做出反应，最重要的是，能够有效地减轻或补救正在造成的伤害。

11.提倡自主、透明和值得信赖的价值观：​ 

为了在技术人员和公众之间建立和保持健康的关系，尊重自主性、透明度和可信度是关键。不幸的是，有许多缺乏这种尊重的例子：将风险隐藏在法律、技术或公关术语背后，剥夺用户促进自身健康的努力的权力；在未经适当同意和对所收集内容的保护的情况下清空数据；或者为了避免自己的职业或公共后果而隐藏漏洞或违规通知，仅举几例。当然，我们不可能总是对我们所做的每件事都完全透明。同样，有时用户的自主权会与我们防止有害滥用技术的义务相矛盾。偶尔，关于“紧张局势”和“平衡商品”的言论本身可能相当于不公正的“合理化”或“有动机的推理”（仅仅因为这样做对我有利，或者因为我强烈希望这是真的，才相信某件事。）然而，平衡重要的权利和道德价值观并不等同于牺牲这些价值观或忽视它们在维持公众信任方面的关键作用。

12.考虑不同的利益、资源和影响：​ 

技术实践具有产生或放大不同影响的巨大风险；也就是说，让一些人过得更好，让另一些人过的更糟（无论是从他们在经济福祉、政治权力、健康、正义或其他重要商品中的社会份额来看）。并非所有不同的影响都是不合理或错误的。例如，虽然使用强大的端到端加密的设备可能会使犯罪分子更容易避免政府对其通信的审查，但它也可能对威权政府追踪和压制其政治反对派的能力产生不同的影响。在这里，不同影响之间的道德平衡相当复杂（如2016年苹果诉联邦调查局的案件所示）。但想象一下，另一款设备只为购买最昂贵型号的用户提供尖端的安全工具和功能，而在所有其他型号中提供过时/薄弱的安全功能。这种选择的不同影响是否合理？必须推定不同影响带来的道德风险；必须对这些影响进行预测、积极审计，并仔细检查其道德可接受性。

13.隐私和安全设计：​ 

这看起来很明显，但其重要性怎么强调都不为过这里的设计不仅指技术设计（网络、数据库、设备、平台、网站、工具或应用程序），还指团体、政策、程序、激励措施、资源分配以及促进隐私和安全目标的技术的社会和组织设计。实施方式会因环境而异，但最重要的是，隐私和安全的价值观应该保持在项目设计、规划、执行和监督的最前沿，永远不要被视为边缘、外部或“事后”问题。

14.邀请不同的利益相关者参与：

​ 在道德风险评估和设计中避免“群体思维”的一种方法是邀请团队和组织之外的不同利益相关者提供意见。重要的是，利益相关者的投入不能简单地反映组织或团队中已经存在的相同观点。技术人员通常具有异常高的教育成就和经济地位，而且在许多技术领域，人口在性别、种族、民族、年龄、残疾和其他特征方面的代表性是倾斜的。此外，工作的性质可能会吸引有共同兴趣和价值观的人——例如，对科学和技术的潜力持共同乐观态度，对其他社会机制的信心相对较低。所有这些因素都会导致组织的单一文化，从而放大群体思维、盲点和糟糕设计的危险。例如，如果团队成员难以想象一项技术会被不同于自己的人如何看待，或者它会如何影响他们，那么上述许多最佳实践就无法成功实施。积极认识到团队视角的局限性是至关重要的。培养更多样化的技术组织和团队是减轻这些限制的一个明显方法；从那些可能受到我们实践影响的更具真正代表性的机构那里征求外部意见也是极其重要的。

15.使伦理反思和实践标准化、普遍化、迭代化和奖励化：​ 

道德反思和实践是技术专业卓越的重要组成部分，但它仍未完全或一致地融入技术实践。使道德反思和实践成为标准和普遍的工作必须通过个人从业者和组织采取的积极措施来进行。为了有效，伦理反思和实践也必须以迭代的方式进行。由于技术在不断发展，我们必须将技术伦理视为一个积极而持续的学习周期，在这个周期中，我们不断观察实践的伦理结果，从错误中吸取教训，收集更多信息，获得更多的伦理和技术专业知识，然后相应地更新和改进我们的实践。最重要的是，必须在技术方面进行道德实践​奖励​: 将团队和机构/公司的激励措施与道德最佳实践相结合，将加强这些实践，并赋予从业者执行这些实践的能力。

16.道德技术实践的典范和倡导者：​

在实际伦理环境中得到良好指导的一个方法是找到并关注这种做法的优秀模式。最终，成为优秀的自己不仅可以指导他人，还可以与其他优秀的人和专业人士合作，提高我们的生活水平。有抱负的技术人员可以从寻求、识别和发展与优秀的道德技术实践模式的强大指导关系中受益，这些模式不仅拥有卓越的技术，而且是道德领导力的典范。最好向各种各样的模型学习，因为即使是专家也有自己的弱点和盲点。但是，那些通过向最好的导师学习来培养实践智慧的人，反过来可以成为他人的优秀导师，从而提高该领域的整体卓越性和高尚性。他们还可以共同努力，倡导该领域在技术和道德上更优越的规范、标准和实践，提高每个人的标准，并确保技术人员帮助确保和维持我们所有人繁荣世界的承诺。

本文件改编自以下来源：

Vallor, Shannon. “An Introduction to Cybersecurity Ethics.” ​Markkula Center for Applied Ethics Website​, February 7, 2018, pp. 48-52. Available at: https://www.scu.edu/media/ethics-center/technology-ethics/IntroToCybersecurityEthics.pdf

Vallor, Shannon.​ “​An Introduction to Data Ethics.” ​Markkula Center for Applied Ethics Website​, January 23, 2018, pp. 48-52. Available at: https://www.scu.edu/media/ethics-center/technology-ethics/IntroToDataEthics.pdf