【AI合规】谷歌关于负责任人工智能的原则

视频号

微信公众号

知识星球

Chinese, Simplified

虽然我们对人工智能的潜力持乐观态度,但我们认识到,先进技术可能会带来重要挑战,必须明确、深思熟虑、积极应对。这些人工智能原则描述了我们对负责任地开发技术的承诺,并致力于建立我们不会追求的特定应用领域。

人工智能应用的目标

1.对社会有益。

新技术的普及越来越影响整个社会。人工智能的进步将在医疗、安全、能源、交通、制造和娱乐等广泛领域产生变革性影响。在我们考虑人工智能技术的潜在开发和使用时,我们将考虑广泛的社会和经济因素,并将在我们认为总体可能收益大大超过可预见风险和不利影响的情况下进行。

人工智能还增强了我们大规模理解内容含义的能力。我们将努力使用人工智能提供高质量和准确的信息,同时继续尊重我们运营所在国的文化、社会和法律规范。我们将继续仔细评估何时在非商业基础上提供我们的技术。

2.避免制造或强化不公平的偏见。

人工智能算法和数据集可以反映、强化或减少不公平的偏见。我们认识到,区分公平和不公平的偏见并不总是简单的,而且在不同文化和社会中也有所不同。我们将努力避免对人们产生不公正的影响,特别是与种族、民族、性别、国籍、收入、性取向、能力以及政治或宗教信仰等敏感特征有关的影响。

3.进行建造和安全测试。

我们将继续制定和实施强有力的安全和安保措施,以避免造成伤害风险的意外结果。我们将在设计人工智能系统时保持适当的谨慎,并寻求根据人工智能安全研究的最佳实践进行开发。在适当的情况下,我们将在受限的环境中测试人工智能技术,并在部署后监控其运行。

4.对人负责。

我们将设计人工智能系统,为反馈、相关解释和上诉提供适当的机会。我们的人工智能技术将受到适当的人类指导和控制。

5.结合隐私设计原则。

我们将把隐私原则纳入人工智能技术的开发和使用中。我们将提供通知和同意的机会,鼓励具有隐私保护的架构,并对数据的使用提供适当的透明度和控制。

6.坚持科学创优的高标准。

技术创新植根于科学方法和对开放探究、严谨知识、诚信和协作的承诺。人工智能工具有潜力在生物学、化学、医学和环境科学等关键领域开启科学研究和知识的新领域。在我们努力推进人工智能发展的过程中,我们追求高标准的科学卓越。

我们将与一系列利益相关者合作,利用科学严谨和多学科的方法,促进这一领域的深思熟虑的领导。我们将通过发布教育材料、最佳实践和研究,负责任地分享人工智能知识,使更多人能够开发有用的人工智能应用程序。

7.可用于符合这些原则的用途。

许多技术有多种用途。我们将努力限制潜在的有害或滥用应用程序。在我们开发和部署人工智能技术时,我们将根据以下因素评估可能的用途:

  • 主要目的和用途:技术和应用的主要目的和可能的用途,包括解决方案与有害用途的关系或适用性
  • 性质和独特性:无论我们提供的是独特的还是更普遍的技术
  • 规模:该技术的使用是否会产生重大影响
  • 谷歌参与的性质:无论我们是提供通用工具,为客户集成工具,还是开发定制解决方案

我们不会追求的人工智能应用

除上述目标外,我们不会在以下应用领域设计或部署人工智能:

  • 1.造成或可能造成整体危害的技术。在存在重大伤害风险的情况下,我们只会在我们认为收益远远大于风险的情况中进行,并将纳入适当的安全限制。
  • 2.主要目的或实施是造成或直接便利对人身伤害的武器或其他技术。
  • 3.收集或使用信息进行监视的技术违反了国际公认的规范。
  • 4.其目的违反公认的国际法和人权原则的技术。

随着我们在这一领域经验的加深,这份清单可能会不断演变。

本文地址
https://architect.pub
SEO Title
Google Principles about responsibility AI