欧盟发布AI道德指南,这次可不是“闹着玩”

时间:2019-07-12 来源: 专栏
澳门BBIN视讯娱乐平台

欧盟出版人工智能道德指南,这次不是“吵闹”

f0a187479b9e4328a321f318673dd861.png

The Verge所有者:欧盟委员会]

欧盟(EU)最近发布了一套指导方针,指导公司和政府在开发人工智能时遵循道德准则。

这些道德准则与艾萨克阿西莫夫的“机器人三法则”不同,后者没有提供简单和道德的框架来帮助我们控制杀人的机器人。相反,如果我们将AI纳入医疗保健,教育和消费者技术等领域,AI将解决影响社会的棘手问题。

例如,如果未来的AI系统诊断您患有癌症,那么欧盟必须确认一些事情:由于您的种族或性别,该软件不会对您产生偏见;它将遵循人类医生的反对意见;它可以解释诊断。因此,这些道德准则确实旨在防止人工智能失控,但这是在管理和官僚层面,而不是像阿西莫夫那样的谋杀。

为了实现这一目标,欧盟召集了52位专家,他们提出了未来人工智能系统应满足的七项要求。如下:

1.人道主义机构的监督:大赦国际不应践踏人的自治。人工不应被人工智能系统操纵或强迫,人类必须能够干预或监督软件做出的每一个决定。

2.技术稳健性和安全性:AI应该是安全和准确的。它不应该容易受到外部攻击的影响,即使受到攻击也应该是可靠的。

3.隐私和数据治理:AI系统收集的个人数据应保持安全和私密。它不应该是可访问的,不应该被轻易窃取。

4.算法透明度:用于创建AI系统的数据和算法应该是可访问的,并且软件做出的决策应该“被人理解和跟踪”。换句话说,操作员应该能够解释他的AI系统做出的决定。

5.多元化,非歧视和公平:大赦国际提供的服务应向所有人开放,不论年龄,性别,种族或其他特征如何。同样,系统不应偏向这些边界。

6.环境和社会福利:人工智能系统应该是可持续的,也就是说,它们应该对生态负责,它们也应该“促进积极的社会变革”。

7.改进问责制:人工智能系统应该是可审计的,公司应该承认并报告其系统的负面影响。

我们可以看到,其中一些要求非常抽象,难以在客观意义上进行评估。例如,“积极的社会变革”,对该词的理解因人而异,或因国家而异。但其他方法更直接,可以通过政府监督进行测试。例如,共享用于培训政府AI系统的数据可能是对抗偏差算法的好方法。

虽然这些道德准则不具有法律约束力,但它们可能会影响欧盟未来的起草法律。欧盟一再表示希望成为人工智能领域的领导者,并向GDPR表示愿意制定影响深远的法律来保护数字权利。

然而,在一定程度上,这种作用是由环境强加给欧盟的,因为它无法在投资和前沿研究方面与美国和中国等世界人工智能领导者竞争。因此,欧盟只能将道德作为塑造这项技术未来的最佳选择。

欧盟指南还包括“值得信赖的AI评估清单”,可帮助专家识别AI软件中的潜在弱点或危险。该列表还为软件公司提出了许多问题,包括“您公司的AI系统是否在意外情况和环境中进行了测试?”和“它是否评估了软件数据集中数据的类型和范围?”

这些评估清单仅是初步的,但欧盟将在未来几年收集公司的反馈意见,并在2020年前提交有关其效用的最终报告。数字权利组织Access Rights的政策经理Fanny Sidwig是其中一个帮助撰写本指南的专家。她说评估清单是指南中最重要的部分。

“这份清单提供了减轻人工智能潜在危害的实用和前瞻性观点,”西德维格告诉The Verge。 “我们相信欧盟有潜力和责任站在这项工作的最前沿。但欧盟不应该停留在道德准则上,因为道德准则只能在法律的基础上发挥更大的作用。“

其他人怀疑欧盟正试图通过道德研究来指导全球人工智能的发展,这将对人工智能社区产生重大影响。

“我们对欧盟正在采取的方法持怀疑态度,为人工智能设定道德金标准不允许欧盟在全球人工智能开发中获得立足点,”数据创新中心高级政策分析师Elina Chiwater表示。 Verge说:“要成为人工智能道德的领导者,首先必须成为全球AI领导者。”

雷锋网注:本文编译自

,查看更多

新闻排行
  1. 欧盟出版人工智能道德指南,这次不是“吵闹”TheVerge所有者:欧盟委员会]欧盟(EU)最近发布了一套指导方?

    欧盟出版人工智能道德指南,这次不是“吵闹”TheVerge所有者:欧盟委员会]欧盟(EU)最近发布了一套指导方?...

  2. 传递爱情!爱接力!年轻人老师患有急性白血病,善良的人帮助她!我叫张慧玲。我出生于1995年9月6日。我今年

    传递爱情!爱接力!年轻人老师患有急性白血病,善良的人帮助她!我叫张慧玲。我出生于1995年9月6日。我今年...

  3. [新闻]6月30日,中国规模最大,发展最快的高速铁路京沪高铁迎来了开通运营8周年。8年来,京沪高速铁路顺利?

    [新闻]6月30日,中国规模最大,发展最快的高速铁路京沪高铁迎来了开通运营8周年。8年来,京沪高速铁路顺利?...

  4. 6月23日晚,湖南工业职业技术学院党校举办第70届和第71届党员创业培训班,举办“青年心灵党,骄傲党”,庆?

    6月23日晚,湖南工业职业技术学院党校举办第70届和第71届党员创业培训班,举办“青年心灵党,骄傲党”,庆?...

  5. 6月23日晚,湖南工业职业技术学院党校举办第70届和第71届党员创业培训班,举办“青年心灵党,骄傲党”,庆?

    6月23日晚,湖南工业职业技术学院党校举办第70届和第71届党员创业培训班,举办“青年心灵党,骄傲党”,庆?...

  6. 有哪些是你很久以后才能明白的事情?|武汉新与成商学院  很多年前进口柠檬一个卖8.8,在肉包才5毛钱的年?

    有哪些是你很久以后才能明白的事情?|武汉新与成商学院  很多年前进口柠檬一个卖8.8,在肉包才5毛钱的年?...

  7. 6月23日晚,湖南工业职业技术学院党校举办第70届和第71届党员创业培训班,举办“青年心灵党,骄傲党”,庆?

    6月23日晚,湖南工业职业技术学院党校举办第70届和第71届党员创业培训班,举办“青年心灵党,骄傲党”,庆?...

  8. 有哪些是你很久以后才能明白的事情?|武汉新与成商学院  很多年前进口柠檬一个卖8.8,在肉包才5毛钱的年?

    有哪些是你很久以后才能明白的事情?|武汉新与成商学院  很多年前进口柠檬一个卖8.8,在肉包才5毛钱的年?...

  9. 欧盟出版人工智能道德指南,这次不是“吵闹”TheVerge所有者:欧盟委员会]欧盟(EU)最近发布了一套指导方?

    欧盟出版人工智能道德指南,这次不是“吵闹”TheVerge所有者:欧盟委员会]欧盟(EU)最近发布了一套指导方?...

  10. 6月23日晚,湖南工业职业技术学院党校举办第70届和第71届党员创业培训班,举办“青年心灵党,骄傲党”,庆?

    6月23日晚,湖南工业职业技术学院党校举办第70届和第71届党员创业培训班,举办“青年心灵党,骄傲党”,庆?...

日期归档
友情链接