】 【打 印】 
专家热议建立人工智能伦理与治理网络
http://www.CRNTT.com   2019-05-23 00:19:14


由太和智库举办的“建立中国人工智能伦理与治理网络”北京研讨会21日在京举行(中评社 徐梦溪摄)
  中评社北京5月23日电(记者 徐梦溪)由太和智库举办的“建立中国人工智能伦理与治理网络”北京研讨会21日在京举行。会议邀请到来自中科院、亚马逊、微软、北京大学、牛津大学、耶鲁大学、剑桥大学、香港科技大学等学术机构及企业专家学者,共同探讨人工智能发展带来的风险与挑战,建言治理办法。太和智库欧洲中心主任、高级研究员托斯登·耶里尼赫主持会议。

  耶鲁大学生物伦理学中心科技与伦理学科主任温德尔·瓦拉赫做主旨演讲表示,人工智能的伦理关系到实现人类社会的利益最大化利益和风险最小化,关系到我们实现价值以及确定差异的优先级别。我们需要建立一种新常态,但一些能达成共识的部分到原则的执行方面还没有起步。我们需要开发新标准、新的政策,需要了解什么时候透明度更重要,什么时候没有那么重要。人工智能是好的技术,基本在任何领域都可以使用,我们需要保证这个技术不仅利润最大化,不仅成为商业工具,而是实现人类的福祉。 

  清华大学苏世民书院院长薛澜表示,人工智能发展中,中国的优势在于国家重视鼓励科研,人才资本,已经确定优先领域,以及在社会和伦理方面已经产生了相关的意识;不足方面在于,从基础研究的角度来说,特别是在算法研究方面,包括软硬件在产和研之间有一些脱钩,以及很多媒体报道和社会存在担忧。他在谈到人工智能的国家竞争时表示,中国政府提出了人工智能发展的国家研发战略,但从来没有考虑过国家竞赛。一直以来中国设计战略、规划、计划的目标有宏大的特点,容易被人们误认为是一种竞赛机制。

  中国科学院自动化研究所、类脑智能研究中心副主任曾毅表示,人工智能对人的危险性没有想象那样高,人工智能中,没有自我的智能才是最危险的。为此,可以建立更加具有自我意识、更安全、更具道德的人工智能,作为我们建立具有更加先进的意识功能的第一步。现在我们制定了很多国家标准、道德方面的指南、技术指南,也有行业介入,可以建立更有互动性和适应度的人工智能伦理模式。

  香港中文大学教授蒙美玲关注到人工智能与人类共存的问题。她认为,人工智能可以超越人类,解决很多公式化的问题或者预先确定的流程。未来要加强人类和人工智能共存的三个领域,分别是让人类确定人工智能的新能力;人工与智能在复杂决策中的合作;人类与人工智能就知识创新的合作。

  微软亚洲研究院副院长潘天佑表示,作为企业,微软相信教育的力量可以让技术变得越来越强大。我们希望人工智能不是被一小批人控制,而是每个人都可以创建。伴随人工智能的发展,社会会经历痛苦的转型,人工智能的民主化首先就体现在教育领域,因此,微软过去六年在北京所做的工作就是和教育部合作。我们希望能够一起重新设计一个大学课程“计算机基本教学”,教会学生如何逻辑化地思维和通过简单的计算机工具帮助人们来实现这一点。

  谷歌大中华区公共政策与政府事务经理张宏表示,谷歌十分关注人工智能的发展,我们认为所有的人工智能都必须是安全开发的,人工智能技术以及研究的过程中应该在有效的环境下进行检测。人工智能应该以人为本,同时在它开发的过程中,要对它每一个环节进行控制。我们希望在开发人工智能时,各利益相关方都要承担社会责任,因此监管部门可以发挥重要作用,比如加强公众对人工智能的信心,从而控制负面影响,进行有效开发。

  亚马逊云首席云计算技术顾问费良宏列举了人工智能的十大风险,分别是对劳动力市场的影响,缺乏透明度,有偏见的算法,行为的责任,授权的边界,在军事方面的出现,互联网科技公司的巨大影响力,人工的超智能,一切都不可靠了,以及黑客算法。人类有能力对人工智能加以约束,问题在于,谁来让人工智能学会制定这些原则,这是需要我们思考的问题。

  SAP中国研究院战略合作伙伴与创新总监薛建敏表示,SAP关注的是通过给客户提供的商业软件让世界变得更美好。SAP一方面提供软件给一些公司,从而提高生产力,同时希望给我们自己带来更加优越的市场优势。此外,人工智能很可能会把一些重复性的工作替代掉,同时也会创造一些新的工作机会,所以,教育和学校将会是第二支柱,来增强人类的概念。我们也在促进一些道德方面的设计,不只是考虑收益,从方法的角度共同与学术界合作,创新商业模式。

  世界经济论坛第四次工业革命中心项目主任丹尼尔·卡里米指出,人工智能不是第四次工业革命的唯一成果,但是最重要的。技术要么是积极的,要么是消极的,从来不是中性的,人工智能更是这样的。几年前世界经济论坛曾经讨论过这个话题,当时通过利益相关方委员会的讨论提出了这样的倡议,我们的利益相关方网络的方式是世界一起解决问题。我们希望和全球的政府协作,保证他们能把伦理、价值以及其他以人为本的方法纳入到整个人工智能政策中。

  剑桥大学未来智能中心研究院刘洋指出,剑桥未来智能中心主要研究新技术伦理方面的影响,尤其是人工智能。中心主要从九个项目开始起步,通过三年的快速发展,现在基本上有5个项目、19个总体项目,覆盖哲学研究、社会科学研究、硬核计算机科学研究等。现在中心开发了一个新的项目,希望让剑桥作为一个平台,把中国的声音带给世界各国。

  香港科技大学计算机科学与工程系教授吴德恺表示,近年人们做了很多研究,但我们离真正的目标还差得很远,也就是让不同的文化之间认识到我们的一些普世性的价值。在人工智能伦理中,描述性的理论最重要,也就是没有偏见、没有媒体立场的理论。现在的社会不是乌托邦,不同的媒体会有自己的立场,所以我们需要明确地描述它的概念、文化背景,相互了解之后,才能够进行相互的学习。

  中国人民大学国际关系学院教授王义桅表示,人类文化比人工智能发展的速度更慢,我们要思考如何建立一个政治系统,更多地让政府控制人工智能。他指出,中国的方法是属于传统的丝绸之路的方法:互相的学习,另外一种方法是像马可波罗一样,向不同的城市、国家、不同的方向发展。中国的文化更强调“和谐”,人工智能非常容易实现这样的目标。

扫描二维码访问中评网移动版 】 【打 印扫描二维码访问中评社微信