请选择 进入手机版 | 继续访问电脑版
 找回密码
 立即注册

扫一扫,登录网站

首页 自媒体 查看内容
  • 242
  • 0
  • 分享到

论文速读:理解强AI的恐惧与希望的四个维度

2019-2-24 10:32

来源: chaoscruiser

最新的”Nature“子刊中有一篇短文,值得一读。读懂了这篇,以后再和别人聊起强AI,或者看到科幻电影中的人工智能,就能够有条理有逻辑的去论述这究竟是在讨论哪个维度的问题。

这篇文章总结了300多篇和AI有关的电影,及科幻小说,以及非虚构作品,例如Nick Bostrom的《超级智能》和雷·库兹韦尔的《如何创造思维》中对机器智能崛起带给人的挑战与机遇。弄清楚大众对AI的认知,至少有3个意义,一是对AI的开发者和产品经理,通过认清大众对机器智能的期待,可以开发适销对路的产品;二是大众的认知会决定哪些AI的应用能够被接受;三是对AI的监管力度与方向,也受到大众认识的影响。


文中总结的四个维度分别是:

1)永生与非人(Immortality VS inhumanity)

2)舒适与取代(Ease versus obsolescence)

3)同化与异化(Gratification versus alienation)

4)统治与反抗(Dominance versus uprising)



第一个维度关系到我们对自身的定义。通过技术让人能够长生不老,或者将记忆与思想永久的保存下来,是人自古以来的梦想。在很多AI相关的影片中,都有相关的描述。但人们也会担心那个永生的东西不再具有人性,或者变得不那么像人。AI技术在医学上的应用,使得人们能够离永生的梦想更近一步,而将AI用在脑机接口,或者用机械来增强大脑,最终做到将人的记忆思想外部化,则会带来AI让人变得非人化的恐惧。


第二个维度关系到我们和工作的关系。机械的应用带给人舒适,让人有更多的空闲。但会思考的机器则会让人担心自己变得无用而被取代。这是距离我们日常生活最近的一个维度,但也是最需要想象力的一个维度。不止是失去的工作岗位,如果不是电影”机器人总动员“,人们无法想象无所事事的生活对人性本身意味着什么。所以说舒适的反面是被安排好的无用。


第三个维度关系着人与人之间的关系会随着AI怎样变化。AI让我们的人际关系是疏远还是亲密,当AI化身为看起来有感情的机器人,我们该怎样对待他们,是像”西部世界“中那样,在机器人身上释放自己人性中恶的一面,还是像”机械姬“中展示的,AI赚取了人类的同情后反而伤害了人类。所谓的异化,不是指的机器,而是我们作为人,是否会随着机器的普及,让自己变得缺少同情心与共情的能力。而同化是说我们如何让我们设计出的机器能够和大脑感性的一面更加契合。


第四个维度关系着我们与机器的关系。会思考的机器会不会一直听命于人类,从2001太空漫游起,到星球大战,到终结者,都在讨论这个问题。即使我们将阿西莫夫的机器人三原则执行的严丝合缝,我们还是担心我们一条错误的指令,让机器错误的执行而毁灭了人类自身。例如《生命3.0》这本书就担心让机器做出最多的订书针,会让机器将整个地球拆了炼铁。


总结了文章的观点,我觉得还缺一个维度,就是AI会如何影响我们和创新的关系。当前的AI已经可以说具有了想象力与创造力,例如风格迁移模拟不同艺术家风格拼凑出的画,使用RNN做出的诗,而Alpha Go下的棋,也是人类棋手看不出套路的全新走法。AI的引入会引爆还是熄灭人类创新的进程,会怎样改变教育的效率与公平性,是AI带给人类社会影响最深远,也是最迫切的机遇和挑战。


人类作为万物之灵,不止在于创造了,还在于其心智中的无用之大用,比如认为人生有比利益优化更重要的意义,能感受得到伟大艺术家给人传递的震撼。这是人类区别于机器的更基本的特征,不是常识,心智理论或者信息整合等具体的能力,而是一种一旦说出来就没意思的那点意思。就像机器能在高考中回答出李白诗词的中心思想,却无法像人类那样体会到李白诗歌带来的震撼,并因此诞生出新的文章。


创新这理应该被关注的第五个维度,在过去的文学与非虚构写作中,由于人们低估了AI的发展的可能性(人们无法想象有创意的机器,直到一个新算法让人无法在根据是否有创造力来区分人与机器),从而没有被重视,最终导致没有出现在该论文中。而这反映了向后看的回溯式总结要面临的问题,即对新出现的问题无法意识到其重要性。


如果读到这里还觉得意犹未尽,推荐你读读哲学博士张小星写的俩篇文:

放开那只机械姬——人工智能中的意识与伦理 上

放开那只机械姬——人工智能中的意识与伦理 下

更多的相关主题讨论,请点击阅读

生命3.0-在亿年的尺度下审视生命的演进

人的价值在于提问-读《Human are underrated》


附录:原文英语摘要


This paper categorizes some of the fundamental hopes and fears expressed in imaginings of artificial intelligence (AI), based on a survey of 300 fictional and non-fictional works. The categories are structured into four dichotomies, each comprising a hope and a parallel fear, mediated by the notion of control. These are: the hope for much longer lives (‘immortality’) and the fear of losing one’s identity (‘inhumanity’); the hope for a life free of work (‘ease’), and the fear of becoming redundant (‘obsolescence’); the hope that AI can fulfil one’s desires (‘gratification’), alongside the fear that humans will become redundant to each other (‘alienation’); and the hope that AI offers power over others (‘dominance’), with the fear that it will turn against us (‘uprising’). This Perspective further argues that these perceptions of AI’s possibilities, which may be quite detached from the reality of the technology, can influence how it is developed, deployed and regulated.



版权申明:本内容来自于互联网,属第三方汇集推荐平台。本文的版权归原作者所有,文章言论不代表链门户的观点,链门户不承担任何法律责任。如有侵权请联系QQ:3341927519进行反馈。
相关新闻
发表评论

请先 注册/登录 后参与评论

    回顶部