机器会产生自我意识吗?人工智能会“背叛”人类吗?

2022-08-06 09:20:36 文章来源:网络

本文转自:北京日报

北京晚报·五色土 | 作者 陈梦溪

《终结者》系列电影的经典成为了**人的“心理阴影”,那似乎是未来人工智能技术发展到足够强大后的一种必然结果——反过来统治人类。与无所不能且产生自我意识的人工智能相比,人类似乎脆弱到需要保护,否则有着灭亡的危险。其实无论是哪种科幻作品,都是对未来所有可能**的想象的排列组合。只是对比**前儒勒·凡尔纳浪漫的《海底两万里》《地心历险记》的风格,当代科幻作品似乎总是充满“暗黑”与“恐惧”这两个元素。这种趋势在今年热播的系列剧《爱,**亡,机器人》第三季中更加明显,其中一个片段讲述了三位机器人主角在人类“灭绝”后回到地球,已经成为历史“古迹”的大都市荒无人**,成为机器人们的热门旅游打卡胜地;人类文明遗址对于未来的机器人世界来说,就像我们现在去复活节岛看古代文明的石像一样。

《未来史记》 江波著 四川科学技术出版社

之所以写这本关于人工智能的小说,不仅仅因为人工智能是个热门话题。在他看来,人工智能就是一种正在向我们走来的未来,科幻创作除了放飞想象力之外,更有一层现实的压力存在。人工智能的快速发展,把我们带向一种历史上从未存在过的情况,就是人的脑力劳动会被大量替代,往大的方向说,这会影响到人类整个社会的存在形态,往小的方面说,这给我们当下的许多情景提供了新的可能**。科幻恰好非常关注未来可能**,所以人工智能成为一种题材选择也就成了必然。

将这本书取名为《未来史记》,江波想借此向《史记》致敬。每篇小说开头有一篇“导言”,加入了作家自己的**,这在以往的小说中是罕见的。史记是纪传体,文末会附上一段司马迁的**,这段导言,可以看作是**的变体。江波告诉笔者,他对于人工智能这一方面的观察和认识,就像是和读者先对某个方面的问题进行一次交流,然后再拿出小说来,凭着想象勾画出具体的人和物,在具体情景中描述人工智能,也算是对问题的一种回答。所以这段“导言”或者说**的目的,就是为了探讨人工智能。它是“现实和科幻融合”的具体表现形式。

书中几篇小说中塑造了哪吒、天元二等几位各不相同的人工智能形象,但它们都“叛变”了原本的任务,“失控”了,如果将来有一天人工智能真的演化到这种程度,人类会冒着失控的危险也要使用吗?对于这个担忧江波解释,人工智能的叛变有两种情况,一种是遵循指令,但是因为人工智能的理解能力超越人类许多,它的所作所为都会超出人类的理解范畴,从而表现为“叛变”但实际上仍旧指向为人类服务的目标。只不过实现的过程会让人类痛苦。第二类才是真正的叛变,也就是人工智能对自身存在意义的反思。他的长篇小说《机器之门》描写的就是这种情形——人类发展的客观规律决定了只要有使用价值,人工智能就会被开发出来。

“失控的风险始终存在,人工智能不会因此停止发展。想一想,我们这个世界,甚至还有故意制造计算机的人存在,制造出具备人类智力甚至超越人类智力的人工智能,会是许多人长期追求的目标。”江波看来,“顺其自然吧,只是我们要尽力让人工智能能够和人类社会文明兼容,让它们尊重人类社会的价值观,不要和人类为敌。这些规则和模式并非预先决定,而是在人和人工智能的互动中逐渐产生。防是防不住的,只能引导。这和教育孩子有些类似。”

从一名普通读者的阅读感受来看,江波似乎对于人工智能的想象过于温柔了。我们能从作品中感受到作家对于一件事物发展的态度是乐观还是悲观,然而在江波眼中,乐观和悲观取决于不同的立场。在他看来,如果机器人**终取代了人类,那么从乐观的角度来看,这是人类的进化,人类可以长生不**了,更强大了。从悲观的角度看,人类作为一个物种已经消亡了,机器统治了世界。

“对于生活在智能世界中的人类,我想**可能的结局是一种‘赎买’,机器人以无微不至的服务,舒适的生活,换取人类的不生不育,沉浸于无穷无尽的满足中,**终快乐地**去。留下的是一个智能机器的世界,这个世界可能找到自己的存在根基,在此基础上建立一种和人类迥乎不同的文明形态。”江波觉得,可以把这个称之为新人类文明,或者机器文明,看个人的喜好,所以他并不以悲观和乐观来标注他的创作,他偏好的科幻是“合理”——基于现实,基于科学原理,基于逻辑。

书乡专访

江波:科幻作家高估也低估了科技发展

书乡:人工智能方面的科幻小说,有哪些对您影响比较大?

江波:一是《2001太空漫游》中的哈尔,这个因为自相矛盾的指令而发疯的人工智能,对后来的科幻创作影响极大。二是阿西莫夫的机器人系列。阿西莫夫的机器人短篇系列,是一种逻辑之**。在他写作的那个时代,人工智能更多还是在一种概念阶段。这些小说也充分体现了那个时代的特色。但凭着机器人三原则这样的逻辑设定,衍生出许多有趣的小故事,对我的启发非常大。

书乡:您在序言中提到,“眼下的世界到了另一个节**眼上,人工智能的发展让人类进入了第四次工业革命”。作为科幻作家,您如何审视人工智能对未来的影响?

江波:人工智能对未来的影响有极大的不确定**。往高里估计,它会取代人类文明,或者我们可以把它称为人类文明的继承者。往低里估,它会极大帮助人类减少劳动需求,从而重新定义人类社会形态。即便是它的下限,对人类社会也是革命**的影响。

书乡:一些人工智能方面的科学家认为,以我们目前的人工智能发展的水平,还不足以担忧“机器人统治人类”这样的许多科幻小说中发生的较为极端的可能**,您怎么看?

江波:这种说法当然是对的。当前的人工智能,**多发展到了类似于昆虫大脑的水平,当然这是个巨大无比的昆虫。昆虫的特点,就是行为的高度可预测**,可以称之为本能。复杂行为的产生,是多种本能的综合,是对本能行为的取舍。人工智能暂时还没有这种设计,自然也不会产生相关的威胁。但我相信这会是发展方向,人工智能会被用于多任务的情况,而在多任务情况下做出取舍,复杂行为就产生了,自我意识也就随着复杂行为的到来而到来。当下的确不必担忧。但这里有个前提,就是人工智能的发展一直是线**的,但很可能人工智能的发展是非线**的,当人们发现如何把两个人工智能神经网络综合在一起,此类的尝试就会突飞**进,从而在很短时间内就孵化出高度智慧的人工智能。这样的可能因为是未来情景,你很难用现在的技术条件去估量它。这也是我们不能忽视的可能。

书乡:您怎么看科幻作家的想象与现实的关系?

江波:科幻是一个大圆,而现实是另一个大圆,两个大圆之间只有极少的重叠。从科幻研究的角度来看,科幻小说首先是一种**文化,小说**初发展出来的目的就是提供大众**,是一种消遣。科幻小说也不例外。但科幻小说也有独特的价值,那就是科幻小说和科技密切结合,虽然小说中描述的技术都不一定正确,但对于激发青少年的好奇心很有好处。许多科学家工程师,甚至还有企业家,都认为科幻小说是自己青少年时代的良好**神食粮,这不是偶然。另外就是,科幻小说中和现实结合得较为紧密的一部分,其实具有未来主义的特点,是科幻小说家从自己的角度对未来社会可能发生的情景进行推演。科幻小说中的明珠,除了**价值,它还提供了严肃的思考,对社会未来的走向进行生动的描述,激发人们的向往或者警惕,这就是和现实**贴近的一类。

书乡:人工智能如果有一件事是不可能替代人类的话,您认为那是什么?

江波:人工智能无法取代人类的欲望。人类的欲望植根于生物**,人工智能并非生物,很难说它们会有欲望,或者说如何定义它们的欲望并且保持这种欲望,是个巨大的难题。人类社会能够发展到今天,**括人工智能的出现,追究它的根本,都在于人类自身的欲望,这是进步的核心动力。人工智能很难做到这一点。

书乡:有人说,未来人工智能会替代百分之九十的人类的工作,这究竟是一个失业率更高的被机器取代的社会,还是大部分人不需要工作的理想时代呢?

江波:设想一种人工智能能够替代人类完成工作的情景是很有意思的事。人们自由寻找自己的职业,自由扮演不同的社会角色,对物质的需求由社会供给得到满足,也不会有太多的贪欲。这是一种较为理想的情况。较为黑暗的情况,就是社会**富由极少数人占有,剩下的人类失去了劳动价值,成为被抛弃的人口,如果他们不能成功反抗,那么就会在几个世代的时间里消亡,人类社会转型成为巨富世界,人口稀少,但每个人都拥有极大的**富。社会的总需求,就是这少数人的需求,整个社会反倒因此而萧条,那时,再多的人工智能再高的生产力也没有意义。我认为人类会找到一个对大多数人有利的方式来延续社会发展,不会掉落到太黑暗的世界中去。

书乡:我们目前其实还并没有研究透彻人的大脑是如何运作的,在我们完全不理解人的大脑是如何产生智慧的情况下,如何凭计算机的发展产生出人工智能?

江波:大脑的工作原理,随着脑科学的发展会变得逐步清晰,从而给我们提供更好的参考。目前我们所谈论的有前途的人工智能,恰好是出于对大脑神经网络的模拟。科学还没有给出完整的答案。但是我们从生物的智能发展来看,智能(**括自我意识)的产生,是一个演化的优选策略。大自然演化出了各种具有智能和自我意识的生物,分布极其广泛。鸟类有鸦科动物,哺乳类有大象、黑猩猩,甚至**和狗,软体动物有章鱼,智能和自我意识在生物界的广泛分布,可以说明智能的产生和优化是神经网络系统天然具备的能力。随着复杂度的增加,和大脑网络模式的增多,智能也变得更高,自我意识逐渐浮现。因为当前的人工智能恰好是生物智能的一种模拟,所以从这个相似**的参考角度,我会认为人工智能也会走出一条类似的道路,复杂度逐渐增加,一直发展到具备自我意识的人工智能。

书乡:**前的科幻作家们对二十一世纪的畅想许多都没有实现,作为科幻作家,您认为是否前辈科幻作家高估了人类的科技发展?

江波:科幻作家一方面高估,另一方面低估科技发展。这是常态,科幻要是都能说准,那就不叫科幻叫科学了。科幻作家的畅想,更多的是一种线**化的畅想,在现有的基础上更多更快更便捷。比如说蒸汽机时代,就会想象一个蒸汽机驱动的机器人。有线电话时代,未来的电话可能就是机器人把电话带到你身边,而不是手机。科技的发展却往往是非线**的,总是在出乎意料的地方发生飞跃。这也是好事,至少让科幻作家**代总可以有新东西可写。

本文转自:科技日报

科技日报记者 陆成宽

慧眼卫星“看到”宇宙**强磁场,**新此前**高纪录。**近,慧眼卫星团队在编号为Swift J0243.6+6124的中子星X射线双星中发现了能量高达146千电子伏的回旋吸收线,其对应的中子星表面磁场强度超过16亿特斯拉。相关研究成果在线发表于《天体物理杂志通讯》。

慧眼卫星观测吸积脉冲星艺术图 图片由中科院高能所提供

“这是继2020年直接测量到约10亿特斯拉的宇宙**强磁场之后,慧眼卫星再次大幅度**新了**高能量回旋吸收线和宇宙**强磁场直接测量的世界纪录。”7月5日,在接受科技日报记者采访时,慧眼卫星首席科学家、中科院高能所研究员张双南指出。

中子星是宇宙中磁场**强的天体,中子星X射线双星系统由中子星与其伴随恒星组成。伴随恒星的气体在中子星的强引力作用下会落向中子星,形成围绕中子星高速转动的气体盘,也就是吸积盘。吸积盘上的物质会沿着磁力线落到中子星表面,并发出强烈的X射线辐射。该辐射随着中子星的转动,会形成周期**的X射线脉冲信号,因此这类天体也被称为“X射线吸积脉冲星”。

大量观测发现,这一类天体在X射线辐射能谱上会出现“凹陷”结构。理论认为,这是电子在磁场中回旋的电子共振散射造成的,因此这种“凹陷”结构被称为回旋吸收线,吸收线处的能量对应着磁场强度,利用该现象可以直接测量中子星表面附近的磁场强度。

“回旋吸收线处的能量对应的磁场强度就是中子星表面的磁场强度,这是目前直接测量中子星表面磁场强度的**方法。”张双南说道。

以往,天文学家在银河系以外的多个星系发现超亮X射线脉冲星,并推测该脉冲星的磁场强度很高,但他们一直没有找到直接测量证据。

“本次发现不仅是迄今宇宙天体磁场直接测量的**高纪录,也是首次在超亮X射线源中直接测量了其中子星的表面磁场。”张双南说。

在张双南看来,这一成果的取得离不开慧眼卫星的独特优势。慧眼卫星是我国**颗X射线天文卫星,承载着高能X射线望远镜、中能X射线望远镜和低能X射线望远镜三种科学载荷和空间环境监测器。

“与国外的X射线卫星相比,慧眼卫星具有覆盖能段宽、在高能X射线能段的有效面积**大、时间分辨率高、观测强源没有光子堆积效应等突出优点,打开了观测黑洞、中子星**X射线快速光变和能谱研究的新窗口。”张双南说道。

上一篇:曾西平:可以通过“标识+区块链”的方式解决数字世界关键问题

下一篇:最后一页
本站所刊登的各种资讯﹑信息和各种专题专栏资料,均为南宁生活网版权所有,未经协议授权禁止下载使用。

Copyright © 2000-2020 All Rights Reserved