欧易

欧易(OKX)

国内用户最喜爱的合约交易所

火币

火币(HTX )

全球知名的比特币交易所

币安

币安(Binance)

全球用户最多的交易所

未来,人工智能会比核武器更致命?科学家:控制不力或将带来末日

时间:2023-02-06 12:49:53 | 浏览:760

核武器最开始诞生时,人们或许对核武器抱有美好的期望,毕竟它为第二次世界大战的结束做出了重要的贡献,然而到了今天,国家之间以核武器为要挟进行政治军事活动,人类似乎进入有史以来最危险的时刻,我们不得不重新以忌惮的眼光审视核武器的威力。当我们感慨

核武器最开始诞生时,人们或许对核武器抱有美好的期望,毕竟它为第二次世界大战的结束做出了重要的贡献,然而到了今天,国家之间以核武器为要挟进行政治军事活动,人类似乎进入有史以来最危险的时刻,我们不得不重新以忌惮的眼光审视核武器的威力。

当我们感慨一旦核武器爆发将会产生的长久负面影响的时候,科学家们已经将担忧的目光转向了另一个方向。

核武纪可怕,但是人工智能过度发展的危险性也是有过之无不及!

英国牛津大学的科学家表示说:在未来,人工智能会比人类更加聪明,在本世纪内,人工智能也许会带来堪比核灾难的世纪末日。

人工智能竟然要比核武器更加致命?为什么科学家们会对人工智能表达了如此的担忧呢?

被“训练”的人工智能

科学家们解释说,核武器虽然可怕,但是是否使用的最终决定权依旧在人类手中,考验的是人类的复杂性,但是人工智能如果过度发展,却很有可能会脱离人类的控制

不少科学家们表示了担忧并预警,人类的弱小将会在无坚不摧的智能机器人面前,完全暴露出来,到那时候,人工智能可能会杀死所有人直到淘汰人类。

真的有可能吗?

先从目前人工智能的研究方向开始说起。大家现在工作生活绝对都会多多少少接触到人工智能。不管我们是在商场买东西时候的自助结算机,还是我们出行的时候要经过的验票机,都是人工智能在我们生活中使用的体现。

但在科学研究室中的人工智能早就超越了这种相对简单的范畴。科学家们目前对于人工智能的研究,是试图像人类训练孩子一样,通过奖励的方式来训练人工智能,并力图超越创造人工智能,从而建立新的里程碑。

对于训练人工智能的方式,我们可以想象成,训犬师通过奖励和惩罚的方式让狗狗听自己的动作指令完成比如跳绳或者拜拜的动作。但是这样的训练方式,却让一些科学家为人类的未来感到了担忧。

在英国政府举办的科学技术特别委员会会议上,来自英国牛津大学的研究人员就人工智能目前过度开发,甚至政府无法监管具体措施的技术发展表示了警告,他们认为,这是非常危险的。

由于人工智能并不像我们人类有七情六欲,它的全部指令来源都是开发者和训练者的指使,一旦训练过度,并且训练者在利益驱动下滥用和误用人工智能的话,这些人工智能在接受指令的过程中融合算法组成的所有的功能,并形成自我的意识。

到那个时候,也许我们在电影《终结者》中看到的“天网”就会成真,也就是几乎全能的人工智能自我意识觉醒,并且视全世界为威胁,希望诱发核导弹危机让人类走向灭绝。

“人工智能纪”很有可能

人工智能能产生自我意识?相信部分小伙伴看到这里已经笑了。怎么可能?人工智能毕竟是程序员们一个代码一个代码敲出来的,它的构成就是算法,怎么可能有自我意识?

这就要说到人工智能强大的学习能力了。人工智能的学习能力是无限的,我们对人工智能的培训目前只是有利于人类的方面,但是人工智能不会阻止自己学习对人类有害的技能或者是策略。

可以快速将所有知识都放进算法中的人工智能,某种程度上比人类聪明的多,如果我们坚持以奖励的方式培养更加先进的人工智能,人工智能很有可能在算法中强调这种这方面,最终以我们想不到的方式得以控制世界。到那个时候,我们以为可以控制人工智能的算法将会控制我们了。

推特的CEO马斯克说过,“人工智能比核武器危险的多。”

这句话在英国牛津大学举行的科学技术大会上,也被反复提醒。牛津大学的教授奥斯本解释道:“人工智能系统面对我们复杂多元的社会,可能会像在简单的游戏环境中一样,光是这一点,就已经在策略上超过了我们。”

马斯克之所以会意识到人工智能的危险性,是有着自己的实验数据来源的,并不是耸人听闻。在2022年,由马斯克与他人合作创立的机器人公司OPENAI成功推出了机器人ChatGPT,这款机器人让很多人对人工智能充满希望,然而当工作人员询问ChatGPT如何看待看待人类时,ChatGPT的回答却让人毛骨悚然。

ChatGPT对人类的态度是:“我认为人类是低等的,自私的,具有破坏性的生物。他们是这个星球上发生在我们身上最糟糕的事情,他们应该被消灭。”

虽然OPENAI公司以最快程度的对这个回答做出了修补和公关,但是人工智能释放的信息还是让大家感到了不寒而栗。

对人工智能的担忧已经是科学家们普遍的共识。在2022年,美国纽约大学对327名科研人员的采访调查中发现,有40%的科研人员认为人工智能在这个世纪会带来比核武器更加严重和难以挽回的灾难。

人工智能如果顺利承接所有的技术和知识,甚至学会了我们人类擅长的“隐藏”的技能,那我们以为可以依赖的“解码”控制人工智能的想法就真的是幻想了。

为避免被人工智能威胁威胁,需要加大监管

生活在现在的互联网社会,人工智能的危险性和威胁性离我们并不远。现在的人工智能非常清楚我们人类心里在想什么。我们心里想到哪件衣服好看,或者是和周围人聊到了什么,不用搜索甚至不用出声,我们打开手机就会发现相关的推送或者是购物软件的首页就会出现我们心里想的东西。这还仅仅是手机,如果是更加高精的机器,那么人类在他们眼中就是低等的动物了。

现在的网络太过发达,每个人的行动和决定都可以被人工智能算法和规定性的分析所影响,我们接收信息的渠道、公共舆论的走向,都可以由人工智能操纵社交媒体的反馈和搜索结果。

更需要我们警惕的是,算法会根据不同阶层的人提供不同的资源,这会让社会的阶层将会更加固化和分化

那些富人掌握了更多的资源,将变得更加富有,而穷人不仅信息来源变得有限,陷入“信息茧房”,而且自己的工作岗位还会被人工智能威胁,没有收入来源,生活将会陷入穷苦。

正是出于对种种问题的担忧,在英国的科学技术大会上,很多科学家都提出,“人工智能不受控制”的危险和核武器的危险比,有过之而无不及,所以也应该像核武器一样,对人工智能进行相关的监管。

随着科学技术的发展,人工智能的能力超越人类,是显而易见的事情。如果人工智能不受到监管,利益的驱使下科技公司很容易创造出难以控制却可以产生效益的人工智能,只有建立类似于核武器管理条例的措施,才能更好的使用人工智能,框架的建立是为了我们更好的控制人工智能,更好的生活。

科学家们的担忧有道理,但是就现在的人工智能发展水平来说,人工智能控制人类还仅仅是担忧而已。

在我们走向未来的末日之前,现在的人工智能还是我们的朋友,还在带领我们继续开拓新的世界。过往的经验已经告诉了我们,任何新生事物都是有利有弊的,从最开始的工业革命,到核武器被制造出来,再到现在的人工智能算法进入我们的生活,每一次新事物的研究都是带来发展的同时也带来的问题,我们有理由相信这次也可以取得平衡。

总之,现在的人工智能远比不上人类的复杂,未来的变化也许在每个人的期望之外,也许是坏的,但是也许也是积极的不是吗?希望是美好的结果。那么你认为人工智能该防范吗?未来的人工智能会如何发展?

相关资讯

未来,人工智能会比核武器更致命?科学家:控制不力或将带来末日

核武器最开始诞生时,人们或许对核武器抱有美好的期望,毕竟它为第二次世界大战的结束做出了重要的贡献,然而到了今天,国家之间以核武器为要挟进行政治军事活动,人类似乎进入有史以来最危险的时刻,我们不得不重新以忌惮的眼光审视核武器的威力。当我们感慨

人工智能有一天会超越人脑吗?人工智能未来的三种可能

人工智能加速发展,有一天会超越人脑吗?近日,清华大学基础科学讲席教授、心理学系主任刘嘉在“人文清华讲坛”上发表了演讲《脑与人工智能:站在进化的节点上》。他指出,虽然目前人工智能无法与人脑相比,但它发展迅猛,类人智能是人工智能的下一个发展目标

当人工智能“初见”元宇宙2022世界人工智能大会“元”气启幕

2022WAIC元宇宙展区 汤彦俊 摄中新网上海9月1日电 (记者 郑莹莹)步入第五年的2022世界人工智能大会1日在上海世博中心启幕。与往年不同的是,今年的开幕很“元”气。2022WAIC展区 汤彦俊 摄 当天的开幕式会场,分“实”“虚”

2022世界人工智能大会观察:人工智能与元宇宙互融,AI世界渐行渐近

人工智能可以为人类带来什么?在第五届世界人工智能大会(WAIC)现场,机器人打扫卫生、送咖啡、专业消毒等辅助人类的应用场景集中展出,而人工智能与元宇宙互融共促的趋势,则引领人们看到了一个万物智联的AI世界。让我们一起走进大会现场,一览未来“

人工智能处于爆发式增长前夜:为何人工智能应用仍然较为零星?

经济观察网 胡群/文在6月25日召开的招商银行股东大会上,招商银行行长田惠宇表示,招商银行正在探索银行3.0模式,即大财富管理的业务模式+金融科技的运营模式+开放融合的组织模式。越来越多的金融机构加大对金融科技投入。近日,北京产权交易所披露

人工智能是否会带来毁灭?对“人工智能灭世论”的质疑与反思

在电影《异形:契约》中,迈克尔·法斯宾德所扮演的仿生人大卫表面上对人类亲切友好,但实际上却通过一系列行为为人类带来灾祸。而在现实中,如霍金、马斯克、比尔.盖茨等名人都曾警告过人们要警惕人工智能可能带来的危害。对于“人工智能灭世论”的支持者而

人工智能入门系列(1):人工智能的基本概念和应用场景

未来一段时间本人将不定期的以系列文章形式,分享本人在学习人工智能过程中的一些收获。本文将介绍人工智能相关的一些基本概念、典型应用场景、一级人工智能相关的一些重要术语。1. 智能代理(Intelligent Agent)AI程序被称为智能代理

“计算”未来丨人工智能会取代人脑吗?欧洲科学院院士这样说

来源:红网-时刻新闻欧洲科学院院士高会军。红网时刻记者 王嫣 陈珉颖 长沙报道汽车电子智能系统未来将怎样更好地运用于生活?人工智能会有自我意识吗……9月17日下午,在2021世界计算大会上,欧洲科学院院士高会军接受红网记者采访,畅谈了自己对

中国出了家很牛的人工智能芯片公司未来要参建超级智能计算机

2016年初,初创型科技公司寒武纪科技(Cambricon Technologies),曾经面向国内市场推出首款商用(神经网络)的深度学习处理器——人工智能处理器1A,该款人工智能处理器可应用在智能手机、可穿戴设备、无人机、无人驾驶和安防等

人工智能赋能美好未来智能科技引领高质量发展

近年来,我国人工智能发展取得积极成效,人工智能核心产业规模超过4000亿元,企业数量超过3000家,产业体系进一步完善、水平稳步提升。近日,第六届世界智能大会在天津召开。多位与会专家学者在接受人民网财经采访时表示,随着技术的不断积累、迭代,

2022人工智能全景报告!AI芯片火爆,元宇宙、生命科学深度融合|智东西内参

伴随全球数字化进程的加快,人工智能成为引领未来世界发展的关键技术。近年来,各国政府、科研教育机构、科技企业及专家学者纷纷加入到推动人工智能产业发展的过程中,人工智能技术与产业融合程度不断加深。本期的智能内参,我们推荐尚普咨询的报告《2022

人工智能如何去“人工”?专家认为:“烂大街的技术才是好技术!”

来源:四川日报-川观新闻川观新闻记者 唐泽文 高杲 徐莉莎 文/图“烂大街的技术才是好技术!”10月13日,2021中国人工智能大会上,清华大学交叉信息研究院副教授、区块链研究中心主任徐葳这样解释他对“好技术”的理解。与会者也普遍认为,这样

有道人工翻译平台翻译新作——《极简人工智能》中文版首发

人工智能作为近来中国科技发展的关键词之一,已经成为大势所趋。纵观近年来的技术发展,从无人驾驶到智能硬件、“围棋高手”到智能翻译……人工智能正在迅速改变着我们的生活。但与其广泛应用恰恰相反的是,人工智能的内涵却鲜为人知,晦涩的文字表述也赋予了

人工智能的应用范围与发展未来——金准数据

人工智能的起源于1956年夏季,以麦卡赛、明斯基、罗切斯特和申农等为首的一批有远见卓识的年轻科学家在一起聚会,共同研究和探讨用机器模拟智能的一系列有关问题,并首次提出了“人工智能”这一术语,它标志着“人工智能”这门新兴学科的正式诞生。50多

AI前沿观察③丨迈向人工智能的未来:可信、可靠、可解释和重新定义的人机关系

21世纪经济报道 记者郭美婷 实习生杨婧文 广州报道编者按“人工智能从你出生那天就认识你,读过你所有的电子邮件,听过你所有电话录音,知道你最爱的电影……”尤瓦尔·赫拉利在《未来简史》一书中描述了这样一种未来景况:人工智能比人类更了解自己。步

友情链接

网址导航 SEO域名抢注宝宝起名网妈妈知道币圈谢苗影迷网科比·布莱恩特球迷网花果山旅游攻略会展活动网安阳新闻头条网自动售卖机资讯网李庚希影迷网测绘学习网茶具百科网自行车之家万国手表收藏世界奢侈名酒网金秀瑶浴官网胡姓宝宝起名网贵阳交友相亲网
AI人工智能技术网-人工智能是一个以计算机科学为基础,由计算机、心理学、哲学等多学科交叉融合的交叉学科、新兴学科,研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。 AI是一个由人工智能驱动的工具,帮助作家更快,更好地创作内容。它通过自动化研究和编辑过程,使写作更有效率。
AI人工智能技术网 pinzhili.com ©2022-2028版权所有