欧易

欧易(OKX)

国内用户最喜爱的合约交易所

火币

火币(HTX )

全球知名的比特币交易所

币安

币安(Binance)

全球用户最多的交易所

瞭望|人工智能可能有自主意识了吗?

时间:2023-02-06 12:48:16 | 浏览:833

参会者在第六届世界智能大会上参观(2022年6月24日摄) 赵子硕摄/本刊大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破,但距离具备自主意识还很远。换言之,即便人工智能可以对人类的语言、表情所传递的情绪作出判断,但这主要

参会者在第六届世界智能大会上参观(2022年6月24日摄) 赵子硕摄/本刊

大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破,但距离具备自主意识还很远。换言之,即便人工智能可以对人类的语言、表情所传递的情绪作出判断,但这主要应用的是自然语言处理、计算机视觉等技术

不同于当前依赖数据学习的技术路线,新一代人工智能强调在没有经过数据学习的情况下,可以通过推理作出合理反应,从而与没有见过、没有学过的事物展开交互

当前人工智能治理面临的最大挑战,是我们没有一套比较成熟的体系来规制其潜在的风险。在发展科技的同时,必须同步发展我们的规制体系

“技术归根结底是由人类来发展和把控的。人类和人工智能的未来,是由人类选择的。”

文 |《瞭望》新闻周刊记者 于雪 魏雨虹

今年6月,美国谷歌公司软件工程师布莱克·勒莫因称语言模型LaMDA出现自我意识。他认为,LaMDA拥有七八岁孩童的智力,并相信LaMDA正在争取自己作为一个人的权利。

LaMDA是谷歌去年发布的一款专门用于对话的语言模型,主要功能是可以与人类交谈。

为佐证观点,勒莫因把自己和LaMDA的聊天记录上传至互联网。随后,谷歌以违反保密协议为由对其停职。谷歌表示,没有任何证据支持勒莫因的观点。

事实上,“AI(人工智能)是否拥有自主意识”一直争议不休。此次谷歌工程师和LaMDA的故事,再次引发讨论。人们想知道:人工智能技术究竟发展到了怎样的阶段?是否真的具备自主意识?其判定依据是什么?未来我们又该以怎样的能力和心态与人工智能和谐共处?

人工智能自主意识之辨

勒莫因认为LaMDA具有意识的原因有三:一是LaMDA以前所未有的方式高效、创造性地使用语言;二是它以与人类相似的方式分享感觉;三是它会表达内省和想象,既会担忧未来,也会追忆过去。

受访专家告诉《瞭望》新闻周刊记者,上述现象仅仅是因为LaMDA所基于的Transformer架构能够联系上下文,进行高精度的人类对话模拟,故能应对人类开放、发散的交谈。

至于人工智能是否已经具备自主意识,判定标准如何,受访专家表示,对人类意识的探索目前仍属于科技前沿,尚未形成统一定义。

清华大学北京信息科学与技术国家研究中心助理研究员郭雨晨说:“我们说人有自主意识,是因为人知道自己在干什么。机器则不一样,你对它输入内容,它只是依照程序设定进行反馈。”

中国社会科学院科学技术哲学研究室主任段伟文认为,一般意义上,人的自我意识是指对自我具备觉知,但如何认识和理解人类意识更多还是一个哲学问题而不是科学问题,这也是很难明确定义人工智能是否具备意识的原因。

被誉为“计算机科学与人工智能之父”的艾伦·图灵,早在1950年就曾提出图灵测试——如果一台机器能够与人类展开对话而不能被辨别出其机器身份,那么可以称这台机器具有智能。

这一设想随后被具化为,如果有超过30%参与测试的人以为自己在和人说话而非计算机,就可以认为“机器会思考”。

当前随着技术的发展,已经有越来越多的机器能够通过图灵测试。

但清华大学人工智能国际治理研究院副院长梁正告诉《瞭望》新闻周刊记者,图灵测试只能证明机器在表象上可以做到让人无法分辨它与人类的不同,却不能证明机器能够思考,更不能证明机器具备自主意识。

段伟文表示,目前大体有两种方式判定人工智能是否具有自主意识,一种以人类意识为参照,另一种则试图对机器意识进行全新定义。

若以人类意识为参照,要观察机器能否像人一样整合信息。“比如你在阳光下,坐在河边的椅子上看书,有树影落在脸上,有风吹来,它们会带给你一种整体的愉悦感。而对机器来说,阳光、河流、椅子等,是分散的单一元素。”段伟文说。

不仅如此,段伟文说,还要观察机器能否像人一样将单一事件放在全局中思考,作出符合全局利益的决策。

若跳出人类构建自主意识的范式,对机器意识进行重新定义,则需要明白意识的本质是什么。

段伟文告诉记者,有理论认为如果机器与机器之间形成了灵活、独立的交互,则可以称机器具备意识。也有理论认为,可以不追究机器的内心,仅仅把机器当作行为体,从机器的行为表现判断它是否理解所做事情的意义。“比如机器人看到人类喝咖啡后很精神,下次当它观察到人类的疲惫,能不能想到要为人类煮一杯咖啡?”段伟文说。

但在段伟文看来,这些对机器意识进行重新定义的理论,其问题出在,即便能够证明机器可以交互对话、深度理解,但是否等同于具备自主意识尚未有定论。“以LaMDA为例,虽然能够生成在人类看来更具意义的对话,甚至人可以与机器在对话中产生共情,但其本质仍然是在数据采集、配对、筛选机制下形成的反馈,并不代表模型能够理解对话的意义。”

换言之,即便人工智能可以对人类的语言、表情所传递的情绪作出判断,但这主要应用的是自然语言处理、计算机视觉等技术。

郭雨晨直言,尽管在情感计算方面,通过深度学习的推动已经发展得比较好,但如果就此说人工智能具备意识还有些一厢情愿。“把‘意识’这个词换成‘功能’,我会觉得更加准确。”

技术换道

有专家提出,若要机器能思考,先要解决人工智能发展的换道问题。

据了解,目前基于深度学习、由数据驱动的人工智能在技术上已经触及天花板。一个突出例证是,阿尔法围棋(AlphaGo)在击败人类围棋世界冠军后,虽然财力和算力不断投入,但深度学习的回报率却没有相应增长。

一般认为,人工智能可被分为弱人工智能、通用人工智能和超级人工智能。弱人工智能也被称为狭义人工智能,专攻某一领域;通用人工智能也叫强人工智能,主要目标是制造出一台像人类一样拥有全面智能的计算机;超级人工智能类似于科幻作品中拥有超能力的智能机器人。

从产业发展角度看,人工智能在弱人工智能阶段停留了相当长时间,正在向通用人工智能阶段迈进。受访专家表示,目前尚未有成功创建通用人工智能的成熟案例,而具备自主意识,至少需要发展到通用人工智能阶段。

梁正说,大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破,但距离具备自主意识还很远。“如果你给这类语言模型喂养大量关于内省、想象等与意识有关的数据,它便更容易反馈与意识有关的回应。”

不仅如此,现阶段的人工智能在一个复杂、专门的领域可以做到极致,却很难完成一件在人类看来非常简单的事情。“比如人工智能可以成为围棋高手,却不具备三岁小孩对陌生环境的感知能力。”段伟文说。

谈及背后原因,受访专家表示,第一是当前人工智能主要与符号世界进行交互,在对物理世界的感知与反应上发展缓慢。第二是数据学习让机器只能对见过的内容有合理反馈,无法处理陌生内容。第三是在数据驱动技术路线下,人们通过不断调整、优化参数来强化机器反馈的精准度,但这种调适终究有限。

郭雨晨说,人类在特定任务的学习过程中接触的数据量并不大,却可以很快学习新技能、完成新任务,这是目前基于数据驱动的人工智能所不具备的能力。

梁正强调,不同于当前主要依赖大规模数据训练的技术路线,新一代人工智能强调在没有经过数据训练的情况下,可以通过推理作出合理反应,从而与没有见过、没有学过的事物展开交互。

相比人类意识的自由开放,以往人工智能更多处在封闭空间。尽管这个空间可能足够大,但若超出设定范畴便无法处理。而人类如果按照规则不能解决问题,就会修改规则,甚至发明新规则。

这意味着,如果人工智能能够超越现有学习模式,拥有对自身意识系统进行反思的能力,就会理解自身系统的基本性质,就有可能改造自身的意识系统,创造新规则,从而成为自己的主人。

“人工智能觉醒”背后

有关“人工智能觉醒”的讨论已不鲜见,但谷歌迅速否认的态度耐人寻味。

梁正表示:“如果不迅速驳斥指认,会给谷歌带来合规性方面的麻烦。”

据了解,关于人工智能是否有自主意识的争论并非单纯技术领域的学术探讨,而关乎企业合规性的基本坚守。一旦认定公司研发的人工智能系统出现自主意识,很可能会被认为违反第2版《人工智能设计的伦理准则》白皮书的相关规范。

这一由美国电气和电子工程师协会2017年发布的规范明确:“根据某些理论,当系统接近并超过通用人工智能时,无法预料的或无意的系统行为将变得越来越危险且难以纠正。并不是所有通用人工智能级别的系统都能够与人类利益保持一致,因此,当这些系统的能力越来越强大时,应当谨慎并确定不同系统的运行机制。”

梁正认为,为避免社会舆论可能的过度负面解读,担心大家认为它培育出了英国作家玛丽·雪莱笔下的弗兰肯斯坦式的科技怪物,以“不作恶”为企业口号的谷歌自然会予以否认。“不仅如此,尽管这一原则对企业没有强制约束力,但若被认为突破了底线,并对个体和社会造成实质性伤害,很有可能面临高额的惩罚性赔偿,因此企业在合规性方面会更为谨慎。”

我国也有类似管理规范。2019年,国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》,提出人工智能治理的框架和行动指南。其中,“敏捷治理”原则主要针对技术可能带来的新社会风险展开治理,强调治理的适应性与灵活性。

中国信息化百人会成员、清华大学教授薛澜在接受媒体采访时表示,当前人工智能治理面临的最大挑战,是我们没有一套比较成熟的体系来规制其潜在的风险。特别是在第四次工业革命背景下,我国的人工智能技术和其他国家一样都处于发展期,没有现成的规制体系,这样就使得我们在发展科技的同时,必须同步发展我们的规制体系。“这可能是人工智能发展面临最大的挑战。”

在梁正看来,目前很难断言新兴人工智能技术具有绝对风险,但必须构造合理的熔断、叫停机制。在治理中既要具有一定的预见性,又不能扼杀创新的土壤,要在企业诉求和公共安全之间找到合适的平衡点。

毕竟,对人类来说,发展人工智能的目的不是把机器变成人,更不是把人变成机器,而是解决人类社会发展面临的问题。

从这个角度来说,我们需要的或许只是帮助人类而不是代替人类的人工智能。

长沙华夏实验学校学生和机器狗互动(2022年6月22日摄) 薛宇舸摄/本刊

为了人机友好的未来

确保通用人工智能技术有益于人类福祉,一直是人工智能伦理构建的前沿。

薛澜认为,在科技领域,很多技术都像硬币的两面,在带来正面效应的同时也会存在风险,人工智能就是其中一个比较突出的领域。如何在促进技术创新和规制潜在风险之间寻求平衡,是科技伦理必须关注的问题。

梁正提出,有时技术的发展会超越人们预想的框架,在不自觉的情况下出现与人类利益不一致甚至相悖的情况。著名的“曲别针制造机”假说,即描述了通用人工智能在目标和技术都无害的情况下,对人类造成威胁的情景。

“曲别针制造机”假说给定一种技术模型,假设某个人工智能机器的终极目标是制造曲别针,尽管看上去这一目的对人类无害,但最终它却使用人类无法比拟的能力,把世界上所有资源都做成了曲别针,进而对人类社会产生不可逆的伤害。

因此有观点认为,创造出法力高超又杀不死的孙悟空本身就是一种不顾后果的冒险行为。

与其对立的观点则认为,目前这一担忧为时尚早。

“我们对到底什么样的技术路线能够发展出具备自主意识的人工智能尚无共识,现在谈论‘禁止发展’,有种空中楼阁的意味。”梁正说。

商汤科技智能产业研究院院长田丰告诉《瞭望》新闻周刊,现实中人工智能技术伦理风险治理的关键,是产业能够在“预判防范-应用场景-用户反馈-产品改进”中形成市场反馈机制,促成伦理风险识别与敏捷治理。同时,企业内部也需建立完整的科技伦理自律机制,通过伦理委员会、伦理风控流程平台将伦理风险把控落实到产品全生命周期中。

郭雨晨说,人工智能技术发展到目前,仍始终处于人类可控状态,而科技发展的过程本来就伴随对衍生问题的预判、发现和解决。“在想象中的人工智能自主意识出现以前,人工智能技术脚踏实地的发展,已经造福人类社会很多年了。”

在梁正看来,人与人工智能在未来会是一种合作关系,各自具备对方无法达成的能力。“技术归根结底是由人类来发展和把控的。人类和人工智能的未来,是由人类选择的。”■

相关资讯

当人工智能“初见”元宇宙2022世界人工智能大会“元”气启幕

2022WAIC元宇宙展区 汤彦俊 摄中新网上海9月1日电 (记者 郑莹莹)步入第五年的2022世界人工智能大会1日在上海世博中心启幕。与往年不同的是,今年的开幕很“元”气。2022WAIC展区 汤彦俊 摄 当天的开幕式会场,分“实”“虚”

2022世界人工智能大会观察:人工智能与元宇宙互融,AI世界渐行渐近

人工智能可以为人类带来什么?在第五届世界人工智能大会(WAIC)现场,机器人打扫卫生、送咖啡、专业消毒等辅助人类的应用场景集中展出,而人工智能与元宇宙互融共促的趋势,则引领人们看到了一个万物智联的AI世界。让我们一起走进大会现场,一览未来“

人工智能处于爆发式增长前夜:为何人工智能应用仍然较为零星?

经济观察网 胡群/文在6月25日召开的招商银行股东大会上,招商银行行长田惠宇表示,招商银行正在探索银行3.0模式,即大财富管理的业务模式+金融科技的运营模式+开放融合的组织模式。越来越多的金融机构加大对金融科技投入。近日,北京产权交易所披露

人工智能有一天会超越人脑吗?人工智能未来的三种可能

人工智能加速发展,有一天会超越人脑吗?近日,清华大学基础科学讲席教授、心理学系主任刘嘉在“人文清华讲坛”上发表了演讲《脑与人工智能:站在进化的节点上》。他指出,虽然目前人工智能无法与人脑相比,但它发展迅猛,类人智能是人工智能的下一个发展目标

人工智能是否会带来毁灭?对“人工智能灭世论”的质疑与反思

在电影《异形:契约》中,迈克尔·法斯宾德所扮演的仿生人大卫表面上对人类亲切友好,但实际上却通过一系列行为为人类带来灾祸。而在现实中,如霍金、马斯克、比尔.盖茨等名人都曾警告过人们要警惕人工智能可能带来的危害。对于“人工智能灭世论”的支持者而

人工智能入门系列(1):人工智能的基本概念和应用场景

未来一段时间本人将不定期的以系列文章形式,分享本人在学习人工智能过程中的一些收获。本文将介绍人工智能相关的一些基本概念、典型应用场景、一级人工智能相关的一些重要术语。1. 智能代理(Intelligent Agent)AI程序被称为智能代理

人工智能如何去“人工”?专家认为:“烂大街的技术才是好技术!”

来源:四川日报-川观新闻川观新闻记者 唐泽文 高杲 徐莉莎 文/图“烂大街的技术才是好技术!”10月13日,2021中国人工智能大会上,清华大学交叉信息研究院副教授、区块链研究中心主任徐葳这样解释他对“好技术”的理解。与会者也普遍认为,这样

有道人工翻译平台翻译新作——《极简人工智能》中文版首发

人工智能作为近来中国科技发展的关键词之一,已经成为大势所趋。纵观近年来的技术发展,从无人驾驶到智能硬件、“围棋高手”到智能翻译……人工智能正在迅速改变着我们的生活。但与其广泛应用恰恰相反的是,人工智能的内涵却鲜为人知,晦涩的文字表述也赋予了

百度推出对话式智能社交助手,人工智能为基础,分析人类微表情

昨日,百度正式发布了一款名为丘比特的对话式智能社交助手,正式向社交领域开始进军。在百度发布的一段宣传视频中也显示了该助手的具体使用方法,丘比特的存在可以依托第三方设备,不仅仅只是手机端,还有可能在更多可穿戴的设备上,不如眼镜,手表等;视频显

中国出了家很牛的人工智能芯片公司未来要参建超级智能计算机

2016年初,初创型科技公司寒武纪科技(Cambricon Technologies),曾经面向国内市场推出首款商用(神经网络)的深度学习处理器——人工智能处理器1A,该款人工智能处理器可应用在智能手机、可穿戴设备、无人机、无人驾驶和安防等

人工智能有多智能?

在宁波奇点机器人体验馆,机器人正与一位观众现场围棋“对弈”。不久前,成都某公司开发的机器人和高考状元展开了一场解答高考数学题的较量,虽然机器人最终落败,但其理解语义、逻辑分析以及快速学习的能力令人赞叹。从简单的娱乐游戏到辅助人类智慧决策的工

人工智能训练师:让机器更“懂”人让产业更智能

打开电脑,通过对话式AI平台查看机器人测试结果,标注机器人的应答准确率,分析机器人错误原因,对机器人进行调整、优化……伴随着手指敲击键盘的“啪嗒啪嗒”声,北京中关村科金技术有限公司资深人工智能训练师周爽一天的工作就此开始。“调教”人工智能产

透视一周牛熊股:十大牛股7只为人工智能概念!赛为智能周涨超70%;全面注册制改革启动,7只ST股票登上熊股榜

农历兔年首周交易日(1月30日-2月3日),A股深证成指震荡走强,上证指数、创业板指震荡走低。截至2月3日收盘,沪指报3263.41点,周跌0.04%;深成指报12054.30点,周涨0.62%;创业板指报2580.11点,周跌0.23%。

人工智能的智能发展之路

人工智能是计算机科学的一个分支,英文缩写为AI(Artificial Intelligence)。人工智能的目的在于尝试使用计算机技术生产出与人类智能相似的智能机器,包括但不仅限于人工智能机器人、语言识别、图像识别等系统。人工智能的智能表现

人工智能赋能美好未来智能科技引领高质量发展

近年来,我国人工智能发展取得积极成效,人工智能核心产业规模超过4000亿元,企业数量超过3000家,产业体系进一步完善、水平稳步提升。近日,第六届世界智能大会在天津召开。多位与会专家学者在接受人民网财经采访时表示,随着技术的不断积累、迭代,

友情链接

网址导航 SEO域名抢注宝宝起名网妈妈知道币圈大数据信息网黄金大盘走势深圳世界之窗资讯网设计师学习网山竹水果网铜金属期货网黑貂泳镜小米手机股票圣女果种植网皮革人才网迪丽热巴影迷网宜春今日新闻网防城港白浪滩旅游隆基绿能A股刘姓男孩名字大全
AI人工智能技术网-人工智能是一个以计算机科学为基础,由计算机、心理学、哲学等多学科交叉融合的交叉学科、新兴学科,研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。 AI是一个由人工智能驱动的工具,帮助作家更快,更好地创作内容。它通过自动化研究和编辑过程,使写作更有效率。
AI人工智能技术网 pinzhili.com ©2022-2028版权所有