欧易

欧易(OKX)

国内用户最喜爱的合约交易所

火币

火币(HTX )

全球知名的比特币交易所

币安

币安(Binance)

全球用户最多的交易所

人工智能浪潮下,法律风险不只存在于“AI孙燕姿”

时间:2023-06-28 17:29:32 | 浏览:248

“燕姿不发歌的日子,我们有‘AI孙燕姿’陪伴。”在众多歌迷苦苦等待孙燕姿新歌的日子里,近日,“AI孙燕姿”闯入他们的耳朵,让不少歌迷大呼“过年了”。有欣喜,也有不满。“只是音色有点像,其他方面都差很远。”在社交平台上,孙燕姿的铁杆歌迷评价,

“燕姿不发歌的日子,我们有‘AI孙燕姿’陪伴。”在众多歌迷苦苦等待孙燕姿新歌的日子里,近日,“AI孙燕姿”闯入他们的耳朵,让不少歌迷大呼“过年了”。

有欣喜,也有不满。“只是音色有点像,其他方面都差很远。”在社交平台上,孙燕姿的铁杆歌迷评价,“气息、技巧、感情都没法比。”

随着“AI孙燕姿”“AI周杰伦”“AI陈奕迅”“AI林俊杰”等一众“AI歌手”相继诞生,除了关心“AI歌手”唱得像不像,更多人也对其合法性产生质疑。

AI换脸、AI绘画之后,“AI孙燕姿”走红网络

近年来,随着技术应用更新迭代,人工智能(AI)不再遥不可及。尤其是AI换脸、AI绘画等推出之后,迅速成为普通人乐于尝试的新奇应用。

今年,在歌迷对孙燕姿出新歌、发唱片的呼唤声中,生成式人工智能带来了“AI孙燕姿”。

在某视频平台,“AI孙燕姿”的“发歌”速度让歌迷直呼过瘾。这些歌曲中既有孙燕姿的成名曲《天黑黑》《绿光》等,也有《好汉歌》《水星记》《发如雪》等其他歌手的代表作。其中,“AI孙燕姿”翻唱的周杰伦代表作《发如雪》已经突破160万的播放量。

这些歌曲由不同的用户上传,其中多位用户注明视频使用了AI音色替换技术(Sovits4.0)。

据某软件下载平台介绍,Sovits4.0模型是一款基于人工智能技术的学唱软件。通过自主学习和深度学习技术,Sovits4.0模型可以模拟出不同歌手的声音,并且可以在不同音域和曲调下进行演唱。用户只需要输入歌曲的歌词和曲调,就可以让Sovits4.0模型自动生成一首唱腔完美的歌曲,从而实现对歌曲的自主创作和演唱。

Sovits4.0模型修改自So-VITS-SVC 4.0项目。记者了解到,So-VITS-SVC是一个采用音色转换算法的开源项目,可以仅凭数段音频,训练出一个具备目标音色的声学模型,并能利用该模型较为便捷地对其他语音、歌声文件进行音色转换。

IT行业从业者小鱼(化名)告诉记者,有了Sovits4.0模型,AI翻唱实现起来很简单。“安装Sovits4.0之后,准备一个说话人或演唱人的音频数据集,让AI根据这个数据集去训练声音模型。训练完模型后,准备一首歌曲,使用模型去推理,然后替换掉原歌曲中的声音。”AI声音合成技术因此成为许多网友口中的“零门槛上手”。

正是在这样的技术驱动下,伴随歌迷的呼声,“AI孙燕姿”应运而生。随即,“AI周杰伦”“AI陈奕迅”“AI林俊杰”等一众“AI歌手”相继诞生。

“AI孙燕姿”的声音和翻唱合法吗?

“与其他AI技术一样,AI翻唱火热的背后,也有一系列法律问题。”北京大成律师事务所高级合伙人肖飒表示。

翻唱作品大概率构成对于原作品的改编。一个翻唱行为要合法化,需要取得权利人的许可。肖飒指出,一首歌曲的产生,往往涉及诸多权利人,其著作权体系较为复杂。具体而言,可能包含该歌曲词曲作者的著作权、该歌曲演唱者作为表演者的权利以及相关公司作为录音录像制作者的权利。

“理想情况下需要取得前述所有权利人的许可,否则其翻唱行为极有可能侵犯前述主体的相应权利,从而需要承担侵权责任。即便是AI翻唱,也受到此种规则的限制。”肖飒说。

除了对原作品的侵权,我国民法典规定,民事主体的人格权受法律保护,任何组织或者个人不得侵害。“‘AI孙燕姿’在翻唱时如未经授权使用孙燕姿的肖像,则涉嫌侵害孙燕姿的肖像权。”北京市盈科律师事务所律师孟泽东表示。

民法典已经正式认可“声音”与肖像一样,属于对一个自然人身份识别的特征,享有人格权的保护。第1023条规定:对姓名等的许可使用,参照适用肖像许可使用的有关规定。对自然人声音的保护,参照适用肖像权保护的有关规定。

对“AI孙燕姿”的声音合成,需要使用孙燕姿本人的讲话、演唱声音进行训练。“根据民法典规定可知,未经声音所有人同意,其他人也不得以发表、复制、发行、出租、展览等方式使用或者公开声音所有人的声音。据此,使用某一自然人声音翻唱歌曲需要本人授权。”肖飒指出。

但国际知识产权专家、暨南大学特聘教授孙远钊表示,一些问题尚处于灰色地带,需要透过未来的立法政策与司法实践予以厘清。

“如果在实际操作上的确如媒体所报道,先从歌手本人曾公开发表的演讲、访谈或表演中撷取零星片段,然后通过人工智能技术或工具分析,再合成转化成为网络上见到的各个翻唱版本,那么至少在筛选、合成的部分就没有发生侵害歌手本人的声音识别权利。”孙远钊说,由于这些翻唱的歌曲都是该歌手过去没有公开表演过的,所以也没有侵害其著作权或邻接权(表演者权)的问题。反而是翻唱他人的歌曲有可能对他人的作品构成侵权,但还是需要依据个案的具体情况分别研判。

“今年1月开始实施的《互联网信息服务深度合成管理规定》似提及相关内容,但实际上仍是灰色地带。同时,该规定作为行政规定,对于歌手本人的民事求偿基本上起不到什么作用。”孙远钊表示。

据媒体报道,日前孙燕姿前往长沙参加音乐节,被粉丝问到“AI孙燕姿”时,她表示“有听过这件事”。孙燕姿所在经纪公司则称,目前没有委请律师处理。

免责声明真能免责吗?

对孙燕姿可能造成的侵权不仅是这些。

Sovits4.0整合包的使用说明特别指出,禁止使用该整合包对公众人物、政治人物或其他容易引起争议的人物进行模型训练。使用本整合包产出和传输的信息需符合中国法律、国际公约的规定、符合公序良俗。

记者注意到,在某视频平台的“AI孙燕姿”翻唱歌曲页面中,不少上传者声明,仅用于娱乐、非商业用途等,以期免除自身责任。我国著作权法也有规定,如果改编作品用于个人学习、研究或者欣赏,可以不经相关权利人的许可而使用。

不过,某视频平台会根据上传视频的播放量、评论量等给予上传者创作奖励。两位律师均指出,这已经不属于“个人学习、研究或者欣赏”的情形。“这种情况已经突破合理使用的限制,具有明显的引流目的和盈利属性,不能落入合理使用的保护范围。”孟泽东提出。

而“AI周杰伦”“AI陈奕迅”“AI林俊杰”等,同样可能涉嫌上述侵权。

记者查询发现,类似问题不时发生,多地法院审理了相关案件。杭州互联网法院去年审理了一起“AI换脸”APP利用深度合成算法侵害他人肖像权的案件,判定APP开发者构成对原告肖像权的侵害。

在这起案件中,原告楼某某是一名古风汉服模特,经常在社交平台发布古风汉服照片和视频。楼某某发现被告公司运营的“AI换脸”APP中使用的是其拍摄的古风造型视频模板。用户可上传个人照片,替换掉视频模板中的人脸。换脸后的视频,用户可以将其保存并其他平台。

法院审理认为,被告公司未经楼某某同意,利用深度合成技术使用其肖像制作了伪造视频,构成对楼某某肖像权的侵害,判决被告向楼某某赔礼道歉并赔偿损失5000元。

除了侵犯著作权、肖像权、声音权,西南政法大学网络空间治理研究院副院长、数字法治政府研究院研究员郑志峰提醒,人工智能是通用型技术,可以广泛赋能各个领域。各种人工智能应用都可能涉及侵权风险。例如自动驾驶汽车、诊疗人工智能等应用,因为产品缺陷造成交通事故、医疗事故,侵害物权、生命权、健康权、身体权等;人脸识别、深度伪造等技术,可能侵害他人的隐私权、个人信息权益。

AI应用可能引发更广泛、更严重的违法犯罪

著名人工智能和机器人学者汉斯·莫拉维克早在1988年就曾写道:“机器人最终将战胜我们,人类显然将面临灭绝。”

虽然我们目前对于“机器人战胜人类”还不必过于担忧,但随着人工智能技术的更新迭代和广泛应用,问题正在显现。从民事侵权到刑事犯罪,这显然更值得引起重视。

2020年,英国伦敦大学学院发布报告,列举了未来15年人工智能可能潜在协助犯罪分子的不同方式,如非法控制自动驾驶汽车作为武器、破坏信息系统、AI辅助跟踪、自主攻击无人机、深度合成技术以及大规模网络勒索等。

中国社会科学院法学研究所刑法研究室主任刘仁文在其文章中指出,人工智能带来的刑事风险除人工智能系统成为犯罪对象被不法攻击或操纵外,还有人工智能体被滥用于实施犯罪的工具性风险,如人工智能体被用于非法搜集公民个人信息、实施诈骗犯罪、侵害社会信用等风险,也有人工智能体脱离人类控制而严重侵害人类的风险。

记者查询发现,2017年9月,浙江绍兴警方便破获了全国首例利用人工智能技术窃取公民个人信息的案件。根据通报,警方截获了超10亿组公民个人信息。

被警方查封的平台叫“快啊”,提供图片验证码识别服务。该平台在破解、窃取、贩卖和盗用个人信息实施诈骗中有完整的链条,其中AI技术被运用在识别验证码这个环节。警方指出,该团伙所使用和训练的AI,已经能够识别出98%以上的验证码。

早在2014年,特斯拉创始人马斯克就提出“AI可能比核武器还要危险”。去年初,马斯克的话在自己身上应验,他成了AI应用的受害者。

“马斯克换脸诈骗案”在半年内骗取资金达数千万美元。诈骗分子通过换脸技术,伪造了一系列以假乱真的马斯克谈话视频,谎称其创办了加密货币交易平台,每天可以带来30%的基础收益。在去年举办的第六届世界智能大会上,360集团创始人周鸿祎援引马斯克的例子指出,AI安全能力建设已刻不容缓。

近日,杭州萧山检察院以制作、传播淫秽物品牟利罪对虞某提起公诉。案件并不特殊,让人担忧的是他制作淫秽物品的手段——AI换脸。虞某通过互联网下载淫秽视频,根据买家需要,使用不同女明星的形象,通过AI换脸技术进行“私人定制”。

类似违法犯罪不仅盯着公众人物,普通人同样无法抽离。此前,广州一女子在社交平台分享的照片,被不法分子通过AI技术“一键脱衣”,生成造谣图在网络上传播。相关话题一度被热议,不少网友称,是时候认真思考AI可能带来的风险了。

在上述伦敦大学学院发布的报告中,31位专家根据综合因素为协助犯罪的AI手段作了排名,深度合成技术被认为具有最现实、最紧迫和最大规模的危险。而上述诈骗案、传播淫秽物品牟利案以及引发讨论的“一键脱衣”事件,均由深度合成技术引发。

基于国内外AI应用已经引发的案例,肖飒总结,主要有诈骗、敲诈勒索、不正当竞争、损害司法公正等类型。“利用深度合成技术可以炮制各类证据特别是视听证据,不具备专业知识的人往往难以察觉。试想,如果诉讼参与人通过深度合成技术向法庭提交欺诈性书面或视听证据,将对司法工作带来极大挑战。”肖飒对此提出担忧。

记者就深度合成技术可能带来的风险,随机采访多位市民。他们的担忧也多在诈骗、敲诈勒索等方面。“如果有一天手机里传来‘孩子’的哭喊声,我肯定一下就慌神了。”一位妈妈告诉记者,这样的场景“太可怕了”。

AI应用已经产生或可能带来的法律风险,逐渐被更多人关注。如何在狂热的浪潮之下规范AI发展,让技术这把“双刃剑”更多发挥其有利的一面,需要认真思考。对于AI涉及的数据管理、数据安全以及个人信息保护等规定散见于我国的不同法律之中。

基于实务中遇到的案例,肖飒认为,我国现有的法律基本能够处理AI引发的法律问题。“但是随着技术的高速发展,可能有一些极端的情况难以处理,法律法规有必要对这些特殊情况制定规则,以妥善解决相关问题。”

对于AI应用可能带来的新风险,多位受访人士建议,我国应尽早完善对人工智能技术发展应用的规范管理,强化伦理安全规范和顶层立法设计,适时推动人工智能领域专门立法。

郑志峰提出,新一轮人工智能热潮之所以“神奇”,关键在于数据、算法及算力三要素,需要重视对这三种要素的监管。其次,人工智能是一种可以依托具体场景百般变化的技术,不同应用场景中的人工智能各有特点,有必要针对不同应用场景的人工智能分别进行监管。

新京报记者 行海洋 陈琳

编辑 白爽 校对 李立军

相关资讯

“AI换脸”诈骗频发,全国人大正加强对人工智能法律问题研究

2023年6月25日,全国人大常委会法制工作委员会举行记者会介绍立法工作有关情况。全国人大常委会法制工作委员会发言人臧铁伟表示,“AI换脸”技术实施诈骗,是一种新型的电信网络诈骗,需要广大群众提高识骗防骗意识,也需要有关部门依法加强治理和执

全国人大法工委答南都:关注AI诈骗正加强人工智能法律研究

南都讯 记者刘嫚 发自北京 近期,利用“AI换脸”技术进行视频合成、进而实施诈骗的新闻引起广泛关注,现行法律能否进行有效规范?6月25日,全国人大常委会法制工作委员会举行记者会,发言人臧铁伟回应南都记者提问时称,立法机关在加强对人工智能等领

人工智能浪潮下,法律风险不只存在于“AI孙燕姿”

“燕姿不发歌的日子,我们有‘AI孙燕姿’陪伴。”在众多歌迷苦苦等待孙燕姿新歌的日子里,近日,“AI孙燕姿”闯入他们的耳朵,让不少歌迷大呼“过年了”。有欣喜,也有不满。“只是音色有点像,其他方面都差很远。”在社交平台上,孙燕姿的铁杆歌迷评价,

AI大模型是否是人工智能的拐点?人工智能还会有哪些突破?

随着计算能力的不断提高和数据规模的扩大,人工智能尤其是深度学习领域取得了显著的进展。近年来,AI大模型,如GPT系列、BERT等,在自然语言处理、计算机视觉等领域取得了令人瞩目的成果,引发了人们对人工智能发展的关注。AI硅基小助手【AI硅基

【AI自动写作12天】【人工智能专栏】人工智能的定义和基本概念

人工智能,简称AI,是指利用计算机模拟人类的智能行为,实现智能化的一种技术和应用。它是信息技术领域的前沿科技,涵盖了机器学习、自然语言处理、计算机视觉等多个领域。人工智能的定义可以从不同角度进行解释。从技术上讲,人工智能是一种通过模拟人类智

几句话给您讲明白人工智能是啥玩意?#人工智能#有ai就...

人工智能是计算机科学领域的一门技术,旨在开发能够模拟人类智能的计算机系统。它的目标是使计算机具备感知、理解学习、推理决策和交互的能力,从而完成各种任务。接下来,让我们详细了解人工智能的感知与理解能力。人工智能致力于让计算机能够感知和理解各种

什么是人工智能、如何应用人工智能技术?这场讲座给出了答案

极目新闻记者 国倩通讯员 余紫滨5月9日,荆州学院举办“荆院楚风”学术论坛讲座第五讲,本次会议采取“线上+线下”相结合的形式举行,长江大学计算机科学学院教授陈琳担任主讲人。学术讲坛会场“什么是人工智能?”——即能够和人一样进行感知、认知、决

“人工智能教父”为何反对人工智能:AI会伤害甚至毁灭人类?

近日,谷歌副总裁兼工程研究员、Vector研究所首席科学顾问、多伦多大学名誉教授、伦敦大学学院(UCL)盖茨比计算神经科学中心创立者、2019年计算机界最高荣誉“图灵奖”获得者、被称为The God father of AI(人工智能教父)

什么是人工智能? AI与人工智能

众所周知,刷脸认证、自动驾驶、大数据推送、智能音箱、手术机器人……人工智能被广泛应用于各个领域,由此引起的数据伪造、算法瓶颈、隐私安全、伦理困境等问题也日益凸显。“AI 基础设施建设亟需从自身底层能力增强出发,以内生驱动力突破算法关、数据关

人工智能,简称AI,是一种模仿人类思维和行为的智能技术

随着科技的不断发展和进步,人工智能已经成为当今热门的话题之一。人工智能,简称AI,是一种模仿人类思维和行为的智能技术。由于它的出现,科技领域取得了长足的进步,各行各业都开始探索它的应用。在这篇文章中,我们将探讨人工智能的概念、在不同领域的应

生成式人工智能技术滥用事件频发 三六零AI安全护航智能时代发展

近期,随着生成式人工智能技术快速发展,利用相关技术进行诈骗、诽谤的违法案件愈发频繁,引起社会的广泛关注。5月22日,包头警方发布的一起利用AI实施电信诈骗的案例冲上热搜,骗子通过AI换脸技术进行伪装,受害人10分钟内被骗走430万元。作为全

人工智能的智能发展之路

人工智能是计算机科学的一个分支,英文缩写为AI(Artificial Intelligence)。人工智能的目的在于尝试使用计算机技术生产出与人类智能相似的智能机器,包括但不仅限于人工智能机器人、语言识别、图像识别等系统。人工智能的智能表现

是“IA”(智能增强)还是“AI”(人工智能)无人驾驶是“谎言”?

近日,宾夕法尼亚大学工程与应用科学学院院长、美国国家工程院院士Vijay Kumar 以专业权威的视角独家分享了人工智能的潜在商机和对未来就业的深远影响。■他认为:关于无人驾驶,无人驾驶技术被不少厂商营销夸大了,类似于“我们不需要额外的刹车

热评丨26个岩钉打入三清山 破坏名胜古迹难逃法律严惩

5月18日,江西省高级人民法院对被告人张某明、毛某明、张某故意损毁名胜古迹罪上诉一案,及上诉人张某明、张某与被上诉人江西省上饶市人民检察院、原审被告毛某明生态破坏环境民事公益诉讼一案进行了二审公开宣判,判决驳回上诉,维持原判。2017年4月

支付公司热逐Web3!试水链上资金管理,法律、合规仍是首要挑战

Web3,已经越来越被支付公司熟知并重视。就在5月31日,汇付天下助理总裁汤伟透露了布局计划,正在加速布局产业数字化、跨境支付与Web3三大新赛道。入局的支付公司并非仅此一家。北京商报记者了解到,目前,包括蚂蚁数科、易宝支付、NETSTAR

友情链接

网址导航 SEO域名抢注宝宝起名网妈妈知道币圈今日廊坊海南旅游网充电桩加盟网世界奢侈名酒网直播平台大全网美度舵手表土耳其旅游网今日运城徽州大峡谷漂流网KFC肯德基优惠网合盛硅业A股今日大同山东泰山资讯网创维冰箱评测网野生何首乌网
AI人工智能技术网-人工智能是一个以计算机科学为基础,由计算机、心理学、哲学等多学科交叉融合的交叉学科、新兴学科,研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。 AI是一个由人工智能驱动的工具,帮助作家更快,更好地创作内容。它通过自动化研究和编辑过程,使写作更有效率。
AI人工智能技术网 pinzhili.com ©2022-2028版权所有