欧易

欧易(OKX)

国内用户最喜爱的合约交易所

火币

火币(HTX )

全球知名的比特币交易所

币安

币安(Binance)

全球用户最多的交易所

GPT-4被投诉要求禁用:FTC发布人工智能标准,OpenAI一个都不满足

时间:2023-04-06 09:46:17 | 浏览:385

机器之心报道编辑:陈萍、小舟一场围绕「GPT-4安全性」的论战正在如火如荼地进行中。几天前,马斯克、Yoshua Bengio 等人联名签署公开信,呼吁所有 AI 实验室应立即暂停训练比 GPT-4 更强大的 AI 模型。现在,又有人要叫停

机器之心报道

编辑:陈萍、小舟

一场围绕「GPT-4安全性」的论战正在如火如荼地进行中。

几天前,马斯克、Yoshua Bengio 等人联名签署公开信,呼吁所有 AI 实验室应立即暂停训练比 GPT-4 更强大的 AI 模型。现在,又有人要叫停已经发布的 GPT-4。

这次叫停 GPT-4 的是非营利组织人工智能与数字政策中心(CAIDP)。CAIDP 请求美国联邦贸易委员会(FTC)调查 OpenAI 公司并禁止该公司进一步发布 GPT-4。

文件地址:
https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC-Complaint-OpenAI-GPT-033023.pdf

CAIDP 向 FTC 提出这份申请的原因是他们认为「OpenAI 发布的消费级产品 GPT-4 存在偏见、欺骗性,并且对隐私和公共安全构成风险。模型的输出无法证明或复现,且在部署之前没有进行独立评估」。

CAIDP 呼吁对美国所有商业人工智能产品进行独立监督和评估,并确保建立必要的「保护措施」,来保护消费者、企业和商业市场。

此前,FTC 已经宣布一个人工智能标准,即「在促进问责制的同时,要求人工智能的使用是透明的、可解释的、公平的,并在经验上是合理的」,CAIDP 称「OpenAI 的 GPT-4 不满足这些要求中的任何一个」。

距离 GPT-4 发布仅过去两周,人们已经对这类强大的 AI 模型产生了巨大的分歧。一方面,想叫停 GPT-4 等强大模型的一类人认为这些模型会给信息安全甚至人类社会构成较大风险;另一方面,一些人认为这正是人工智能蓬勃发展的好时机,我们应该推动技术的加速进步。

有趣的是,OpenAI CEO Sam Altman 发布了一条新推特:「在风暴的中心保持平静。」这或许是他对于最近一系列「暂停 GPT-4 等模型研究」呼吁的回应。

在风险方面,OpenAI 在发布时表示已让外部专家评估 GPT-4 带来的潜在风险。然而,CAIDP 在提交给 FTC 的申请中明确指出 GPT-4 违反了哪些法案。

CAIDP 认为 GPT-4 严重影响了商业公平,称:「GPT-4 的商业发布违反了 FTC 法案第 5 节、FTC 就人工智能产品的使用和广告对企业制定的标准,以及人工智能治理的新兴规范等等。」

此外,OpenAI 没有透露 GPT-4 的任何技术细节。这也是 CAIDP 向 FTC 提出申请的原因之一。

CAIDP 表示:「OpenAI 没有透露有关架构、模型大小、硬件、计算资源、训练技术、数据集构建或训练方法的细节,而研究界通常的做法是记录大型语言模型的训练数据和训练技术,但 OpenAI 选择不为 GPT-4 做这些事。特别地,生成式人工智能模型不是寻常的消费品,因为它们在使用的过程中可能会表现出一些异常行为,而这些行为可能是其发布公司之前没有发现的。」

投诉细节

具体来说,CAIDP 在这份投诉申请中针对 GPT-4 和相关模型 ChatGPT 指出了一系列潜在风险。

例如,OpenAI 在文章《 GPT-4 System Card 》中已经明确表示,GPT-4 可能会强化和重现特定的偏见和世界观,包括对某些边缘群体的刻板印象和贬低联想。CAIDP 还引用了 OpenAI 公司的一篇博文,该博文称类似的大模型 ChatGPT 有时会响应有害指令或表现出有偏见的行为。

在提交给 FTC 的投诉中,CAIDP 表示「OpenAI 在充分了解风险的情况下,还是向公众发布了 GPT-4 ,以用于商业用途」。投诉还称,「《 GPT-4 System Card 》没有提供 OpenAI 在其测试期间进行的安全检查的详细信息,也没有详细说明 OpenAI 为保护儿童采取的任何措施,这也引发了对儿童使用 GPT-4 的担忧。」

CAIDP 还指出了欧洲消费者组织 BEUC 提出的担忧:「如果 ChatGPT 被用于消费者信贷或保险评分,那么它有没有可能会产生不公平和有偏见的结果?」这条推文也被作为引用出现在 CAIDP 的投诉申请中。

另外,在网络安全方面,ChatGPT 可被用于网络钓鱼、制作虚假文本,或是生成恶意代码。在隐私方面,CAIDP 表示本月有报道称 OpenAI 向其他用户显示了私人聊天记录。

在另一个案例中,一位 AI 研究人员介绍了 ChatGPT 是如何接管某人账户,查看聊天记录,并在他们没有意识到的情况下访问他们的账单信息。不过 OpenAI 修复了该漏洞。

CAIDP 还表示,GPT-4 能够从图片输入中提供文本回复,这一功能对个人隐私和个人自主权来说影响巨大,它能让用户将个人图像与详细的个人数据联系起来。据了解,OpenAI 已暂停发布图像到文本功能 ,但真实情况如何还不好说。

CAIDP 认为 FTC 应该禁止 OpenAI 对 GPT 的进一步商业部署,要求在部署之前和整个 GPT AI 生命周期对 GPT 产品进行独立评估,要求 OpenAI 遵守 FTC AI 标准,并建立一个可公开访问的 GPT-4 的事件报告机制,类似于 FTC 报告消费者欺诈的机制。

CAIDP 还敦促 FTC 进一步发布标准规范,以用作「生成式人工智能市场领域的产品基本标准」。

AI 学界,一场论战

从前两天千人联名要求暂停 GPT-4 后续 AI 大模型的研发,到今天 CAIDP 要求 FTC 调查 OpenAI 禁止发布新的商业版 GPT-4。短短一两天时间,各路讨论已经炸开了锅,AI 大佬以及各路大牛纷纷出来公开回应。他们当中有反对的,也有支持的。

在暂停 GPT-4 后续 AI 大模型的研发方面,图灵奖得主 Yoshua Bengio、特斯拉 CEO(OpenAI 联合创始人)伊隆・马斯克、纽约大学名誉教授 Gary Marcus、UC 伯克利教授 Stuart Russell 等都是赞成派,他们已经在暂停巨型 AI 实验公开信上签了名。值得注意的是,CAIDP 的总裁兼创始人 Marc Rotenberg 也签署了这份公开信。

公开信地址:
https://futureoflife.org/open-letter/pause-giant-ai-experiments/

不过一直抨击 ChatGPT 的 Yann LeCun 公开表示不会签署这封公开信,不同意这封公开信的内容。

俄勒冈州立大学名誉教授 Thomas G. Dietterich 在推特上表示「我也没签。这封信充斥着一堆可怕的修辞和无效或不存在的政策。一些重要的技术和政策问题,都在努力解决中。」 LeCun 公开表示「我同意」。

吴恩达也发文公开反对千人联名,并表示:「GPT-4 在教育、医疗保健、食品等方面都有很多新的应用,会帮助很多人。除非政府介入,否则实施暂停并阻止所有团队扩大 LLM 规模是不现实的。此外,让政府暂停他们不了解的新兴技术是反竞争的,这样就开了一个糟糕的先例,也是糟糕的政策。」

随后田渊栋也支持吴恩达的观点,「表明自己不会签署暂停令。并表示这种事情一旦开始,就没有办法停止或扭转这一趋势,这就是进化的必然。我们应该换个角度向前看,更好地理解 LLM,适应它并利用其力量,感受热度。」

刚刚宣布离开谷歌大脑的 Yi Tay(之前是谷歌大脑的高级研究员)表示:「如果禁言在网上胡乱讨论 LLM 的人 6 个月,我会签名。」

相关资讯

GPT-4被投诉要求禁用:FTC发布人工智能标准,OpenAI一个都不满足

机器之心报道编辑:陈萍、小舟一场围绕「GPT-4安全性」的论战正在如火如荼地进行中。几天前,马斯克、Yoshua Bengio 等人联名签署公开信,呼吁所有 AI 实验室应立即暂停训练比 GPT-4 更强大的 AI 模型。现在,又有人要叫停

chatGPT,AI时代到来?一文告诉你到底何为GPT!GPT能做什么!

近期chatGPT异常火爆,仅仅用了60 天用户就直接破亿,这是何等可怕的速度!于是乎国内外大厂纷纷追随 AIGC 步伐, ChatGPT 引领 AI 在科技圈一路“狂飙”!由于涉及到太多的专业词汇,开始之前,先通俗易懂的解释这些词汇(图1

ChatGPT:关于OpenAI的GPT-4工具你需要知道的一切

#头条创作挑战赛#OpenAI 已迅速成为科技界最知名的公司之一。这家人工智能 (AI) 公司制作了逼真的图像生成器、3D 模型创建器,以及现在最著名的 ChatGPT。ChatGPT 有能力通过法律考试、撰写整篇长篇文章,甚至编写完整的网

快评GPT-4:OpenAI不open了,机器视觉不存在了

今天凌晨,OpenAI 发布了多模态预训练大模型 GPT-4。眼花缭乱的技术迭代和全新功能毫无疑问再次带给我们巨大震撼,但在冷静之后,本次发布的一些细节也让我们感到担忧:这家将“open”写在公司名称里的科技企业,似乎正在朝着close的方

OpenAI与支付公司Stripe合作,将ChatGPT商业化

OpenAI将与支付公司Stripe合作,后者为其ChatGPT等人工智能工具提供支付和订阅服务。Stripe 还将把 OpenAI 的新自然语言技术 GPT-4 融入其产品和服务中。Stripe首席技术官David Singleton表示

当人工智能“初见”元宇宙2022世界人工智能大会“元”气启幕

2022WAIC元宇宙展区 汤彦俊 摄中新网上海9月1日电 (记者 郑莹莹)步入第五年的2022世界人工智能大会1日在上海世博中心启幕。与往年不同的是,今年的开幕很“元”气。2022WAIC展区 汤彦俊 摄 当天的开幕式会场,分“实”“虚”

2022世界人工智能大会观察:人工智能与元宇宙互融,AI世界渐行渐近

人工智能可以为人类带来什么?在第五届世界人工智能大会(WAIC)现场,机器人打扫卫生、送咖啡、专业消毒等辅助人类的应用场景集中展出,而人工智能与元宇宙互融共促的趋势,则引领人们看到了一个万物智联的AI世界。让我们一起走进大会现场,一览未来“

人工智能处于爆发式增长前夜:为何人工智能应用仍然较为零星?

经济观察网 胡群/文在6月25日召开的招商银行股东大会上,招商银行行长田惠宇表示,招商银行正在探索银行3.0模式,即大财富管理的业务模式+金融科技的运营模式+开放融合的组织模式。越来越多的金融机构加大对金融科技投入。近日,北京产权交易所披露

人工智能有一天会超越人脑吗?人工智能未来的三种可能

人工智能加速发展,有一天会超越人脑吗?近日,清华大学基础科学讲席教授、心理学系主任刘嘉在“人文清华讲坛”上发表了演讲《脑与人工智能:站在进化的节点上》。他指出,虽然目前人工智能无法与人脑相比,但它发展迅猛,类人智能是人工智能的下一个发展目标

人工智能是否会带来毁灭?对“人工智能灭世论”的质疑与反思

在电影《异形:契约》中,迈克尔·法斯宾德所扮演的仿生人大卫表面上对人类亲切友好,但实际上却通过一系列行为为人类带来灾祸。而在现实中,如霍金、马斯克、比尔.盖茨等名人都曾警告过人们要警惕人工智能可能带来的危害。对于“人工智能灭世论”的支持者而

人工智能入门系列(1):人工智能的基本概念和应用场景

未来一段时间本人将不定期的以系列文章形式,分享本人在学习人工智能过程中的一些收获。本文将介绍人工智能相关的一些基本概念、典型应用场景、一级人工智能相关的一些重要术语。1. 智能代理(Intelligent Agent)AI程序被称为智能代理

GPT-4太强,OpenAI也不懂!智能到底是怎么突然「涌现」的?

编辑:LRS【新智元导读】不可解释的智能,未来该如何发展?2023年至今,ChatGPT和GPT-4始终霸占在热搜榜上,一方面外行人都在惊叹于AI怎么突然如此强大,会不会革了「打工人」的命;另一方面,其实内行人也不明白,为什么模型规模在突破

ChatGPT持续创造历史记录:AIGC,人工智能的旷世之作

(报告出品方/分析师:华西证券 刘泽晶)1.近期热点内容 1.1.AIGC 的一小步,AI 的一大步 ChatGPT 持续火热:ChatGPT 是一种聊天机器人软件:全名为 Chat Generative Pre-Trained Trans

本周汽车行业大涨7%,人工智能大热,ChatGPT、AIGC概念等题材爆发

全周维度来看,申万31个一级行业涨多跌少,汽车“马力十足”本周累计大涨7%,有色金属(+3.85%)、基础化工(+3.58%)、机械设备(+3.44%)、农林牧渔(+3.19%)涨幅也超过3%,计算机、钢铁、传媒、环保、电子、国防军工、石油

人工智能行业ChatGPT专题研究:开启AI新纪元

(报告出品方/作者:华西证券,刘泽晶)AI纪元,ChatGPTChatGPT:AI的旷世巨作ChatGPT是一种聊天机器人软件: 全名为Chat Generative Pre-Trained Transformer,是OpenAI于 202

友情链接

网址导航 SEO域名抢注宝宝起名网妈妈知道币圈美腾科技股票宠物狗品种网小罗伯特·唐尼影迷网海螺沟旅行攻略龙鱼之巅中文网嵩山少林寺资讯网宁波新闻头条网李沁影迷网贝贝熊母婴保险资讯网大理洱海旅游攻略昭通新闻头条网马蜂窝旅游攻略网桂平西山旅游青岛啤酒A股
AI人工智能技术网-人工智能是一个以计算机科学为基础,由计算机、心理学、哲学等多学科交叉融合的交叉学科、新兴学科,研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。 AI是一个由人工智能驱动的工具,帮助作家更快,更好地创作内容。它通过自动化研究和编辑过程,使写作更有效率。
AI人工智能技术网 pinzhili.com ©2022-2028版权所有