OpenAI的首席执行官证实,该公司没有培训GPT-5,且一段时间内不会

1,238次阅读
没有评论

首席执行官Sam Altman平息了OpenAI已经在开发GPT-5的谣言。然而,对于那些担心人工智能安全的人来说,这些评论可能不会得到太大的安慰。

OpenAI的首席执行官证实,该公司没有培训GPT-5,且一段时间内不会

在关于人工智能系统构成的威胁的讨论中,OpenAI首席执行官兼联合创始人Sam Altman证实,该公司目前没有培训今年3月发布的人工智能语言模型GPT-4的假定继任者GPT-5。

麻省理工学院的一次活动中,Altman被问及最近在科技界流传的一封公开信,该信要求像OpenAI这样的实验室暂停“比GPT-4更强大的”人工智能系统开发。这封信强调了对未来系统安全的担忧,但受到了业内许多人的批评,包括一些签署方。专家对人工智能构成的威胁的性质存在分歧(它是存在性的还是更平凡的?)以及该行业最初如何“暂停”发展。

在麻省理工学院,Altman说,这封信“缺少了我们需要暂停的地方的大多数技术细微差别”,并指出,早期版本声称OpenAI目前正在训练GPT-5。“一段时间内,我们不是,也不会,”Altman说。“所以从这个意义上说,这有点愚蠢。”

然而,仅仅因为OpenAI没有在GPT-5上工作,并不意味着它没有扩展GPT-4的能力——或者,正如Altman热衷于强调的那样,考虑到此类工作的安全影响。他说:“我们正在GPT-4的基础上做其他事情,我认为有各种安全问题,这些问题需要解决,并且完全被排除在信外。”

GPT炒作和版本号的谬误

Altman的评论很有趣——尽管不一定是因为他们揭示了OpenAI的未来计划。相反,他们强调了关于人工智能安全的辩论中的一个重要挑战:测量和跟踪进度的困难。Altman可能会说,OpenAI目前没有训练GPT-5,但这不是一个特别有意义的声明。

一些困惑可以归因于我所谓的版本号谬误:编号技术更新反映了能力的明确和线性改进的想法。这是一个多年来在消费技术领域培养的误解,分配给新手机或操作系统的数字渴望版本控制的严谨性,但实际上只是营销工具。“当然,iPhone 35比iPhone 34更好,”这个系统的逻辑是这样。“数字更大,当然,手机更好。”

由于消费技术和人工智能世界之间的重叠,这种相同的逻辑现在经常应用于OpenAI的语言模型等系统。这不仅是那些发布夸张,推特线程的骗子,预测超级智能人工智能将在几年内出现,因为数字越来越大,还有更知情和更成熟的评论员。由于许多关于人工智能超级智能的说法基本上是不可证伪的,这些人依靠类似的言论来表达他们的观点。他们绘制带有标有“进度”和“时间”的轴的模糊图表,绘制一条向上和向右的线,并不加批判地将其作为证

这不是要消除对人工智能安全的担忧,也不要忽视这些系统正在迅速改进,并且不完全在我们的控制之下。但这并不是说有好的论点和坏的论点,仅仅因为我们给某件事一个数字——无论是新手机还是智能概念——并不意味着我们完全可以衡量它。

相反,我认为这些讨论的重点应该放在能力上:演示这些系统可以做什么和不能做什么,以及预测这可能会随着时间的推移而发生怎样的变化。

这就是为什么Altman确认OpenAI目前没有开发GPT-5不会对担心人工智能安全的人有任何安慰。该公司仍在扩大GPT-4的潜力,该行业的其他人正在构建类似的雄心勃勃的工具,让人工智能系统代表用户发挥作用。毫无疑问,为了优化GPT-4,也正在进行各种工作,OpenAI可能会首先发布GPT-4.5(就像GPT-3.5一样)——这是版本号可能误导的另一种方式。

即使世界各国政府能够以某种方式实施禁止新的人工智能发展,但很明显,社会对目前可用的系统忙得不可开交。当然,GPT-5还没有到来,但当GPT-4仍然没有被完全理解时,这重要吗?

 

Read More 

正文完
可以使用微信扫码关注公众号(ID:xzluomor)
post-qrcode
 0
评论(没有评论)

文心AIGC

2023 年 4 月
 12
3456789
10111213141516
17181920212223
24252627282930
文心AIGC
文心AIGC
人工智能ChatGPT,AIGC指利用人工智能技术来生成内容,其中包括文字、语音、代码、图像、视频、机器人动作等等。被认为是继PGC、UGC之后的新型内容创作方式。AIGC作为元宇宙的新方向,近几年迭代速度呈现指数级爆发,谷歌、Meta、百度等平台型巨头持续布局
文章搜索
热门文章
潞晨尤洋:日常办公没必要上私有模型,这三类企业才需要 | MEET2026

潞晨尤洋:日常办公没必要上私有模型,这三类企业才需要 | MEET2026

潞晨尤洋:日常办公没必要上私有模型,这三类企业才需要 | MEET2026 Jay 2025-12-22 09...
面向「空天具身智能」,北航团队提出星座规划新基准丨NeurIPS’25

面向「空天具身智能」,北航团队提出星座规划新基准丨NeurIPS’25

面向「空天具身智能」,北航团队提出星座规划新基准丨NeurIPS’25 鹭羽 2025-12-13 22:37...
钉钉又发新版本!把 AI 搬进每一次对话和会议

钉钉又发新版本!把 AI 搬进每一次对话和会议

钉钉又发新版本!把 AI 搬进每一次对话和会议 梦晨 2025-12-11 15:33:51 来源:量子位 A...
商汤Seko2.0重磅发布,合作短剧登顶抖音AI短剧榜No.1

商汤Seko2.0重磅发布,合作短剧登顶抖音AI短剧榜No.1

商汤Seko2.0重磅发布,合作短剧登顶抖音AI短剧榜No.1 十三 2025-12-15 14:13:14 ...
跳过“逐字生成”!蚂蚁集团赵俊博:扩散模型让我们能直接修改Token | MEET2026

跳过“逐字生成”!蚂蚁集团赵俊博:扩散模型让我们能直接修改Token | MEET2026

跳过“逐字生成”!蚂蚁集团赵俊博:扩散模型让我们能直接修改Token | MEET2026 一水 2025-1...
最新评论
ufabet ufabet มีเกมให้เลือกเล่นมากมาย: เกมเดิมพันหลากหลาย ครบทุกค่ายดัง
tornado crypto mixer tornado crypto mixer Discover the power of privacy with TornadoCash! Learn how this decentralized mixer ensures your transactions remain confidential.
ดูบอลสด ดูบอลสด Very well presented. Every quote was awesome and thanks for sharing the content. Keep sharing and keep motivating others.
ดูบอลสด ดูบอลสด Pretty! This has been a really wonderful post. Many thanks for providing these details.
ดูบอลสด ดูบอลสด Pretty! This has been a really wonderful post. Many thanks for providing these details.
ดูบอลสด ดูบอลสด Hi there to all, for the reason that I am genuinely keen of reading this website’s post to be updated on a regular basis. It carries pleasant stuff.
Obrazy Sztuka Nowoczesna Obrazy Sztuka Nowoczesna Thank you for this wonderful contribution to the topic. Your ability to explain complex ideas simply is admirable.
ufabet ufabet Hi there to all, for the reason that I am genuinely keen of reading this website’s post to be updated on a regular basis. It carries pleasant stuff.
ufabet ufabet You’re so awesome! I don’t believe I have read a single thing like that before. So great to find someone with some original thoughts on this topic. Really.. thank you for starting this up. This website is something that is needed on the internet, someone with a little originality!
ufabet ufabet Very well presented. Every quote was awesome and thanks for sharing the content. Keep sharing and keep motivating others.
热评文章
预见未来:96位前沿先锋超万字核心观点总结,抢抓未来产业新高地

预见未来:96位前沿先锋超万字核心观点总结,抢抓未来产业新高地

预见未来:96位前沿先锋超万字核心观点总结,抢抓未来产业新高地 henry 2025-12-11 10:27:...
Meta公开抄阿里Qwen作业,还闭源了…

Meta公开抄阿里Qwen作业,还闭源了…

Meta公开抄阿里Qwen作业,还闭源了… Jay 2025-12-11 11:48:25 来源:量子位 Ja...
MEET2026挤爆了,AI圈今年最该听的20+场演讲&对谈都在这

MEET2026挤爆了,AI圈今年最该听的20+场演讲&对谈都在这

MEET2026挤爆了,AI圈今年最该听的20+场演讲&对谈都在这 西风 2025-12-11 15:...
钉钉又发新版本!把 AI 搬进每一次对话和会议

钉钉又发新版本!把 AI 搬进每一次对话和会议

钉钉又发新版本!把 AI 搬进每一次对话和会议 梦晨 2025-12-11 15:33:51 来源:量子位 A...