在平安夜的清晨，就在大家还在热议GPT-4.5是否已经悄悄上线的时候，OpenAI CEO 山姆·奥特曼发布了一条推文，直接剑指GPT-5，给AI开发者和用户送了份充满充满期待的圣诞礼物。
这份清单其实起源于12月24日，奥特曼在社交媒体上发布了一条征集帖“你希望OpenAI 在2024年能做到哪些事情？”他的粉丝回复热情很高，奥特曼梳理了一份List（如图片所示），除了在AGI旁边标注了“还需要点耐心”的字样外，其它的愿望清单都没有做任何标注，我们有理由相信，也许奥特曼认为其余目标都有可能在2024年做到。
广告 | Advertisement
在澳纽网做广告 ｜ Advertise with us
这份清单包括：
1
AGI（还需要些耐心）
2
GPT-5
3
更好的语音模式
4
更高的使用频率限制
5
更好的GPTs
6
更好的推理能力
7
控制觉醒程度/行为
8
视频功能
9
个性化部署
10
更好的浏览体验
11
可以使用OpenAI账号登录
12
开源项目推进
其中最引人注目的是四项内容：GPT-5、视频、开源、更好的GPTs / 个性化部署，这几项内容可能带来AI开发生态、用户体验、及产品能力上质的跃迁。“控制觉醒程度/行为”，不出意外的也出现在这个清单之中，可以看出大众对这家公司的责任担当的期待。那么，如果要完成这份清单，OpenAI可能需要解决的难题及突破重点有哪些呢？
01 想要在2024年完成GPT-5的训练，OpenAI要做的不少
OpenAI正在训练GPT-5这件事已经越来越明晰了。早在7月18日，他们已经向美国专利商标局提交了GPT-5的商标申请。到了11月14日，奥特曼接受金融时报采访时也终于承认GPT-5已经在路上了，虽然可能仅仅是开发的准备阶段。奥特曼在采访中的表述是“在我们训练这个模型之前，这对我们来说就像是一个有趣的猜谜游戏”，这说明OpenAI应该还没开始训练模型。在准备阶段他们在做的可能涉及建立训练方法、组织注释器，以及最关键的数据集管理。
数据瓶颈
数据问题一直被认为是OpenAI发布下一代大模型的主要瓶颈。因为缩放效应这种“喂的越多模型就越强”的逻辑仍然是AI能力进步的主要主导思想。但在训练GPT-4时，OpenAI已经有些捉襟见肘了。传闻称，GPT-4的训练数据共 13T（13 万亿个）token。这一数据量级基本耗尽了现有数据：CommonCrawl 和 RefinedWeb 两个公开数据集都是 5T 个 token；据说余下部分来源 Twitter、Reddit 和 YouTube；最近沸沸扬扬的争论中，马斯克还指控OpenAI使用了来自 LibGen、SciHub 等盗版电子图书网站中的数据。
但这一问题当下也有一定的解决方法。
第一个方法就是买：对于私人或公司领域的数据，OpenAI在之前的训练中少有涉及，但这部分需付费的内容在互联网中占比是非常大的。今年OpenAI就曾表示愿意每年支付高达八位数的费用，用以获取彭博社自有的历史和持续的金融文件数据访问权限。虽然彭博没答应，而是自己搞了个Bloomberg GPT，但高价之下，总是可以买来一部分数据的。
第二个就是合成数据训练，微软开发的高质量小模型Phi-1就已经实践了利用合成数据训练模型的尝试，在3T的训练集中用了大概1.5B GPT-3.5生成的高质量合成数据，并取得了模型能力的提升。虽然1.5B看起来占比很小，但考虑到微软是用这些数据做教程用的，并非基础能力构建。如果GPT-5把遵循一定的条件限制的高质量合成数据应用在更多领域，那这一合成数据占比肯定能提升不少。
训练周期
按照Dylan Patel 泄漏的GPT-4的训练周期看，在完成训练准备后，OpenAI在大约25000个A100上训练了90到100天才完成，之后又经过了长达6个月的对齐工作才发布。整体周期需要9个月时间。考虑到GPT-5更大，更复杂这一时间长度完全有可能更长，那在2024年发布GPT-5似乎并不乐观。
但奥特曼的自信并非全无道理。GPT-4之所以训练了这么久的原因是故障过多导致GPU利用率较低，利用率仅为32%到36%之间。而每次故障都需要重新从之前的检查点开始训练。考虑到今年Gemini在训练过程中TPU的利用率应该大于50%，而且当谷歌使用模型状态的冗余内存副本，并且在任何计划外的硬件故障时，可以直接从完整的模型副本中快速恢复。有着英伟达H200加成及微软从2019年就启动的名为雅典娜的类TPU项目加持，GPT-5在训练利用率上应该会较GPT-4有很大的提升。
而对齐工作在今年的进展就更大了。首先是AI辅助自动进行对齐工作的可能性被验证有效（RLAIF），这衍生出了很多在AI参与乃至主导下的对齐研究。通过这种方式，可以大大缩短之前最费人力和时间的RLHF这一对齐步骤，提升对齐效率。但之前这种方法主要适用于用能力强的模型对齐能力弱的模型，提高其能力。但OpenAI在12月刚刚发布的弱到强泛化论文，提供了较弱AI仍然可以对齐能力更强AI的证据和方法。两种技术相结合，用GPT-4自动对齐GPT-5的逻辑和方法都有了，因此对齐时间有望被大幅缩短。
在以上条件下，有理由相信GPT-5的全部训练周期可能会短于GPT-4，这样它在2024年发布就不成问题了。
广告 | Advertisement
在澳纽网做广告 ｜ Advertise with us
02 多模态还是必争之地，OpenAI剑指文生视频爆发元年
在这个愿望清单上，另一个值得注意的点是视频功能的支持。这一点OpenAI的竞争对手Google已经处于领先地位了。在训练Gemini的过程中，谷歌使用了多模态原生的数据，其中就包括视频。这说明Gemini已经有了对于视频的理解能力。但具体能理解到什么程度，因为Google用力过猛的演示让大家都疑虑重重。而且它还缺了生成式AI的重要一环，生成视频的能力。
实际上，在文生图，ChatBot齐头并进吸引走大家的主要注意力之时，文生视频类软件在今年也获得了巨大的进步。11月PIKA 1.0的发布就引发了相当的关注，利用这个工具我们可以随意用新的生成替换原视频，或生成视频中的任意内容。这些新进展主要归功于Animatediff这个框架，它使得一部分运镜限制下，生成视频的闪烁和连贯性都得到了有效控制。
但目前文生视频系统有三个相对重要的短板：1. 高连贯性内容长度难以超过3秒 2. 稳定内容对运镜和动作仍然限制很大 3.生成现实性内容的能力不强，需要用Midjourney等工具辅助。
但其中部分问题已经能看到被解决的曙光了。比如说时长问题，近期Google Mind 发布的新建模方法VideoPoet，它从本质上是利用支持视频的多模态，将文字和视频进行令牌化（tokenized），从而用大语言模型擅长的自回归模式去预测下一段视频的内容。这与传统的基于Diffusion（扩散）模型的文生图框架并不相同，理论上它可以生成无限长、具有高度时间一致性的视频。而在生成图像真实度方面，李飞飞的团队近期发表的模型W.A.L.T在生成拟真度上有了比较高的提升，已接近照片水准。
在Gemini发布时，业界基本预测下一代GPT-5也会是一个大一统的原生多模态模型，这就意味着用类似VideoPoet的技术GPT-5也可以实现视频生成的能力，补齐这一短板。考虑到OpenAI自身在Diffusion方面的积累和GPT-5潜在的超强能力，生成视频的质量应该也相对有保障。文生视频按目前的技术积累看，就在爆发前夜。而GPT-5也许就是引爆这一领域的产品。
03 个性化水平再提升，从知识库到工具的核心路径
在OpenAI首届开发者日上，真正的主角其实并非GPT-4 Turbo，而是GPTs。因为它第一次把个人化AI这一过去门槛颇高的产品落到个体层面，这样才能真正实现个人化的AI。而只有个人化的AI才能满足每个人最个性化的需求，成为私人助理。
但现在这个产品还存在着诸多问题，比如提供了个人数据库后，GPT的回应还是会经常呈现出它原始的表达模式，在风格模仿上能力有限。另外出于隐私保护逻辑，GPTs只支持上传内容和接入公共网络工具API，无法完全利用本地数据。这些都在很大程度上限制了个性化AI的足够“个性化”。另外GPTs目前的交互也非常依赖Prompt，缺乏UI类的支持。这类问题如果在新的一年解决，ChatGPT对于大多数人来讲可能就不再是一个只有在搜索知识时好用的产品，而是一个真正可用的万能工具了。
这条路上目前没有其他的大玩家，因为决定个性化水平的基本上是模型能力。只要OpenAI保持着模型水平的领先，这一工具化领域的优先权他们就能随时把控。对于一般用户而言，如果能在原生模型软件上完成任务，谁还会去用其他个性化工具呢？
在这篇文章发布的时候，奥特曼收集粉丝2024年愿望清单的活动还在持续：“我们将继续收集粉丝们的意见，并尽可能多地将它们纳入考虑，当然也包括许多其他让我们感到兴奋不已但尚未提及的内容。”正如奥特曼在11月接受《时代》杂志采访时所说：“这将是一个截然不同的世界。这是科幻小说长期以来向我们展示的世界。我想这是第一次，我们可以开始看到它的雏形。”在圣诞夜，我们可以一起期待，AI将在2024给我们带来什么样的惊喜。
来源: 腾讯科技
(即时多来源) 最新英语科技新闻 New Zealand English News
广告 | Advertisement
在澳纽网做广告 ｜ Advertise with us
1,090 views
