第328章 基础模型

第328章 基础模型 (第1/2页)

陈默看着屏幕，没有掩饰眼中的满意。
　　
　　OpenAI成立时间不长。
　　
　　团队能够进展如此迅速，一部分来自不计成本的算力和人才投入。
　　
　　更重要的是，他们没有沿着2015年最流行的路线，为每一种任务单独搭建模型。
　　
　　陈默从成立之初便提出，大量无标注数据、自监督训练、统一表示与跨任务迁移，才是通往更强人工智能的关键。
　　
　　他虽然不会写代码，但却能让团队避开未来数年已经被证明价值有限的岔路。
　　
　　马斯克靠向椅背，眼中难掩骄傲：“事实证明，正确的道路比多雇一千名谷歌工程师管用得多。”
　　
　　“只能让我们暂时领先。”陈默没有被演示结果冲昏头脑，“谷歌一旦确认这条路线有效，很快便能调动比我们更多的算力和人员。”
　　
　　“想把领先变成真正的优势，下一步需要将零散研究合并起来。”
　　
　　他站起身，走向白板。
　　
　　目前OpenAI内部仍将语言、图像、游戏和机器人视为几个相对独立的研究方向。
　　
　　团队已经开始共享部分底层方法，却没有统一的长期定义。
　　
　　陈默拿起笔，在白板中央写下四个字。
　　
　　基础模型。
　　
　　现场大部分人第一次看见这个词。
　　
　　“未来最重要的人工智能，不会是只能下棋、识别人脸或者回答某一种问题的专用程序。”
　　
　　“它应该先通过海量数据，学习语言、图像和现实世界中最基础的结构。”
　　
　　“随后，只需要少量数据、指令或者环境反馈，便能适应不同任务。”
　　
　　“它更接近一个承载智能能力的平台。”
　　
　　Sam盯着白板：“如果彻底按这套逻辑走，现有两千张显卡连下一代架构的门槛都摸不到，算力开销每年会翻数倍。”
　　
　　“这就是今天需要解决的第二个问题。”陈默重新坐下。
　　
　　算力扩建方案被投到屏幕上。
　　
　　OpenAI目前已经拥有两千余张GPU，并与几家云计算公司建立合作。
　　
　　这套规模放在普通研究机构中堪称奢侈。
　　
　　面对基础模型，却只能算第一步。
　　
　　技术团队希望在未来十八个月将可用算力扩大四倍，同时搭建自己的分布式训练系统。
　　
　　预计总投入超过三亿美元。
　　
　　马斯克率先表态：“我支持。如果我们因为担心花钱而放慢速度，谷歌不会给我们第二次机会。”
　　
　　陆静怡翻开预算：“钱可以解决。但三亿美元不是一次性支出。”
　　
　　她看向Sam。
　　
　　“OpenAI依靠发起人长期捐赠，能够支撑三年，未必能够支撑十年。”
　　
　　“如果基础模型真的成为你们定义的平台，商业化迟早会发生。”
　　
　　这也是桌面上第三份方案存在的原因。
　　
　　完全依赖捐赠，OpenAI很难和谷歌、微软等公司进行长期算力竞争。
　　
　　过早商业化，又可能让研究方向被收入和投资人控制。
　　
　　杨植林想起清华饭局上的问题。
　　
　　“如果未来需要商业化，哪些成果继续开放？”
　　
　　“论文、代码、训练数据，还是完整模型？”
　　
　　“全部开放，任何公司都可以拿走OpenAI投入数十亿美元训练的成果。”
　　
　　“完全封闭，OpenAI又会变成另一家普通科技公司。”
　　
　　Sam没有立即回答。
　　
　　这正是他提交组织治理方案，却始终无法彻底解决的矛盾。
　　
　　梁文丰第一次开口：“问题可能不在开放或者封闭。”
　　
　　众人看向他。
　　
　　“而在于我们将人工智能看成什么。”
　　
　　梁文丰指向白板上的基础模型。
　　
　　“如果它只是软件，最简单的方法就是卖许可证。”
　　
　　

（本章未完，请点击下一页继续阅读）