第二百五十三章 调研的结果
第二百五十三章 调研的结果 (第1/2页)话音落下，许处长的心情明显松弛了下来。
陈副区长的热情也变得更高涨了。
虽然两人城府极深，在外表上没什麽变化，视界面板却不会骗人。
贾教授说这话的时候，语气里也透着一丝欣喜。
他当然既不认为，也不希望自己的学生会去造假。
但是训练大模型这个事，确实不是谁都能做好的，更何况是做到世界第一。
由於几年前开始华盛顿那边发起的算力管制，现在国内的模型训练往往卡在算力不够这个瓶颈上。这个问题对厂商、对高校来说都现实存在。
就拿贾教授自己来说，交大已经是全国顶尖的大学了，可是实验室里也只有几百张英伟达的训练卡，做做小参数的大模型还可能，做超大模型，没戏。
现如今韩路一能做出这个模型，别的不说，肯定在显卡的使用效率上有提升。
不过这是人家的商业机密，贾教授也没有开口问。
贾教授回到座位坐下，韩路一调出幻灯片来继续讲解。
「汤圆是我们自研的通用模型，底层训练框架由源智科技内部团队维护。预训练使用的是我们首建数据管线处理後的中英文混合语料，後训练则主要来自源智团队自己整理和标注的数据。」
许处长微微点头，刘副处长则一直在观察韩路一的表情。
他今天来的身份比较微妙，最重要的任务是配合许处长判断，这个公司是不是要上报到上级部门来对接。
韩路一接着说道：「算力部分，我们训练期间和鼎盛云服务达成合作，使用了他们提供的算力。在训练完成後，现在的推理算力都部署在张家口云垠数据中心。
「7
陈副区长听到这里，忍不住插了一句。
「怎麽在张家口？」
这是他作为区领导的本能反应。
这麽重要的企业，核心资源如果不在海城，後续怎麽服务，怎麽统计，怎麽形成产业链？
韩路一一时不知怎麽回答，张家口的电便宜，还有配套啊，但他还是开口道：「那边只是数据中心，我们的研发和产品化还是在海城进行。」
陈副区长也反应过来，笑了笑：「韩总，我不是这个意思，企业根据业务需要全国配置资源很正常，但是临港这边也有数据中心的项目，我们会後对接一下。」
好企业，不怕你要资源，就怕你不要。
不要就是要跑了。
许处长看陈副区长这边问完了，抛出最後一个问题：「韩总，技术文档我们拿回去再详细看看。今天时间有限，能不能先现场演示一下？」
这是又回到韩路一一开始的提议了，现场演示。
「当然，我先给大家展示一下演示环境。」韩路一说道，「现在这个界面连接的是我们内部推理服务，就部署在我刚才说的位於张家口的数据中心。所有的数据都是加密的，不会流出。」
浏览器打开，还是那个简洁的聊天框，写着模型型号，汤圆—0.9，还有汤圆的L0G0。
「各位可以现场出题，只要是合法合规的。」韩路一说道。
这是他第二次强调了。
AI工具，和其他的网际网路内容一样，能不能做到合法合规是政府很看重的因素。
事实上，在安全对齐方面韩路一确实是花了大力气的。不只是因为政府的合规要求。
韩路一自己也意识到这种酷似真人的聊天助手可以对人带来多大的影响。
习惯了听取AI的建议，你可能不自觉就被AI影响了。
所以汤圆的道德标准可能比一般的AI还要更高一些，也更克制一些。
贾教授先出了一道题。
他从随身的包里拿出一张纸，是他提前准备好的题目，递给了韩路一。
韩路一拿过来一看，挑了挑眉。
是当年期末考试的那种感觉没错了。
是一个计算机系统设计问题，要求模型设计一个任务调度系统，支持多租户优先级、
资源配额、失败重试、幂等执行，并给出关键数据结构和并发控制方案。
比起普通的算法或者代码题，这种系统设计问题更考察一个人的抽象思考能力和大局观，即使在真正程式设计师的面试中，也是只会出现在资深程式设计师的面试环节中。
甚至，这个问题在真实的AI训练场景、云计算调度中也是相关的。
不愧是贾老师，出的题还是这麽难度在线。
换成一般的大模型，这种题要麽是说一堆正确空洞的废话，要麽很容易跑偏设计方向。
不过汤圆确实在这方面是进行过特化训练的，因为汤圆要支持的第一个场景就是御风的调用，也是经常会遇到系统设计的问题。
韩路一拿出手机拍了张照片，把照片传到了汤圆上，汤圆开始思考。
许处长突然出言问了个问题：「韩总，前两天OpenAI公布的那个多模态模型，可以处理视频音频的，和这个是一样的东西吗？」
韩路一解答道：「许处长，你的观察很敏锐。汤圆不是一个多模态模型，虽然我们也希望在下一步探索这个方向。多模态模型可以原生的处理其他形式的输入，例如声音、图像、视频。但是汤圆现在读图的原理是，先把图片转化成文字描述，然後再进行处理，生成回复。」
（本章未完，请点击下一页继续阅读）