长城传媒互联网 AI专家会议

00:00:01 大家好，欢迎参加长城传媒互联网AI专家会议。目前所有参会者均处于静音状态，下面开始播报声明，本次电话会议仅供长城证券签约客户和邀请嘉宾参加。本次电话会议内容遵守监管要求，不出现未公开重大信息内容。会议嘉宾观点仅代表嘉宾个人观点，不代表长城证券的观点，也不构成任何投资建议，本次电话会议内容严禁录音或转发。 00:00:33 呃，各位领导晚上好啊，然欢迎接入本次会议。嗯，之前啊，腾讯发布了混元3以后，市场讨论比较多，包括它的一个奔驰mark表现比较亮眼呀，然后开源策略比较激进，然后定价的一个有一个比较极致的一个性价比。大家普遍认为呢，腾讯AI进入了一个新阶段。那么今天我们也是借助这个机会啊，邀请到一位专家来为大家详细拆解一下，腾讯的这些AI发展能为腾讯带来哪些新的一个利息差，以及未来的一个商业化的一个变化。呃，那么专家你好，可以听到吗？嗯嗯，可以的可以的。嗯，OK, 00:01:10 那咱们先聊一下那个模型本身吧，就是首先我想请您就是横向对比一下，呃，就是这次火焰4.0，然后和国内的这些嗯开源模型还有国外的那些顶尖的闭源模型，他们在能力上面的一个现在的一个区别大概是一个什么情况。嗯嗯嗯，好的好的，那个那个从能力上面来说的话呢，是是国内和国外的现在整体是走两个两个大的路线，然后国外的呢主要是去走极致的质量，就是高质量，然后高质量了以后呢去提高它的订阅价格。然后国内的呢是目前的方向呢都是往极致的性价比的这个方向去走。然后这个是两两国内和国外两个大的一个走的一个方向。所以从他的那个那个新的模型出来了以后， 00:02:01 包括国内其他的像那个DeepSeek啊或者是阿里的然后等等的， 00:02:06 然后这些其他来说的话，它的整总体的参数，参数的量都要比闭源的要要低一些。像混元的是在，是在295B，然后它的激活参数是在二十一二十一B，然后呢是，所以国内的话 呢，主要是在做什么呢，做做它激活的。激活的一个占比，激活一个占比普遍呢是在10%以内，就是参数可能是在一个200或者是那个高配的，是在一个五百六百这么一个范围。然后呢它的激活的呢是在一个一个一个一个100以内的，100以内币的这么一个方式，这样方式呢都带来它的性价比，它的成本都会降下来， 00:02:46 这是一个一个一个方向，然后国外的大的币源的话呢，是呃为主的话那个GBT的5系列的。那个Gemini3或者是cloud cloud o系列的。然后这些呢是它的整体参数没公开，但是业内的话普遍呢他们都是在一个T级的，都超过了一个T级的一个一个一个总参的一个一个占比。然后整体大家的那个大的架构的话是是是大同小异的，都是超过200B以上的话，整体都是一个走MoE的这么一个一个方向，这么一个方向，主要是目前的算力还没有完全跟上，就是目前的算力还是一个大家都是一个普遍的一个一个瓶颈。 00:03:27 所以他们整体的架构就是啊，大大的架构都是走m o,像小的一些小B的一些小模型，手机端上跑的话，还会走像灯色之类的一些那个传统的一个一个一个一个架构，这个是它整体一个架构的区别。然后所以它从现在的这个模型上面来说的话，大家要去看的话呢，会有会有会有会有几个点，就看他那个发出来的各种参数的话呢。然后第一个呢是是那个专家的一个数量，就是走MoE的话中间会有一个一个路由，然后下面的专家模型的一个数量，这个数量呢是大家差别不大，然后都是top top k差别不大。然后第二个呢是它的注意力机制，就是你处理你的长文快还是不快，然后做他的各种腾讯的。 00:04:13 计算模型，然后传统的话，腾讯的混元3呢还是还是走了一个比较保守的一个路线，它混元3里面也有它的一个trouble版的那个高阶版的会走得激进一些。 00:04:23 然后那个传统版的话呢，还是走它一个标准的腾讯的一个方式，走走我们MHA a的这么一个计算的一个方式，这个方式呢就是它很稳定，它的训练和它的推理都很稳定，但是它的那个计算量会随着它的文本的长度会平方增长。然后其他的像阿里的或者是deep那个DeepSeek高阶的这个都会降下来。所以这个是它的一个从参数上面去看它的总参，它的激活参数，还有它的层数，包括它的像像hand size啊，然后这些那个专家Mo OE的专家 数。然后这些数据里面看一下它的整体的就是国内的还是比较偏保守一些，然后保守的是主要是凸显它的性价比。 00:05:05 然后海外的话呢，就是去做最高质量。然后他们的主要还是他们的那个高阶的卡。高阶的卡比较容易获取到，然后有一个有一个量的一个保障，这个是一个大的一个区别。但是呢，嗯，但是呢，并不是说是国内的我去做性价比了以后，我的质量就很差。他他他他他这个这个呢是是不能等同的，就是国内的现在的整体的模型，包括像混元还有其他公司的模型，现在整体呢在数学代码中文和批量生产任务上。 00:05:39 然后整体呢，差不多已经迈入第一梯队了。然后海外的那波高阶的，他们用更大的参数，然后更多的上下文，然后更多的算力，然后他们去做他们的优势是在复杂指令的。呃，遵循超常的啊。Agent的任务上面，然后这些是他们的优势，目前还是一个绝对优势，所以它的那个定价可以收那么高，然后大家也愿意去为这个买单。 00:06:05 所以但是呢，是是这个这个方向呢，国内的这个选择。 00:06:09 还有一个方向呢，是国内的目前的头部大厂， 00:06:11 首先它是有流量的。就是像像腾讯，腾讯它的微信的流量就已经很大了，然后还有它周围的的内部的生态的，它的游戏的，它的广告的，它是已经有了一个流量基础的，国外的很多大厂的呢，它是只有模型。所以他他就必须要去卷参数，他他没得选，它参数如果不是卷到最高质量最高的话，它的订阅的立马的那个那个那个价格就会下下下下降下来。所以国内国外的他必须要去卷， 00:06:40 像cloud也好，那个那个那个。那个OpenAI也好，所以你发现国国外的那波的它的模型都是闭源的，因为他他他不敢开出来，他不敢开出来他的，比如说他的那个那个那个。呃，那个整体的层数，然后各个再往下，各个计算细节里面的计算方式拍下来，大家抄掉以后，质量都会跟他一样。所以它那块儿他会绝对的闭源，很长时间，他都是要走最高质 量，大家去卷那个赛道。 00:07:10 但是呢，那个国内的话，它就是因为已经有了一个很大的流量基础，大家都有流量，电商的流量。然后那个那个呃社交的那边，所以他就没有必要再去卷这个赛道。 00:07:22 现在国内的方向呢，就是要去把LLM。把大语言模型去往现有的业务里面去做增量价值，然后这个是大的方向，腾讯的方向也是的对，嗯，所以他我还想再追问一下，就就是那个。呃，我看那个混元做了几个限制啊，一个是就是上下文，上下文比较短，就256K嘛，但是国内很多已经达到一兆了，就是这个是模型的一个架构的硬限制呢，还是说单纯说是为了一个控制推理成本？ 00:07:51 然后我想问一下，就是下一代模型会不会突破这个上限啊？如果也是扩展到一兆这样，那对它的这个处理延迟还有成本的影响，能到一个什么量级啊？嗯，就是现在的上下文像像国外的像jani，然后那个那个cloud那个GPT等等的，然后都在往更多的那个去走。就是它的那个上下文的大小的话，好处呢是是就是我一次性可以读得多，然后你走到你走到走到一个更大的一个词， 00:08:21 比如说像JA米的一次2000多页的文档，它整体的就很稳定。像那个混元的，像国内的比较小的话呢，它的那个一次性读读进来的量就会差一点，比如说是高的他可以读到2000页，那么低的话可能只只能稳定到400~800页，有些可能只能稳稳定到500页这样的一个一个水平。 00:08:40 然后他的那个上下文的能力的话，是跟他那个多次。复杂对话一定是有帮助的， 00:08:47 但是呢，现在就是是国内的话控这个目前的方式还是成本，就是他没有必要再去做再大，他做再大对于他来说收益不大。 00:08:55 现在他的这个重心还是在往那个，那个现有的大流量业务里面去去做增量这么一个方式，所以他会控这个，所以你会发现国内的模型它也有大的大的那个。上下文，但大的上下文呢，它会出一个旗舰版，但是呢它的很多时候用的时候它都用它的标准版就已经够了。就是目前的话，这个方式呢都是够，然后做多了以后呢，好处有，但是呢不明显，就是海外模型还是那个，它必须要去做质量，对对的，他要做一个绝对质量，要不然他订阅的那个那个那个数据立马就下滑了，像那个像那个那个现在现在我也有那个。 00:09:33 嗯，李总，因为我想了解一下，就是如果要突破这个上限的话，比如说从256~1兆，然后从一兆再到国外的那个那个水准，它这个这两节阶梯，它对这个推理延迟还有一个推理成本的影响， 00:09:46 这个可不可以量化一下？嗯嗯，然后他对呃变变多了以后，然后他每次进去要计算的拓ke可能量它就会增加，因为他每次他要带进去那么多东西，所以它对于那个那个那个计算能量它就会增，就是比如说你翻了一倍或者翻了更多，它就是按照那个倍数它就会翻上去。然后中间有一些技术上的技巧可以去做一些优化，但是它的理论上面它就是会翻上去，这个是一个， 00:10:13 还有一个成本呢是是去做这个事情翻上去了以后，对于它那个那个整体的训练也是一个成本。就是训练就是模型第一次预训练完了以后，后面还需要再去做做像它的像那个指令训练等等的，它才它才会变得更准更好用， 00:10:29 就是你给他一个东西，他不会换，不会减少啊。然后这些上面也有一个成本，然后这些的成本主要是在数据上，就是你整体的。成比较计算的呃脱可能量变多了以后，那么那么你在你在你的一个是刚刚说的那个推理的成本上，第二个是在你的训练的成本上，你都需要再去去去去去增加额外的技术上面的成本，还有数据质量上面的成本要求。 00:10:56 那这个目前不是太大的障碍，就是现在已经可以是是最好的，已经可以跑到那么大了，那么现在上去的话，大家加上去的话，比如说我加不到加不到加不到一包或者加不到那么大 的话，我再往上去去去再去翻，做一个翻倍。是问题是不大的，只是还是那个那个刚刚的那个问题，就是加上去以后， 00:11:17 从商业商业角度上面去看的话，目前目前没有那么那么那么那么急切。嗯，明白，就可以理解为就是就回到我刚刚那个问题啊，就是它这个推理延迟有可能就是一个线性的成正比的一个上升，那这个成本呢。嗯， 00:11:37 成本的话，你都需要那个那个更更高阶的卡。如果说说的再简单一些的话，你就需要很多，你都需要更高级的卡。那么BC的一个卡的一个集群，那么和现在H系的一个集群的话，那么B系的就会稳定太多。就它会依赖于它的计算带宽，然后等等的那个那个硬件上面的带宽，它的缓存，然后它的对于它的精度的支持，它就会更好一些，那么上去的话的话，那么对于你的卡的那个要求，它也会会会会上去。然后这个这个这个这个是一个，但是呢是这个整体上去的话呢，还有一个因为是是上超过200B以上的那个那个那个模型整体的， 00:12:17 大家目前的大的架构的方式都是走mo1。那么是中间它因为还会还有一个激活参数，它可以去控这个，然后再去把它降下来，它有调优空间。但他从计算的角度上来说的话，它就是会会会往上翻，这个翻一倍可能比较夸张，应该是大概会有个60%或者这个50~60，00:12:37 因为还有很多技术优化的手段，可以去做一些一些一些帮助这么一个方式搬上去。 00:12:44 明白，然后还有一个就是那个，我看官方发了一个通稿啊，说扩大了一个预训练的算力规模。呃，我想问一下，就是咱们这个预训预训练预训练的这个算力啊，占总训练的算力的比例从多少提升到了多少啊？然后就是这些提升大概贡献了一个什么级别的收益？ 00:13:04 嗯，预训练的话呢是它的那个那个就是呃它模型有两个阶段，第一个阶段的那个预训练就是它能够里面能够承载的知识的量，你可以把它理解为一个承载的总的一个知识的量。那么你去扩大它的预训