优刻得(688158)CEO季昕华-调研纪要

工程能力对模型训练至关重要 Q：很多人都在说最终能参与到大模型这场竞争的只有少数几家云厂商，像高速网络就不是每家都有，您认为竞争的壁垒到底是什么？ 季昕华：是这样的，像高速网络这样的技术并不是竞争大模型的主要门槛。包括优刻得及大多数云厂商都有能力做。现在网络有两种结构：第一种是RoCE的网络，这方面优刻得在2019年就已经有这个能力了。 第二种是IB网络的方案，这是英伟达推荐的方案，这个方案相对来说更简单，只需要部署和维护。所以对云厂商或者体量特别大的公司来说，技术不是主要的门槛。 Q：其实现在有说法说很多大模型企业都开始囤卡了？ 季昕华：是的，尤其是一些大厂都在囤卡，包括A800、H800等。一方面自身的AI业务需要用到卡，加上有更多的资金投入，在此前就会购入大量的卡；另一方面，国内大范围关注大模型是在今年的2月份开始，各个厂商因为重视，也会加快囤卡的速度。 Q：那是不是拥有的卡越多就能躺赢？其他云厂商怎么和大厂竞争？ 季昕华：也没有躺赢，很多AI大模型公司现在也在用我们的卡，这种现象很普遍。 原因有几个：第一，只用一家的卡是不够的，第二，大模型公司为什么愿意和优刻得合作？是他们觉得大厂既有算力、算法，还有数据和场景，与大厂合作最终还是担心会存在业务竞争。而优刻得作为中立安全的云厂商，与大模型企业没有竞争。同时优刻得能够从数据中心、底层架构做到算力平台、模型库等，具有深厚的技术积累和一站式系统工程服务能力。 做好算力服务 做好大模型“红娘”这个角色Q：优刻得是什么时候开始关注大模型的？ 季昕华：最早接触是去年国庆的时候，首先看到的是Stable Diffusion，当时觉得它的效果非常惊艳，就开始关注了大模型了，所以ChatGPT的话我们跟进的比较早。 Q：所以去年国庆的时候就下定决心要做这件事了？ 季昕华：去年国庆之后，优刻得就把AIGC定为了今年的目标，去年11月份还发布了AI绘画平台镜像。今年2月份和国内头部的大模型公司交流之后察觉到国内算力市场将有一个爆发性的发展，所以在3月底下定决心要做这件事儿。 Q：在这些做大模型的企业中，有多少潜在客户？ 季昕华：我们总结了中国做大模型的公司有130家了，通用的有78家，垂直的有52家。而且还在持续增加，其中有30多家已经是我们的客户了。 Q：具体以什么样的形式输出服务？ 季昕华：一是我们的算力，二是机房服务，因为有些公司是自己买设备然后放到我们的机房。Q：机房服务怎么理解？是客户本身没有运营能力吗？ 季昕华：企业本身不管在哪都需要机房，大模型所需的机房有两个特点：一是它的电量消耗大，二是比如一台H100的机器所需功耗超过10kW，一般机房是满足不了这种需求的，优刻得的乌兰察布数据 中心就特别合适。另外，现在很多公司都存在有了服务器但用不起来的问题，那优刻得就可以帮助他们搭建一个算力平台并进行后续的维护工作。 Q：除了提供算力外，优刻得前段时间还发布了“识问”？ 季昕华：优刻得内部做了四个平台：知识问答平台“识问”、UCoder代码助手平台，AI绘画助手平台、大模型安全管理平台。其实在“识问”之前，最早我们首先做的是大模型应用管理系统，这是我们的第一款产品，希望未来所有人都能够用上大模型；第二为了解决商业安全问题，我们做了一些限制，包括你的提问、上传的文件，我们都会记录和过滤，防止公司机密信息在网络上泄露；第三针对用户的问题，包括员工内部的问题和外部的沟通和返回，系统会做自动记录，方便后期公司持续进行自己的模型训练。 Q：为什么做这四款产品？能对外吗？ 季昕华：一是为了公司员工都能了解大模型、使用大模型，在这基础上，才能深入明白大模型公司的痛点是什么、具体在哪些场景落地，这样才能更好地为客户提供服务。 这四款产品目前是公司内部使用的，但是如果客户有需要的话，我们也可以进行更多交流。Q：那这几个平台是基于哪个模型做训练的？季昕华：先用GPT 4训练，进行模型验证，走通后逐步再用国内的大模型或者开源大模型去优化。对此我还提了一个概念叫“国外磨枪、国内战斗”。 Q：未来还有哪些场景是您比较看好的？ 季昕华：如果按照对ChatGPT输出内容不准确定性的容忍度来区分的话，我们划分了10个场景。第一是翻译和配音，在这方面的能力已经非常高了，完全可以取代人类；第二是游戏的NPC；第三是社交；第四是电商的内容输出；第五是游戏设计；第六是客服；第七是公文和编程的辅助；第八是企业内部的知识管理，第九是教育场景和保险场景，最后是辅助律师和医生的工作。 Q：这10个场景会同时做吗？还是逐步推进？ 季昕华：优刻得不做大模型，我们只是把客户和合作方对接起来，可以理解为“红娘”的角色。比如把游戏客户对接给MiniMax、把电商、教育行业的客户对接给智谱华章。 国内大模型水平赶超GPT4很难 创业公司机会更多 Q：您认为国内大模型公司可以分为几类？哪些是优刻得的重点客户？ 季昕华：我们分为五大类。第一类是巨头，包括阿里、百度、头条，华为、京东等。第二类是科学家创业的，像智谱华章这类公司；第三类是原来的AI公司、AI四小龙、达观、云知声、第四范式等；第四类是创业公司，像MiniMax；第五类是原来的上市企业转行做大模型的，像昆仑、360，也包括王小川、李开复这些创业大佬等。 第一类大厂不是优刻得的目标客户，后面几类才是我们的重点客户。 Q：也就是说大厂有自建能力，其他企业是没有自建能力的？ 季昕华：因为涉及到人工智能领域，所以不仅是网络问题，还有存储、机房等一系列问题，例如创业公司也可以自建算力，但周期会很长，等他自建好之后，竞争就结束了。大模型比拼的就是速度，谁 速度快，谁就有可能占领制高点。 Q：对于大厂说，大模型分为几个阶段，几个节点？ 季昕华：第一是大模型上线，第二是上线后效果的验证。目前了解到上线的有MiniMax、智谱、百度、阿里、科大讯飞等公司。 Q：哪家的效果好，主要看算力用的多少吗？ 季昕华：我不这么认为，训练用的算力多不一定能训练出好的模型，但如果推理环节卡用的多的话，说明用户量大，得到的反馈也就更多，更有利于训练出好的模型。 Q：不管训练还是推理，做大模型首先还要有算力的？ 季昕华：对，第一要有卡，如果没卡的话肯定是落后的；第二要具备很强的工程能力，有了卡用不起来也不行，目前各家的工程能力发挥都在40-50%左右。以上两个问题都解决了，就是安全问题了，另外流量问题也很重要。 Q：国内模型到什么水平了？很多人说今年年底能追上GPT4。 季昕华：目前国内还没有出现超过GPT3.5的模型，当然在某个方面超过其实很容易。超越GPT4的话很难，关键在于GPT3.5之前的论文是公开的，但是GPT4还没有公开，所以大家都不知道该怎么做。Q：国内这些大厂也没有机会赶超吗？ 季昕华：我觉得现在大厂的效果都不如创业公司。因为有些有信念、有理想的创业公司早就开始做了，大厂实际上是看到ChatGPT火了之后才做的。 Q：按理来说大厂有技术积累，不更有机会吗？ 季昕华：AI有很多方向，以前大部分企业都认为垂直大模型有机会，不认为通用大模型有机会，所以过去几年真正做通用大模型的反而是一些有信念的创业团队和科研团队，比如智谱华章、MiniMax，中科院等。 那对大厂来说，更多的是看到国外在做这件事后进行跟进，并没有上升到公司战略，因此他们在通用大模型方面并没有特别多的积累。 Q：算力问题迟早会解决，那优刻得在大模型方面的优势是什么？ 季昕华：总结为三点：第一保持中立性，和用户是没有竞争关系的。第二具备数据中心、网络以及数据存储的一整套AIGC解决方案构建能力，能帮助中小型公司快速搭建平台，解决使用大模型的效率问题；第三能更好地帮助大模型公司拓展客户。