您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。[信达证券]:Meta推出开源大模型Llama3:最大底牌4000亿参数,性能直逼GPT-4 - 发现报告
当前位置:首页/行业研究/报告详情/

Meta推出开源大模型Llama3:最大底牌4000亿参数,性能直逼GPT-4

文化传媒2024-04-22冯翠婷信达证券郭***
Meta推出开源大模型Llama3:最大底牌4000亿参数,性能直逼GPT-4

请阅读最后一页免责声明及信息披露 http://www.cindasc.com 1 证券研究报告 行业研究 [Table_ReportType] 行业点评 [Table_StockAndRank] 传媒行业 投资评级 看好 上次评级 看好 [Table_Author] 冯翠婷 传媒互联网及海外 首席分析师 执业编号:S1500522010001 邮箱:fengcuiting@cindasc.com [Table_OtherReport] 信达证券股份有限公司 CINDA SECURITIES CO.,LTD 北京市西城区闹市口大街9号院1号楼 邮编:100031 [Table_Title] Meta推出开源大模型Llama 3:最大底牌4000亿参数,性能直逼GPT-4 [Table_ReportDate] 2024年4月21日 [Table_Summary] 近期AI相关热点更新: ➢ Meta推出开源大模型Llama 3。Meta推出了其最强大的开源人工智能(AI)模型Llama 3,以追赶行业领导者OpenAI。Llama 3有8B和70B两个版本,大版本的Llama 3将有超过4000亿参数。Meta同时发布了AI助手的更新版本。该助手将在Meta的Facebook、Instagram、WhatsApp和Messenger应用以及一个新设立的独立网站Meta.ai中获得更突出的地位,让Llama 3能够更直接与ChatGPT竞争。 ➢ 百度提升文心大模型4.0,发布智能代码助手Comate。文心大模型4.0,半年时间又提升了52.5%,在智能体、代码、多模型上也有了新进展,智能代码助手Comate,可以帮专业的程序员更高效地写出更好的代码。在模型效果不断提升的基础上,百度进一步构建了上下文增强、私域知识增强、流程无缝集成等能力。目前百度智能代码助手Comate整体采纳率达到了46%,新增代码中生成的比例已经达到了27%。 ➢ Reka公司推出最新多模态语言模型Reka Core。由DeepMind、谷歌和Meta的研究人员创立的AI初创公司Reka,推出了最新的多模态语言模型——Reka Core,具备理解图像、音频和视频等多种模式数据内容的惊人能力,是继谷歌的Gemini Ultra之后的又一个令人瞩目的作品,在性能上与GPT-4和Claude 3 Opus不相上下。 ➢ Sora进驻Adobe视频编辑软件,新版Premiere Pro开启AI剪辑时代。在最新发布的Premier Pro概念演示里,Adobe展示了与OpenAI合作的探索成果:完全由Sora生成一段B-roll辅助镜头,除了Sora之外,其他流行AI视频工具Runway和Pika也将作为可选项,这些功能还处于早期预览和研究阶段,尚未透露何时发布。 ➢ Mistral AI发布最新8x22B MoE模型,可以处理65k上下文长度。蚂蚁数科DeepFake产品上新。DeepFake已经不再简单替换技术来生成,还有像活化、编辑以及合成等攻击手段。攻击形式,DeepFake也从简单的呈现式攻击朝着更为复杂的注入式攻击转变。ZOLOZ Deeper则是专门针对注入式、活化等复杂攻击手段的产品。在技术实现上,ZOLOZ主要采取攻和防两条路线。防这方面,ZOLOZ Deeper 搭建了端云一体的全链路技术体系,能应对系统、服务器、应用等多环节的安全威胁。攻则是借助天玑实验室来进行自动化攻防测评。 投资建议: ➢ 受益于全球生成式AI持续发展,文生图/视频/音乐/代码等多方面应用的迭代更新有望长期给诸多行业带来降本增效,重点关注:1)AI+影视:慈文传媒、上海电影、万达电影、光线传媒、华策影视; 请阅读最后一页免责声明及信息披露 http://www.cindasc.com 2 2)AI搜索:昆仑万维、三六零等;3)AI+IP(涉及版权、算料等):中广天择、华数传媒、新华传媒、中文在线、上海电影、华策影视、奥飞娱乐、果麦文化、捷成股份、南方传媒、视觉中国;4)AI+3D:大丰实业、丝路视觉、凡拓数创、恒信东方、风语筑、锋尚文化、岭南股份;5)AI+营销:分众传媒(高分红)、三人行、因赛集团、易点天下、值得买、蓝色光标、兆讯传媒、浙文互联、每日互动;6)AI+教育/阅读:南方传媒、盛通股份、世纪天鸿、掌阅科技等;7)AI+出版(高分红):南方传媒、皖新传媒、时代出版、城市传媒、中南传媒、凤凰传媒、果麦文化等;8)AI+游戏:巨人网络、恺英网络、完美世界、紫天科技、盛天网络、昆仑万维、神州泰岳、三七互娱、掌趣科技、宝通科技、吉比特、名臣健康、姚记科技、顺网科技、汤姆猫、星辉娱乐;9)其他:万兴科技、人民网、新华网、福昕软件、金山办公、松炀资源等。10)重点提示:分众传媒。 ➢ 风险因素:生成式AI公司资本开支不及预期、AI应用迭代不及预期。 表1:海外科技企业近期动态汇总 日期 公司 事件 4.19 Meta Meta推出了其最强大的开源人工智能(AI)模型Llama 3,以追赶行业领导者OpenAI。Llama 3有8B和70B两个版本,大版本的Llama 3将有超过4000亿参数。由于预训练和指令微调,Llama 3相比Llama 2有了极大的改进。Meta同时发布了AI助手的更新版本。该助手将在Meta的Facebook、Instagram、WhatsApp和Messenger应用以及一个新设立的独立网站Meta.ai中获得更突出的地位,让Llama 3能够更直接与ChatGPT竞争。开源的Llama是Meta人工智能战略的重要组成部分。 Meta公司近日发布了一项名为OpenEQA(开放词汇体验问答)的全新基准测试,旨在评估AI Agent对物理空间的理解能力。OpenEQA框架通过向AI Agent提出开放词汇问题,来衡量其对环境的理解程度。这些问题涵盖了物体识别、功能推理以及世界知识等多个方面。Meta公司发布的基准测试结果显示,最先进的视觉+语言基础模型(VLM)在OpenEQA任务上的表现与人类相比仍有显著差距。 4.17 昆仑万维 昆仑万维天工3.0基座大模型与天工SkyMusic音乐大模型正式开启公测。天工3.0拥有4000亿参数,超越了3140亿参数的Grok-1,是全球最大的开源MoE大模型。天工3.0在语义理解、逻辑推理、学习能力等领域拥有突破性的性能提升,数学/推理/代码/文创能力提升超过30%。天工SkyMusic是中国首个音乐SOTA模型,更是中国的自研大模型技术第一次在AIGC领域领跑全球。天工SkyMusic在人声&BGM音质、人声自然度、发音可懂度等领域显著领先对手,并以6.65分的综合得分超越Suno V3,成为全球AI音乐SOTA模型。此外,天工SkyMusic还拥有独创的参考音乐生成与方言歌曲生成能力。 4.17 Reka 由DeepMind、谷歌和Meta的研究人员创立的AI初创公司Reka,推出了最新的多模态语言模型——Reka Core,具备理解图像、音频和视频等多种模式数据内容的惊人能力,是继谷歌的Gemini Ultra之后的又一个令人瞩目的作品,在性能上与GPT-4和Claude 3 Opus不相上下。Core 不仅仅是一个前沿的大型语言模型,它对图像、视频和音频具有强大的上下文理解能力,是仅有的两个商用综合多模态解决方案之一;Core 请阅读最后一页免责声明及信息披露 http://www.cindasc.com 3 能够摄取并精确准确地调用更多信息;Core在语言或者数学方面具有出色的推理能力,使其适用于需要精密分析的复杂任务;Core是顶级代码生成器。它的编码能力与其他功能相结合时,可以增强代理工作流程的能力;Core是在32种语言的文本数据上进行的预训练,因此,它能说流利的英语以及好几种亚洲和欧洲的语言;与Reka其他型号的模型(Flash和Edge)一样,Core可通过API、本地或设备部署,以满足客户和合作伙伴的部署限制。 4.17 百度 文心大模型4.0,半年时间又提升了52.5%,在智能体、代码、多模型上也有了新进展,智能代码助手Comate,可以帮专业的程序员更高效地写出更好的代码。在模型效果不断提升的基础上,百度进一步构建了上下文增强、私域知识增强、流程无缝集成等能力。目前百度智能代码助手Comate整体采纳率达到了46%,新增代码中生成的比例已经达到了27%。 4.16 Adobe 在最新发布的Premier Pro概念演示里,Adobe展示了与OpenAI合作的探索成果:完全由Sora生成一段B-roll辅助镜头,除了Sora之外,其他流行AI视频工具Runway和Pika也将作为可选项,这些功能还处于早期预览和研究阶段,尚未透露何时发布。与之相比,由Adobe自己的AI产品Firefly支持的功能确定性更强一些。专业剪辑师无需离开Premiere Pro,就能轻松在视频中添加和删除物体,以及在时间轴上扩展素材。 4.16 蚂蚁数科 蚂蚁数科DeepFake产品上新。DeepFake已经不再简单替换技术来生成,还有像活化、编辑以及合成等攻击手段。攻击形式,DeepFake也从简单的呈现式攻击朝着更为复杂的注入式攻击转变。ZOLOZ Deeper则是专门针对注入式、活化等复杂攻击手段的产品。现在,ZOLOZ Deeper主要用于在用户刷脸场景中拦截 “AI换脸”风险。在技术实现上,ZOLOZ主要采取攻和防两条路线。防这方面,ZOLOZ Deeper 搭建了端云一体的全链路技术体系,能应对系统、服务器、应用等多环节的安全威胁。攻则是借助天玑实验室来进行自动化攻防测评。最后,ZOLOZ还联合蚂蚁安全响应中设立了超百万的奖金池,诚邀白帽黑客们来给产品找bug,可以通过“蚂蚁集团安全响应中心”官网提报漏洞。 4.14 xAI xAI 推出了 Grok-1.5V,该模型不仅能理解文本,还能处理文档、图表、截图和照片中的内容。Grok-1.5V的推出,展示了xAI在多学科推理、文档理解、科学图表、表格处理、屏幕截图和照片等多个领域的技术实力。xAI官方表示,Grok-1.5V在这些领域的表现能够媲美现有的前沿多模态模型。此外,Grok-1.5V在RealWorldQA基准测试中的表现也非常出色,比GPT-4V、Claude 3Sonnet、Claude 3 Opus和Gemini Pro 1.5等主流竞争对手更为优异。这一成绩进一步证明了Grok-1.5V在多模态理解和生成任务上的强大能力。 资料来源:腾讯科技,百朋AI学堂,量子位,机器之心,新智元,昆仑万维集团,信达证券研发中心 请阅读最后一页免责声明及信息披露 http://www.cindasc.com 4 [Table_Introduction] 研究团队简介 冯翠婷,信达证券传媒互联网及海外首席分析师,北京大学管理学硕士,香港大学金融学硕士,中山大学管理学学士。2016-2021年任职于天风证券,覆盖互联网、游戏、广告、电商等多个板块,及元宇宙、体育二级市场研究先行者(首篇报告作者),曾获21年东方财富Choice金牌分析师第一、Wind金牌分析师第三、水晶球奖第六、金麒麟第七,20年Wind金牌分析师第一、第一财经第一、金麒麟新锐第三。 凤超,信达证券传媒互联网及海外团队高级研究员,本科和研究生分别毕业于清华大学和法国马赛大学,曾在腾讯担任研发工程师,后任职于知名私募机构,担任互联网行业分析师。目前主要负责海外互联网行业的研究,拥有5年的行研经验,对港美股市场和互联网行业有长期的跟踪覆盖。主要关注电商、游戏、本地生活、短视频等领域。 刘旺,信达证券传媒互联网及海外团队高级研究员。北京大学金融学硕士,北京邮电大学计算机硕士,北京邮电大学计算机学士,曾任职于腾讯,一级市场