背景与现状
虚拟世界互动是指在虚拟空间中进行沉浸式的多人(数字人或真人)互动,涵盖社交、游戏、展览等多种形式。当前,云蹦迪、互动游戏、演唱会直播等已成为常见的虚拟世界互动应用,其特点为用户友好、形式灵活、迭代迅速。
平台方案:快手虚拟世界互动平台(KMIP)
快手虚拟世界互动平台(KMIP)是一个面向虚拟世界互动的综合性平台,支持PC、App、H5等多种终端,并提供SDK、主播/观众信令/音视频接入层、计算层、智能调度、鉴权AI引擎、端云协同等功能。平台基础层采用自研云平台、网络、CPU/GPU/存储,以及三方云平台;技术层包括图形引擎、物理引擎、渲染引擎等;资产库包含3D模型和动作库;交互信号涵盖音视频RTC实时推流等。
软件方案
- 快手虚拟演播助手(KVS):面向PGC的数字人驱动及开播工具,集成3D数字人和场景的一站式能力,提供丰富的特效玩法,支持多平台推流直播。其架构包括直播电商、虚拟人表情驱动、智能文娱虚拟拍摄、绿幕抠像及光影融合、虚拟人语音驱动、业务场景虚拟人肢体驱动、互动特效能力层、动作捕捉硬件适配、消息响应、MVC框架、UI分层自适应交互层、中间件及基础层、渲染引擎、物理引擎、AI引擎、传感器信号采集及融合、音视频处理、压缩和传输、素材资源管理、登陆中台、素材中台、埋点统计中台等。
- 快手面捕助手(KFC):面向UGC的数字人驱动及直播工具,仅需普通摄像头即可实现面部、肢体、手部的动作捕捉与驱动,支持丰富的预置模型,支持DIY捏脸,以及Live2D、VRM模型导入等。其架构包括虚拟人表情驱动、虚拟主播(娱乐、游戏等)、虚拟人拼脸及DIY、虚拟人语音驱动、业务场景、虚拟人肢体驱动、互动特效能力层、中间件及基础层、从PSD原画重建虚拟人场景及挂件、虚拟世界互动、消息通知、进程间通信、MVC框架、UI分层自适应交互层、挂件模式、渲染引擎、物理引擎、AI引擎、传感器信号采集及融合、音视频处理、压缩和传输、素材资源管理、登陆中台、素材中台、埋点统计中台等。
项目案例
- 主播与主播互动场景:多个虚拟主播同屏直播互动。
- 主播与观众互动场景:虚拟主播+真人主播+观众虚拟化身云蹦迪,虚拟IP+观众虚拟化身演唱会,真人IP+观众虚拟化身演唱会。
- 其他创新场景:真人IP+观众虚拟化身互动剧,主播+观众虚拟化身互动/打赏。
总结与展望
快手通过虚拟世界互动平台(KMIP)、快手虚拟演播助手(KVS)、快手面捕助手(KFC)等软件方案,结合合作伙伴、技术、内容运营、硬件设备、3D资产、文字图像视频(长/短视频、直播)、XR(AR/MR/VR)、生态流量、策略运营、活动资源整合等,构建了完整的虚拟世界互动生态。未来,快手将继续拓展虚拟世界互动的应用场景,推动虚拟人技术的发展。