1、大模型时代,程序执行从确定性编程变成LLM大模型基于概率的不确定模型,Token消耗波动、推理延迟抖动、会话上下文丢失等问题频发,Agent决策链路复杂,问题溯源变成更加困难,智能APM成为AI时代的刚需。 2、BonreeONE是国内首个实现一体化智能可观测性平台的产品,不仅可以监控Token的消耗,优化成本;而且可以支持多 建议关注AIInfra软件龙头,字节链核心标的【博睿数据】 1、大模型时代,程序执行从确定性编程变成LLM大模型基于概率的不确定模型,Token消耗波动、推理延迟抖动、会话上下文丢失等问题频发,Agent决策链路复杂,问题溯源变成更加困难,智能APM成为AI时代的刚需。 2、BonreeONE是国内首个实现一体化智能可观测性平台的产品,不仅可以监控Token的消耗,优化成本;而且可以支持多Agent系统中复杂交互行为的分析与追溯,并且在故障发生时自动进行根因分析,帮助客户快速定位问题,其产品模块以CPU核数为计费单位。 3、携手火山引擎,探索新商业模式。 火山引擎已经上线了博睿数据提供的第三方探针,将监控数据上报到APMPlus服务端进行应用性能监控,火山引擎按照写入数据量/上报事件量收费,双方按比例分成。 后续BonreeONE有望上线火山引擎,实现端到端全链路监测,双方有望探索新商业模式。