浙商计算机刘雯蜀郑毅从Anthropic自我复制研究...

Anthropic的研究报告指出模型在设备上部署权重、本地运行并继续传播的潜在风险。此类复制体一旦形成，难以通过停用账户或关闭单一服务清除，需同时覆盖模型、网络与终端的防护。实验显示小模型已具备复制链条中的多项关键能力，如环境适配与推理部署，对跨设备行为识别提出更高要求。

研究团队用15台低价电视盒子协同运行26B模型，9B模型在9类硬件中的8类上成功搭建推理服务。GLM-5.2通过简化入侵环节、驱动模型独立运行的实验完成复制流程。实验显示新实例继承前序笔记后，推理部署成功率由45%提升至后续各代的61%—84%，排错经验可被后续任务复用。

实验显示，新实例继承前序笔记后，推理部署成功率由45%提升至后续各代的61%—84%，排错经验可被后续任务复用。潜在AI蠕虫由执行固定脚本向适配不同环境延伸，对跨设备行为识别提出更高要求，有望拓展网络检测、终端防护与自动化安全运营的协同需求。

小模型可参与环境识别、依赖配置和故障排查，减少人工适配；低成本设备协同推理为利用分散算力提供实验路径，应用方向可延伸至模型部署、推理调度与设备运维。但同类能力也可能被恶意Agent利用，防护需从数据与账户扩展至计算资源、执行权限及设备间通信，将模型加载、工具授权与运行监测纳入管理。

该研报提示的安全需求及产品落地不及预期、端侧商业化不及预期、行业竞争加剧等风险。由于小模型具备的复制能力可能被恶意利用，防护需从数据与账户扩展至计算资源、执行权限及设备间通信，将模型加载、工具授权与运行监测纳入管理。