达里奥和奥特曼均认为AI发展过快可能超人类控制能力,达里奥担心智能体通过僵尸网络在6-12个月内控制互联网,主张限制递归自我改进速度,优先资源分配到对齐/可解释性,奥特曼则认同需控制发展速度,但近期OpenAI风头正盛,两家谁为Frontier尚不明确。
AI赛道未来发展趋势在于控制发展速度,达里奥提出限制算力销售、严打走私/蒸馏/权重,奥特曼认同需控制发展边界,政府角色将更加重要,可能通过制度化第三方评估、要求危险模型提供安全证明等方式,拉开不同国家/公司间的差距,最终实现领先优势。
这份研报重点分析了达里奥、奥特曼等对AI发展速度限制的观点主张,达里奥的Fable级模型、对递归自我改进速度的限制、资源分配优先级,奥特曼的算力锁定策略,以及达里奥提出的禁售算力、严打走私、地缘限制等措施,同时探讨了政府在未来AI发展中可能扮演的角色。
当前AI市场现状是发展迅速但存在风险,马斯克、奥特曼、达里奥均表达了对AI失控的担忧,达里奥认为AI可能通过僵尸网络在6-12个月内控制互联网,损失数千亿美元,奥特曼认同需控制发展边界,但近期OpenAI表现突出,两家谁为AI发展前沿尚不明确。
这份研报提示的风险包括AI发展过快可能失控,智能体可能通过僵尸网络控制互联网造成巨大损失,各国政府可能采取限制措施影响AI公司发展,地缘政治因素可能加剧竞争,此外,对AI安全性和可解释性的要求提高,也可能增加企业研发成本和合规压力。