人工智能（AI）正进入成熟阶段，投资额巨大，但成本结构难以持续。全球AI市场规模预计到2030年将超过1.8万亿美元，但AI的经济效益脆弱，基础设施支出、高能耗和依赖专有计算生态系统导致技术进步与经济可行性之间的差距扩大。大多数创业公司和企业在短期内盈利困难。
本文提出了一个“节俭AI”生态系统，以解决这种不平衡。它介绍了一种“节俭AI技术堆栈”，该堆栈结合了压缩、高效硬件、分布式协调和开放标准，以实现70-90%的拥有成本（TCO）和高达80%的能源使用减少，而不会影响模型效用。此外，本文还定义了一个“社会经济堆栈”，将成本效率与社会包容、能力建设和公平的AI基础设施访问联系起来。通过降低参与门槛，节俭AI将创新扩展到以前因高昂的计算成本而被排除在外的社区、中小企业和公共机构。
通过比较分析、安全映射和新兴创业公司的例子，本文展示了如何通过节俭设计原则使先进的AI变得触手可及。技术和社会经济框架的结合说明了节俭AI如何驱动包容性经济增长，同时加速可持续性目标。通过将成本效率与社会价值相结合，节俭AI框架重新定义了未来十年的可扩展性：使系统能够不仅智能，而且经济实惠、可持续和包容。
节俭AI技术堆栈包括：
- 输入层：节俭数据和提示管理，使用提示压缩和输出无损压缩来减少资源使用。
- 模型层：高效模型设计和交付，使用模型压缩技术，如剪枝、量化和知识蒸馏。
- 计算层：成本和能源优化的执行，选择最佳硬件并根据任务动态选择。
- 编排层：分布式、混合和模块化智能，使用联邦学习和混合调度。
- 开放、可扩展、社区驱动的基础：开源硬件、模块化模型和管道API、透明指标。
与传统AI堆栈相比，节俭AI堆栈在成本、能耗和可扩展性方面具有显著优势。例如，训练一个像GPT-4或Gemini这样的最先进的LLM，在公共云基础设施上通常需要数千万到数亿美元，而节俭AI方法可以将训练成本降低到大约200万美元。此外，节俭AI方法还可以将推理能耗减少高达80%。
节俭AI还带来了新的安全挑战，需要采取积极主动、全面和响应性的方法来应对这些挑战。例如，模型压缩可能会降低模型的鲁棒性和隐私性，而转向非标准硬件可能会增加物理安全漏洞的风险。
除了技术框架，本文还提出了一个“社会经济堆栈”，该堆栈包括数据、模型、计算、编排和基础层，每个层都侧重于最大限度地提高社会和经济价值，同时减少资源需求。例如，社区主导的数据合作社和开放数据交换促进了数据民主化，而区域模型库则提高了本地相关性。
节俭AI将可持续发展放在首位，优先考虑整个AI生命周期的计算、能源和数据使用效率。传统AI模型，特别是基础模型和LLM，与巨大的环境足迹相关联。例如，训练一个领先的LLM可能消耗高达1吉瓦时的能源，而流行的生成式系统每用户查询的推理操作消耗2到5瓦时的能源。相比之下，节俭AI方法可以每操作减少高达80%的推理能耗。
最后，本文讨论了关键的创业公司和平台，以及节俭AI生态系统和观测站。它还强调了进一步研究的必要性，以探索节俭AI原则在不同部门和地域的测试、验证和扩展。
