新加坡人工智能安全现状

关于康科迪亚人工智能 新加坡人工智能安全现状 康科迪亚人工智能是一家社会企业，其使命是确保人工智能的开发和部署是安全的，并与全球利益相一致。它不隶属于任何政府或政治组织，也未被任何政府或政治组织资助。本报告中的观点仅代表作者个人观点。康科迪亚人工智能在本次报告的研究、撰写或出版过程中未从任何政府或企业实体获得任何资金支持。 作者 这份报告由李Jonathan、周Jason、NgKwanYee和蔡Brian撰写。 如何引用这份报告 李俊贤，周俊森，黄冠怡，以及蔡博伦，“新加坡人工智能安全现状”，康科迪亚人工智能，七月https://concordia-ai.com/wp-content/uploads/2025/07/State-of-AI-Safety-in-Singapore-2025.pdf.2025, i 推荐语 “新加坡人工智能安全状况报告提供了对新加坡人工智能安全和管理格局的全面概述，并为全球范围内日益增长的人工智能安全讨论做出了贡献。它将成为对新加坡及全球范围内人工智能治理和安全研究感兴趣的实践者和学者们宝贵参考。” 新加坡国立大学教授西蒙·切斯特曼 “这份报告是新加坡不断发展的AI安全领域及支持其的严格测试框架的深刻概述。该报告也为识别对建立AI系统信任至关重要的技术研究领域提供了有用的参考。它强调了新加坡在这方面的治理和技术研究方面的承诺。” 郭彦顏教授，南洋理工大学 通过分析人工智能安全的关键问题，本报告有力地论证了更深层次跨学科协作的必要性，并将成为研究人员和实践者都非常有用的资源。 王恒教授，新加坡管理大学 “爱迪克斯科技为能参与这份报告感到自豪。其清晰概述了新加坡不断扩展的AI保证生态系统，提供了宝贵的测试和资源路线图，赋能AI开发者和AI采用者加速可信AI的部署。” 贾一凡博士，AIDXTech创始人 致谢 我们感谢以下个人和组织对报告的支持和反馈（按姓氏字母顺序排列）： •西蒙·切斯特曼，新加坡国立大学•邵恩·伊，人工智能政策与战略研究所•贾一凡，AIDX科技 •莫汉·坎卡哈拉利，新加坡国立大学•特里斯坦·柯，新加坡人工智能研究院•兰国炎，南洋理工大学•龙泽云，新加坡国立大学•李雅薇，新加坡资讯通信媒体发展局人工智能治理与安全•马凯莎，独立•新奥文，南洋理工大学•钱子兰，牛津大学•塞拉贾·赛尔瓦拉吉，新加坡国立大学•萨德·西迪基，安全人工智能论坛•罗宾·斯塔斯-波莱特，未来社会•谭志璇，新加坡国立大学•多琳·张，托尼·布莱尔全球变革研究院•王恒，新加坡管理大学•耶德·伊，FAR.AI 所有观点和结论均保持仅为作者的观点。 目录 执行摘要1 引言3 报告范围5 1国内方法6 1.1自愿框架7 1.2人工智能安全测试与保障9 1.3硬性规定........................................131.4标准14 2国际方法16 2.1多边倡议......................................172.2区域倡议.......................................202.3双边倡议.......... ..............................212.4新加坡的召集能力和区域治理23 3行业24 3.1新加坡的本土gpaI模型.............................243.2第三方AI保障供应商263.3 外国AI开发者27 4技术研究29 4.1新加✲国立大学（NUS）.30 4.2南洋理工大学（NTU）.33 4.3新加✲管理大学（SMU）.35 4.4新加坡科技设计大学（SUTD）36 4.5科研局（A*STAR）37 4.6政府技术局（GovTech）37 4.7新加坡人工智能安全研究所38 4.8总体趋势38 目录新加坡人工智能安全现状 5民意40 5.1全球调查40 结论42 附录：调查结果44 墨尔本大学和KPMG全球研究2025年✁AI风险.44 YouGov关于媒体生成式AI✁调查（2024–2025）.45 注释46 执行摘要 虽然实现人工智能的全球利益和管理其风险需要广泛的国际合作，但目前全球的讨论过度集中在少数几个正在建立最先进人工智能系统的国家。新加坡表明，资源受限的小国仍然可以影响新兴的安全规范。自2019年引入全球首批模型人工智能治理框架以来，这个城市国家一直专注于构建实用、行业就绪的工具和多语言安全评估，将高层次原则转化为日常实践。截至2025年7月初，本报告提供了对新加坡人工智能安全生态系统的首次全面调查，分为五个领域。 国内方法 •新加坡依赖自愿框架和有针对性的立法，而不是广泛的或全国性的特定人工智能法律。通用人工智能治理框架，最初于2019年为传统人工智能发布，并于2024年为生成式人工智能更新，为行业提供了广泛的自愿指导方针，而立法具有针对性，专注于特定的AI风险，例如针对AI生成的选举深度伪造品的新处罚。目前没有明确的迈向国家人工智能法的动向。 •政策工具强调下游测试和保障，而非模型“安全测试LLM应用的入门套件”等倡议等级控制。 “全球人工智能信任沙盒”为部署者提供专门的测试用例和具体指导，说明如何测试生成式人工智能应用的不同组件以识别安全风险。由于与全球模型层面的测试和评估相比，应用层面的测试和评估尚未得到充分探索，新加坡对部署测试的关注使该国能够填补全球人工智能安全实践中的一个重要空白。 国际方法 •新加坡在全球和区域人工智能治理中发挥着举足轻重的主导作用。自2018年以来，它积极参与全球人工智能治理讨论，在联合国和其他场合做出贡献。它利用其中立的外交政策立场举办国际人工智能会议，如新加坡人工智能会议，并利用其外交平台放大小国的声音。作为东南亚国家联盟（东盟）数字部长会议2024年的主席，并通过小国数字论坛（数字FOSS）倡议，新加坡已经推动了包容性对话和能力建设，使发展中国家能够帮助塑造全球人工智能规范。 •双边层面，新加坡在贸易和数字协议中嵌入人工智能治理条款，并通过“对照表”鼓励互操作性，该对照表将国际治理框架映射到彼此。近期数字经济协议中包含了相关规定 执行摘要新加坡人工智能安全现状 构建人工智能治理系统，并在合作伙伴之间分享最佳实践。人工智能验证测试框架通过与NIST人工智能风险管理框架和ISO/IEC42001对齐来简化合规性，使企业能够通过单一的测试流程满足人工智能安全义务。 行业 •新加坡本土模型优先进行区域语言的训练，安全功能仍处于早期阶段，计划进行进一步开发。SEA-LION和MERaLION模型系列侧重于东南亚语言和方言，而非前沿能力；当前的防护措施仅限于基本的毒性评估和SEA-Guard提示过滤器，后者尚处于早期阶段。 •新加坡是一个充满活力的保证中心，拥有主要的国外通用人工智能开发者，以及本地和国际人工智能安全测试与保证提供者。领先的美国和中国科技公司以及全球前沿初创企业设立新加坡办事处或合作伙伴关系，进行人工智能安全测试，为新加坡带来专业知识。同时，本地和国际人工智能保证公司通过提供覆盖模型、应用和组织层面的测试和保证服务，形成一个全面的生态系统。 技术研究 •人工智能安全领域的学术研究正在扩展，以新加坡大学为主要推动力。大多数出版物来自新加坡国立大学、南洋理工大学、新跃大学和新加坡科技设计大学，并获得A*STAR、新加坡政府技术和新加坡人工智能安全研究所的支持。他们的研究中心关注鲁棒性、多模态安全、重学以及智能体行为，而《新加坡全球人工智能安全研究优先事项共识》（2025年5月）则提供了一套技术研究领域——风险评估、安全设计开发和开发后控制——为未来合作探索未充分研究的风险领域提供了路线图。 舆论 •关于人工智能安全的可靠公众舆论数据有限，且集中于近期担忧。 目前还没有专门的全国性调查探讨新加坡人对人工智能风险的观点。很少有全球性民意调查包括新加坡 ，而这些调查显示公众对虚假信息、数据隐私、网络安全以及人际互动减少感到担忧。 引言 一个没有边境人工智能能力✁弱小国家如何才能对全球人工智能安全做出有意义贡献？这个问题随着全球人工智能治理讨论日益集中于少数几个大国✁行动而变得重要，可能会忽略一些规模虽小但战略位置优越✁国家✁方法。尽管新加坡在人工智能治理方面起步较早——2019年发布了世界上第一个全面✁国家人工智能治理框架——但国际社会对新加坡方法✁理解仍然有限。这个差距很重要，因为新加坡代表着人工智能生态系统中✁不同模式。它不是在原始计算能力上竞争或追求前沿人工智能模型开发，而是在人工智能认证、多语言安全测试以及结合尖端全球标准与区域需求✁实用治理框架方面建立了显著优势。 新加坡✁方法自其开创性✁2019模型人工智能治理框架以来已经发生了显著变化。从第一份官方发布开始 ，这个城市国家已经制定了一系列治理工具和安全基础设施。仅在2025年上半年，新加坡就举办了第二次新加坡人工智能会议（SCAI），该会议产生了《新加坡关于全球人工智能安全研究优先事项✁共识》；与其他国家级人工智能安全研究所（AISIs）发布了联合测试报告；启动了生成式人工智能应用测试试点和沙盒；并提升了其开源模型阵容，推出了MERaLION-2。 诸如土地面积有限、能源成本高昂以及缺乏本地前沿人工智能实验室等结构性因素，使得大规模模型训练在新加坡并不切实际。然而，该地区通过转而专注于人工智能生命周期✁后期阶段，将这些制约因素转化为机遇。新加坡提供独立✁AI模型测试框架，开展应用层面✁安全测试计划（“全球人工智能保障沙盒”），并向AI部署者发布实用指南（“基于LLM应用✁安全测试起步套件”）。 此外，新加坡专注于多语言测试，并支持本土人工智能模型管道，该管道将语言多样性置于首位。该国有四种官方语言——英语、普通话、马来语和泰米尔语——并且地处东南亚多种语言交汇✁地区。其海狮（SEA -LION）语言模型家族，连同多模态✁海狮（MERaLION），涵盖了13种东南亚语言，甚至包括当地方言或口音。除了模型之外，新加坡还组织了多语言红队演练和其他项目，以应对非英语语言人工智能安全这一研究不足✁挑战。 新加坡✁影响力远超其国界。在区域内，SEA-LION✁架构支撑了泰国✁Wangchan-LION和印尼✁Sahabat -AI大型语言模型，而《东盟人工智能治理与伦理指南》（后扩展以涵盖生成式人工智能）大量借鉴了新加坡✁ModelAIGov 引言新加坡人工智能安全现状 治理框架。在借鉴这些地区贡献✁基础上，新加坡已成为全球人工智能治理✁可信赖✁协调者；自2018年以来，它参与了联合国讨论以及全球人工智能安全峰会。其外交中立声誉和作为可靠✁国际东道主✁声誉，使该国能够在国内举办高规格✁会议——包括新加坡人工智能会议——而诸如小国数字论坛（数字FOSS）人工智能手册等倡议则确保小国能够参与制定国际规范。这些倡议展示了这样一个规模虽小但外交活跃✁城市国家，如何通过利用其在国内治理、国际合作、第三方测试社区以及人工智能安全科学研究方面✁独特优势来塑造人工智能安全规范。 为填补这一知识空白并记录新加坡在人工智能全球安全方面✁独特贡献，本报告首次对新加坡✁人工智能安全生态系统进行了全面分析。我们审视了新加坡在五个关键领域✁人工智能安全与治理方法： 1.国内方法：我们分析了新加坡✁多层治理策略——包括自愿框架、有针对性✁立法、国家标准和测试/评估计划——并展示了这些措施如何应对不同类别✁AI风险。 2.国际方法：我们考察新加坡✁国际声誉如何使其能够举办高规格✁人工智能活动，并通过多边论坛 、区域倡议和双边合作促进全球人工智能治理。 3.行业：我们探讨了新加坡本土通用人工智能模型、蓬勃发展✁第三方人工智能保证市场，以及外国人工智能开发者在当地生态系统中✁作用。 4.技术研究：我们在新加坡✁大学、政府机构和研究机构中绘制了人工智能安全研究领域✁蓝图，概述了人工智能安