登录
注册
个人信息
我的订单
我的报告豆
我的优惠券
我的笔记
我的阅读
我的收藏
我的下载
我的上传
我的订阅
在线客服
退出登录
回到首页
AI
搜索
发现报告
发现数据
发现专题
专题报告
专题百科
研选报告
定制报告
VIP
权益
付费社群
发现一下
行业研究
公司研究
宏观策略
财报
招股书
会议纪要
Token
低空经济
十五五
AIGC
大模型
当前位置:首页
/
行业研究
/
报告详情
2025负责任人工智能进展报告
信息技术
2025-03-20
谷歌(Google)
测试专用号1普通版
负责任的人工智能进展报告总结
核心观点与治理框架
谷歌采用基于NIST框架的治理、映射、衡量和管理AI风险的方法,以AI原则为指导,强调大胆创新、负责任的发展和协作进步。
框架涵盖整个AI开发生命周期,包括模型与应用要求、领导评估、发布前和发布后流程,确保与AI原则和政策保持一致。
治理流程包括全栈式方法,从负责任地开发和应用模型,到发布后的监控和修复。
风险研究与评估
通过研究和专家咨询评估AI风险,并将输入编纂成风险分类法,涵盖安全、隐私和安全,以及透明度和责任风险。
风险研究包括生成式AI潜在误用、新型AI能力、AI新兴风险等领域,已发表300多篇相关论文。
采用科学方法映射风险,与技术的发展同步,并适应AI模型或应用的使用环境。
评估与测量方法
模型与应用评估是核心,在启动前后评估与既定框架和政策的一致性,包括定量分析指标和道德考量。
多层式红队作战,包括内部和外部团队测试AI系统以寻找弱点并识别潜在风险,以安全为导向和内容为导向的红队模拟现实世界的攻击。
人工智能辅助评估,如AI自动评分器、合成测试数据和自动测试安全漏洞,帮助扩展风险测量。
案例研究:AlphaFold 3
AlphaFold 3是一个预测分子结构和相互作用的AI模型,通过伦理和安全评估,确保其潜在风险和收益得到管理。
与EMBL合作推出教程,并参与AI-Bio论坛等民间社会和行业努力,持续识别和绘制AI对生物安全的潜在风险和利益。
案例研究:Gemma模型
Gemma系列模型是轻量级的、最先进的开源模型,采用自动化技术和稳健的评估方法确保安全性和可靠性。
在MLCommons的AILuminate v1.0基准测试中取得强劲的外部结果,并通过内部和外部评估确保符合政策标准。
内容安全、安全和隐私管理
采用SAIF框架缓解已知和新型AI安全风险,包括数据中毒、模型泄露和恶意行为等。
管理内容安全通过系统指令、安全过滤器等措施降低产生有害内容的风险。
管理隐私通过情境完整性框架等技术保护隐私,并投资于隐私风险缓解研究。
生态系统赋能
通过研究资金、工具和标准赋能更广泛的生态系统,如人工智能安全基金(AISF)、MLCommons、世界经济论坛人工智能治理联盟等。
推进用户理解,通过来源、可解释性和AI素养教育,帮助用户更好地理解和使用AI。
案例研究:NotebookLM
NotebookLM是一种AI驱动的科研与写作助手,开发过程中优先考虑负责任的AI实践,包括风险识别、缓解策略和分阶段推出。
通过用户反馈和迭代开发,不断改进产品的安全性和有效性。
案例研究:SynthID
SynthID技术通过嵌入数字水印识别AI生成内容,降低其导致虚假信息和错误归因的风险。
开源SynthID工具,帮助任何开发者应用水印到他们的生成AI模型上,并分享如何标注AI生成内容的分析。
结论
谷歌致力于在AI领域大胆创新的同时承担起责任,持续投资于研究、与外部合作,并与更广泛的社区互动。
通过负责任的AI实践,推动科学进步并带来广泛利益,创造一个人工智能成为善的力量的未来。
你可能感兴趣
2025负责任人工智能进展报告
信息技术
谷歌(Google)
2025-03-31
2025以生成式人工智能推动银行业负责任创新:生成式人工智能沙盒实务洞见报告
信息技术
香港金融管理局
2025-11-25
负责任采用人工智能的良好实践磋商报告
金融
金融稳定理事会
2026-06-10
2025年从原则到实践:在动态监管环境下负责任的人工智能报告
信息技术
人工智能治理和合规工作组
2025-01-15
2021年负责任的人工智能报告
信息技术
FICO
2021-06-01
2026负责任AI进展报告
Google&Google DeepMind
2026-02-18
2025负责任AI透明度报告:我们如何构建、支持客户和发展
微软
2025-06-16
2025负责任AI影响报告:紧迫风险、新兴保障与影响社会的公共利益解决方案
金融
All Tech Is Human
2025-12-02
生成式人工智能与政府:政府机构如何负责任地驾驭人工智能领域,实施具有高影响力的生成式人工智慧解决方案
信息技术
世界政府峰会
2024-02-11
人工智能与生命科学的负责任创新
医药生物
安远AI
2025-07-14