黄连金ChatGPT和PlugIn 的 应用和安全

演讲题目: ChatGPT和Plug-In 的 应用和安全•演讲人：黄连金•单位名称 云安全联盟大中华区 人工智能的三要素和三类型•三要素•数据（从演绎推理到归纳推理，需要大量数据，包括Prompt）•算法 （深度学习， ChatGPT在工程上有大量创新和改进）•算力 （需要大量GPU， ChatGPT 用到1万个英伟达的GPU, 28万CPU）•三种类型•弱人工智能：就是利用现有的算法辅助各个行业的应用。•强人工智能：非常接近于人的智能，ChatGPT。•超级人工智能：这个是否可能？ ChatGPT 的技术原理：基于Transformer的大型语言模型1：大型语言模型可以体现智能2：预测可以体现智能3：人类监督学习和反馈机制是关键4：利用PPO: 近端策略优化 （Proximal Policy Optimization)增强学习来持续提高智能5：目前在写代码和文章已经有优势 ChatGPT+Plug-In: 从AIGC 到 AIGE（Economy)•AI 产生的新经济系统和商业模型已经不可逆转•价值效应超过：操作系统，Web和AppStore•OpenAI，Microsoft 有先发优势，但是。。。•不注意安全会带来灾难 ChatGPT数据泄露已经发生泄露的对话和提示：2023年3月22日，ChatGPT的一些对话和提示被随机泄露给其他用户，这是对GDPR法规的明显违反。另外支付信息泄露违反PCI/DSS ChatGPT的安全问题 （CSA CEO：Jim Reavis） ●Access control and user authentication (访问控制和用户身份验证): 限制对ChatGPT插件的访问并确保只有授权用户可以使用。●利用去中心化数字身份DID●利用智能合约约束AI●Rate limiting and spam prevention (限制访问速率和防止垃圾信息): 对访问请求进行限制，以防止恶意攻击和垃圾信息泛滥。ChatGPT Plug-in的安全防护措施 ChatGPT 和 Plug-In的安全趋势 THANK YOU.