确保数据信任 ： Guidewire 的生成 AI 指南

Guidewire在其生成式AI白皮书中强调了数据信任和安全的重要性，并详细阐述了在财产险领域应用生成式AI的策略。核心观点包括：

1. 数据信任与安全：Guidewire承诺通过建立集中的生成式AI网关（GenAI Gateway）来确保数据隐私和安全，该网关采用多租户身份验证和授权系统，并支持对数据进行匿名化处理，以减少敏感信息泄露风险。

2. 数据隐私与安全挑战：生成式AI模型存在数据泄露和数据幻觉的风险。数据泄露可能源于用户输入的敏感信息被模型学习并重新训练，如三星员工泄露源代码事件。数据幻觉则指模型生成基于训练数据中不存在模式的信息，如ChatGPT错误列出美国总统数量。

3. GenAI模型部署策略：Guidewire采用两种部署原则：

   • 共享多租户基础模型：利用AWS Bedrock等通用模型，确保客户数据保留在私有网络中，降低泄露风险。
   • 专用任务特定微调单租户模型：在AWS云平台上部署针对特定任务的微调模型，提高准确性和一致性，同时确保数据隔离。

4. 技术优化方法：结合传统NLP算法与大型语言模型，采用检索增强生成（RAG）和监督微调（SFT）方法，包括全微调或参数高效微调（PEFT），以优化任务特定文本生成，减少数据幻觉。

5. 客户选择权：允许客户选择退出AI功能，通过软件打包方式提供不采用特定功能的选项，满足不同客户需求。

6. 评估与监测：采用结合语言处理模型指标、大语言模型辅助评估和人工评估的方法，确保模型输出符合预期。

7. 伦理与责任：强调负责任的AI实施，优先考虑客户信任和合同义务，并通过透明且以客户为中心的数据处理方法，推动行业在数据信任和公平性方面的进步。

总体而言，Guidewire认为生成式AI具有巨大潜力，但需谨慎应对数据隐私和安全挑战，通过技术创新和负责任实践确保其安全、准确和伦理实施。