共建可信赖的科研生态——第三届中瑞科研诚信研讨会白皮书

核心观点与关键数据

主题一：学术界人工智能的未来

1. 人工智能在学术界的作用：治理与诚信的视角

   • 中国采取集中式管理模式，由科技部、教育部等制定政策，高校和科研院所落实具体实施规则。
   • 瑞士采用分散式管理模式，通过大学内部机制管理科研不端行为，并遵循《欧洲科研诚信行为准则》。
   • 科研诚信是全球性议题，需国际科研共同体加强合作。

2. 人工智能对研究的双重影响：创新与伦理挑战

   • 人工智能可破除研究壁垒，提升研究包容性，但算法可能内含偏见，存在制造新科研鸿沟的风险。
   • 人工智能在研究产出中的责任归属问题需明确指引、角色分工及伦理问责机制。
   • 人工智能在研究中的潜力包括：解决数据问题、检测统计异常、促进科学开放。

3. 利用人工智能变革研究范式

   • 人工智能驱动的研究立项等创新模式重塑学术出版，但公平回报问题仍需解决。
   • 透明度、稳健的同行评审机制及公平协作是保障人工智能伦理化整合的三大基石。
   • 建议培育类似“明厨模式”的透明度，规范数据有序复用，确保贡献者获益。

4. 在人工智能时代打击科研不端行为

   • 人工智能技术滥用及造假手段（如论文工厂、虚假同行评审）侵蚀研究可信度。
   • 需多管齐下的防御策略：利用AI工具侦测不端行为、统一伦理准则、加强国际合作。
   • Frontiers的AI审稿助手AIRA通过分析海量数据标记疑似不端模式，辅助人类编辑决策。

5. 治理与机构对学术压力的应对

   • 以出版为导向的高强度评估体系是学术不端的潜在催化剂，需制度性改革。
   • 建立跨区域、跨行业的合作框架应对不端风险。
   • 瑞士成立瑞士科研诚信能力中心(KWIS)，建立全面披露机制，收集并推荐最佳实践方案。

主题二：生命科学中人工智能的伦理考量

1. 生命科学人工智能中的伦理挑战

   • 人工智能整合到生命科学研究中引发伦理关切，如知情同意、数据管理、风险与收益平衡。
   • 临床决策算法虽提高诊断准确性，但预测错误或不被充分理解时，存在用户自主主权和监管风险。

2. 二次数据使用与全球合作关切

   • 数据二次使用问题备受关注，需多学科伦理审查系统。
   • 建议采用“动态知情同意”程序，确保患者全程参与。
   • 国际合作需关注透明数据共享、跨境问责机制及AI模型的临床影响评估。

3. 精准医学的实践伦理框架

   • 传统伦理原则不足以指导医疗背景下负责任的人工智能开发。
   • 瑞士学者展示PRECISE4Q项目的“大数据健康研究反思框架”，强调包容性共创，优先考虑医疗专业人员和患者视角。

4. 医疗领域大语言模型（LLMs）面临的挑战

   • 大语言模型临床落地面临输出不可靠、成本高、未能有效减轻行政负担等问题。
   • 可能导致双层医疗体系风险：依赖不可靠AI工具的资金匮乏社区与享有专家服务的特权群体。
   • 最佳实践建议将LLMs视为特定应用工具，解决伦理考量（如环境影响、知识产权处理），避免盲目追逐炒作。

关键共识与未来展望

• 中瑞双方一致认为，人工智能为学术界带来机遇的同时伴随挑战，需建立集体治理框架。
• 透明度与可重复性是维系信任的两大支柱。
• 制定人工智能、脑机接口等前沿技术的伦理准则需跨学科投入与多方参与。
• 双方致力于通过技术进步与伦理审议结合，解决人工智能问责制及数据二次使用等难题。
• 跨国对话对确保新兴技术伦理应用一致性至关重要，需尊重文化差异。
• 中国和瑞士有望引领全球，共同塑造生命科学研究稳健且符合伦理的未来。

当前学术诚信问题与改革方向

• 学术诚信面临信任流失、被动式开放数据等问题，人工智能制造内容围城，又被寄望于成为解法方案。
• 传统出版模式需及时调整机制与规范，避免人工智能过度自动化导致人为把关弱化。
• 大学和科研机构需改革科研绩效评价体系，避免唯论文或影响因子导向。