科技与法治论坛2025中关村论坛年会20250330

2025年04月01日22:06 关键词 人工智能法治探索科技飞速进步法律问题邓海峰中关村论坛社会治理法学教育吴峰教授香港中文大学可控性法律学者人工智能发展教育领域法治理念AI辅助教学数字经济薛金教授电子商务法法律制度 全文摘要 本次对话深入探讨了人工智能技术的发展及其对法律体系的影响，特别是在自动驾驶领域的实践。讨论涵盖了立法的必要性、挑战以及如何平衡技术创新与公共安全、隐私权保护。强调了技术进步与法律规制之间的动态平衡，以及立法在促进自动驾驶技术发展中的关键作用。 科技与法治论坛-2025中关村论坛年会20250330_导读 2025年04月01日22:06 关键词 人工智能法治探索科技飞速进步法律问题邓海峰中关村论坛社会治理法学教育吴峰教授香港中文大学可控性法律学者人工智能发展教育领域法治理念AI辅助教学数字经济薛金教授电子商务法法律制度 全文摘要 本次对话深入探讨了人工智能技术的发展及其对法律体系的影响，特别是在自动驾驶领域的实践。讨论涵盖了立法的必要性、挑战以及如何平衡技术创新与公共安全、隐私权保护。强调了技术进步与法律规制之间的动态平衡，以及立法在促进自动驾驶技术发展中的关键作用。同时，对话还涉及了跨国和跨区域在人工智能立法方面的合作与挑战，指出了在确保公众安全和促进社会便利性方面的自动驾驶技术的重要性。此外，对话还扩展到人工智能在教育、医疗等领域的应用，强调了审慎态度的必要性以规避潜在风险。整体上，对话反映了对AI技术发展及其法律监管框架的深刻认识，以及法律界对此的积极回应和探索。 章节速览 00:00人工智能时代的法治探索 在人工智能迅速发展的背景下，法治理念需与时俱进。邓海峰教授在中关村论坛上主持交流活动，讨论人工智能对社会治理方式和人际交往规则的深刻影响。四位在人工智能领域有卓越建树的法律学者受邀参与，共同探讨法律人如何面对这些挑战和变化。 01:50人工智能在法学教育中的应用与可行性探究 本次演讲探讨了人工智能在法学教育领域的应用可行性及可控性。演讲者首先强调了人工智能在电话技术支持和服务中的应用，说明了AI已经具备一定的处理和解决问题的能力。随后，他分析了AI在教学中的应用，指出AI技术虽然能够提供一些教学服务，如在线视频教学和深造学习，但目前仍存在技术限制，无法完全替代人类教师的角色。此外，演讲者还讨论了AI技术的未来发展方向，包括AI如何进行深度学习和数据分析，以及如何在教育领域中更有效地运用这些技术。演讲最后提到，尽管AI技术在教学中显示出巨大潜力，但其应用和可控性仍需进一步研究和探索。 19:23清华AI辅助教学与数字经济发展法律基础探讨 清华从去年开始开设了170门AI辅助教学课程，每位学生都配备了AI助手，展现了AI与教育结合的现实应用。从更广泛的角度看，AI及数字经济对社会的影响促使我们思考促进数字经济发展所需的基础性法律制度。北京大学法学院的薛教授，作为该领域的顶尖学者，负责起草了电子商务法等多部与数字经济紧密相关的法律，他将分享关于数字经济发展基础性法律制度的思考。 20:48促进数字经济发展的基础性法律制度思考 在参与国家数字经济促进法的起草框架讨论过程中，提出了几个关键问题。首先，需要识别并解决在数字经济发展中面临的制度性障碍，特别是现有法律在适应数字化时代新需求上的滞后性。其次，讨论了立法中应确立新的法律适用原则，以适应数字经济下的新业态。此外，针对新领域的立法，如人工智能和数据相关法律，提出了需要深入理解新技术发展方向及可能产生的复杂利益格局，避免立法过早或不成熟导致的局限性。整个讨论强调了在数字经济促进法中明确促进发展的基本原则和要求的重要性。 30:46数字经济时代立法的挑战与策略 随着数字经济时代的到来，传统法律体系受到了系统性的冲击和影响，需要进行修订以适应新的需求。对于新领域，如数字经济、人工智能、数字平台和数据立法，应采取渐进、问题导向、具有弹性化和试点性质的立法策略。建议让司法裁判先行，形成行业性规范，避免一次性制定可能无法解决问题甚至产生反效果的全面性立法。此外，立法过程中应更多地运用技术标准、技术伦理准则和行业最佳实践等多元规制手段，共同探索适合数字经济发展的法律制度，使其处于一个正常的缓慢成长过程中。 35:42欧洲人工智能监管的挑战与未来期望 在讨论数字经济治理的背景下，特别关注了欧盟在人工智能领域的相关法律及其监管挑战。通过场景化、渐进式的立法尝试，探讨了人工智能法案在实际应用中的风险、限制以及未来的发展方向。讨论强调了人工智能技术的风险识别、信息告知以及监管措施的重要性，同时也提出了对AI服务的使用、风险评估和有效监管的未来期望。 52:24人工智能发展中的数据训练重要性与挑战 汇报内容围绕人工智能发展中的数据制度展开，特别强调了训练数据在人工智能进步中的关键作用。以GPT和中国deep sec模型为例，展示了随着模型参数量的增加，对数据训练量的需求也在不断提高。此外，还讨论了数据来源的多样性对于保持文化多样性和实现公平性的重要性，以及数据训练在实际应用中的具体案例，如传音手机在非洲的成功。最后，通过几个幽默的例子，指出了在使用英文数据训练模型时可能遇到的文化差异和翻译误解问题。 56:47人工智能时代的法治困境与探索 对话深入探讨了人工智能时代面临的法律困境，特别是个人信息保护、著作权和数据互联的问题。讨论提出，个人信息利用受必要性原则限制，但随着数据的多样化，传统法规可能不再适用。著作权保护的门槛低，许多数据涉及著作权许可问题，而数据互联则面临数据孤岛和企业数据封闭的挑战。此外，还讨论了现有法律制度源自工业化时代，需重新设计以适应人工智能时代的特性，提出扩大解释必要性原则、引入程序性保护机制和合理使用制度等策略来应对这些挑战。 01:24:56人工智能与法律：联合国国际货物销售公约下的软件合同探讨 本次会议由清华大学法学院的崔国斌教授主持，聚焦人工智能与法律的交叉领域，尤其是联合国国际货物销售公约（CISG）在软件合同中的应用。崔国斌教授介绍了三位与清华有联系的主讲人，包括天普大学法学院的泰瑞马轰尼教授、北京市律协数字经济人工智能领域的专业委员会主任朱芸阳律师，以及清华大学智能法治研究院院长申卫星教授。泰瑞马轰尼教授的演讲重点在于探讨软件如何成为传统有形货物买卖的对象，并与知识产权规范协调，提出了在CISG框架下软件合同的法律挑战和解释。 01:46:27软件许可与知识产权公约的适用性探讨 讨论集中于将CISG公约延伸到软件交易领域的可能性及其面临的挑战。从知识产权角度分析，虽然公约为软件或数据作品的销售和许可提供了框架，但在实际操作中，特别是涉及软件的转卖和许可问题时，存在法律上的不确定性。此外，还探讨了软件许可在破产情况下的处理，以及软件有缺陷时适用的法律规则。这些问题值得进一步研究，以确保公约能够有效应对软件交易中的复杂情况。 01:48:21政务领域人工智能应用探索及法律规范指引 朱英言律师在会上分享了政务领域人工智能应用及其法律规范指引，着重介绍了政务领域人工智能应用的现状、特点以及可能面临的风险。他指出，政务领域的人工智能大模型已广泛应用，并且有别于通用大模型，其需要基于行业专属数据和特定的政务业务场景进行定制化开发。此外，朱英言还介绍了由北京律协数字经济与人工智能领域专业委员会编制的合规指引，以及如何通过合理的规范来防范人工智能技术合作中可能遇到的风险。 01:51:44政务领域人工智能技术合作的合规指引与实践 在政务领域中，人工智能技术，特别是人工智能大模型的应用，正展现出创新的潜力，但同时也带来了独特的挑战和风险。随着技术的发展，特别是在政务领域的应用，人工智能不仅需要处理通用数据，还要涉及具有权威性和高质量要求的政务数据。因此，人工智能在政务领域的应用需特别注重权威性、准确性与严肃性，避免对社会治理和个人权益造成不利影响。为了规范这一领域的技术合作，需要建立一套合规指引，明确各方的权利义务，提供法律风险防范建议，并确保技术应用符合国家法律法规和政务领域的具体要求。此外，强调了在合作过程中知识产权、数据安全、服务规范以及合同条款等方面的关键考量，旨在促进政务领域人工智能技术的健康发展和合理应用。 02:05:49中国人工智能立法的路径与重点问题探讨 本对话围绕人工智能立法的必要性、可行性以及立法的宏观和微观问题展开讨论。首先探讨了能否立法和是否需要立法的宏观问题，其中讨论了来自产业界对于立法可能阻碍智能技术和智能产业快速发展，从而错失发展机遇的担忧。随后，对话转向立法的宏观和微观两个方面的具体思考，旨在深入分析中国人工智能立法的路径与重点问题。此外，还提到了参与联合国贸易法委员会的讨论，以及对人工智能立法路径的个人见解和经验分享。 02:08:46中国人工智能立法的必要性与可行性 支持派认为，人工智能立法对于确保产业有序发展、促进创新以及推动国际化至关重要。管制是法律的核心功能，旨在保障产业健康有序发展，同时确保技术发展不会牺牲人性和人的尊严。随着人工智能在社会生活、商业经营及政府治理中的广泛应用，深度伪造等新技术带来的侵权、歧视和信任危机等风险凸显，需要法律进行规范。此外，创新与数据权力的平衡、人工智能与既有法律体系的冲突，以及国际上立法的示范效应，都强调了加快中国人工智能立法的紧迫性。 02:14:39中国人工智能立法的基础与可行性 讨论了中国在人工智能立法方面的现有基础，包括技术发展、社会应用以及法制基础。提及民法典为人工智能立法奠定了以人为本的基础，同时介绍了数据安全法、网络安全法和各保法在人工智能立法中的作用。此外，还提到了针对算法治理、深度合成和生成式人工智能的部门规章，以及上海和深圳的地方条例，共同构成了1加3加3再加二的立法基础体系，表明中国人工智能立法具有可行性。最后，指出国家提出的人工智能治理倡议需要法制推进来落实，下半部分将重点讨论人工智能立法需要考虑的几个问题。 02:17:07人工智能立法的探讨与展望 讨论了人工智能立法的关键议题，包括立法的定位、形式以及与现有法律的关系。强调了立法需平衡发展与安全，提出鼓励创新、风险管理和分类分级管理等原则。同时，探讨了透明性、公共参与、侵权责任以及风险分担机制的重要性。最终呼吁尽快启动人工智能的综合立法，以适应技术的快速发展和确保其健康有序地推进。 02:23:40 AI技术应用与立法挑战的探讨 在讨论中，几位专家提到，当前AI技术在各领域的广泛应用带来了复杂且多元的现实需求，包括公共安全、个人信息保护、知识产权和政府决策透明度等，这些需求和法律规律异常复杂。讨论着重于如何从这些多元化需求中提炼公共因素，为AI技术的立法提供指导。虽然任务艰巨，但仍寄希望于通过寻找中间规则来影响中国未来的立法进程。最后，由于时间关系，原本计划的互动环节被取消，活动进入短暂休息阶段。讨论以感谢三位演讲人的精彩演讲和参与者的聆听结束。 02:40:10自动驾驶技术与北京法制实践圆桌对话 本次对话聚焦于自动驾驶技术与法治创新的交融互动，特别是北京自动驾驶汽车条例的立法情况及其在政产学研之间的实践。对话由来自中国科学院战略咨询研究院的研究员主持，邀请了行政法学家、道路交通安全研究专家、政府官员及全球自动驾驶头部科技公司代表等多位重磅嘉宾。他们将就北京条例进行观点分享，并就共同关心的话题进行深入研讨。首先，由北京市经信局政策法规处的处长介绍北京市自动驾驶汽车条例的立法情况。 02:44:18北京市自动驾驶汽车条例立法情况及企业视角分析 本次对话围绕北京市自动驾驶汽车条例的立法情况展开，详细介绍了北京市在推动自动驾驶汽车技术演进、产业落地和商业布局方面的进展和成就。对话中强调了北京市在自动驾驶汽车道路测试、技术创新、产业生态构建、基础设施建设以及安全评估等方面的具体措施和成果。同时，从企业侧的角度，分享了自动驾驶技术发展的现状，以及此次立法如何解决企业面临的痛点，并表达了对未来法律落