这份研报探讨了公共AI在法律事务中的应用及其信任问题。报告分析了现代AI工具如生成式AI和代理式AI如何改变法律科技,从组织信息到起草条款、总结协议等。核心关注点在于AI生成的成果虽然表达清晰、逻辑严谨,但可能存在不完整、缺乏依据或错误的情况,且几乎100%表现出自信,导致信任问题成为关键。报告提出了评估AI工具的六个核心问题,包括法律知识来源、编辑专业知识验证、透明度与可追溯性、工作流程兼容性、数据隐私与处理以及供应商长期稳定性。
法律科技AI赛道正经历快速发展,几乎所有法律科技供应商已融入AI功能,市场充满活力但评估难度大。供应商普遍承诺效率提升,但需区分“能力”与“可靠性”。未来,法律部门评估AI工具时将更注重其可靠性而非仅凭效率或演示效果。AI工具能否融入现有系统、是否具备权威法律内容、严格编辑审核和透明引证标注将成为关键考量因素。同时,过度依赖AI可能导致“认知投降”现象,即律师不再质疑AI分析的准确性,从而削弱自身批判性思维能力。
研报重点分析了公共AI在法律事务中的信任问题及其评估标准。报告提出应采用与选择外部律师相似的尽职调查方法,关注AI工具的可靠性。核心分析维度包括:1)法律知识来源是否专有、权威且更新及时;2)供应商是否雇佣经验丰富的法律编辑及审查流程;3)每个答案是否包含支持性依据及引证是否可快速审核;4)AI工具能否融入现有系统;5)平台如何处理上传数据及是否用于训练模型;6)供应商是否具有可持续商业模式和长期财务资源。
当前法律科技AI市场已高度普及,AI功能已成为法律科技供应商的标配。市场充满活力但评估难度大,供应商普遍承诺效率提升,但实际效果和可靠性差异显著。法律部门在评估AI工具时面临信任挑战,需关注其是否具备权威法律内容、严格编辑审核和透明引证标注。同时,过度依赖AI可能导致“认知投降”现象,即律师不再质疑AI分析的准确性,从而削弱自身批判性思维能力。市场正逐步形成新的评估标准,强调可靠性而非仅凭效率。
研报提示的主要风险在于公共AI在法律事务中应用的信任问题及过度依赖可能导致的“认知投降”现象。AI生成的成果可能看似权威但实则不可靠,其失效方式更具隐蔽性,导致律师信任度下降。此外,市场评估难度大,供应商承诺的效率提升与实际可靠性存在差距。法律部门在评估AI工具时需关注法律知识来源、编辑专业知识验证、透明度与可追溯性、工作流程兼容性、数据隐私与处理以及供应商长期稳定性等六个核心问题,以避免过度依赖AI而削弱自身批判性思维能力。