在深圳市大数据研究院建院十周年暨产学研发展论坛上,研究院与深圳市中级人民法院共同签署《战略合作协议》,双方将联合开展司法人工智能通用标准研究、技术创新研发与应用场景落地,致力于推动审判体系与审判能力现代化,全面支撑数字法院高质量发展。
作为本次战略合作的重要成果,深圳市中级人民法院、深圳市大数据研究院与清华大学互联网司法研究院三方联合编制并发布《司法领域“智能体技术”应用指南》(以下简称《指南》)。本《指南》旨在为法院系统应用智能体技术提供方法论指导、明确应用边界、提示潜在风险,推动人工智能在司法审判辅助领域实现稳健、审慎、规范的应用。
《指南》主要内容包括以下三方面:
《指南》提出,人工智能技术(包括大语言模型技术、智能体技术等)在司法领域的研发与应用应遵循以下四项基本原则:
(一)锚定辅助工具定位:明确人工智能作为辅助工具的属性,不得替代法官行使审判职能。
(二)深度融入审判环节:推动技术与审判流程深度融合,提升司法工作效率与质量。
(三)同步落实司法责任:在技术应用过程中始终坚持司法责任主体明确,确保权责清晰。
(四)全程确保数据安全:贯彻数据全生命周期安全管理,保障司法数据隐私与系统安全。
上述原则旨在引导各级法院在积极稳妥推进人工智能应用的同时,保持清醒的技术定位认知,鼓励以“大胆探索、审慎应用”的态度开展创新实践,坚决避免出现“机器代替法官”的认识误区,确保技术发展始终服务于审判能力现代化这一根本目标。
2026年以来,人工智能、特别是智能体技术步入快速发展阶段。以OpenClaw为代表的“自主智能体”技术,依托大语言模型在自主规划、分步推理、任务执行与环境交互等方面能力的显著提升,大幅增强了人工智能处理复杂任务的效率与灵活性,展现出广泛的应用前景。在司法领域,自主智能体在批量处理重复性事务、低成本响应个性化司法需求、降低人工智能应用开发门槛等方面,具备显著潜力。
然而,必须清醒认识到,智能体技术仍存在不容忽视的安全隐患,其在数据安全、权限管控、恶意利用及系统防护等方面仍存在风险。若未经严格约束即应用于司法场景,可能对程序正义、责任归属、权限管理及司法公信力造成严重冲击。
具体而言,智能体技术在司法应用中主要存在以下四类风险:
(一)权责边界风险:存在核心司法职权不当转移的潜在可能。
(二)指令理解风险:任务指令可能被曲解或错误执行。
(三)执行规范风险:能力组件调用与流程执行可能偏离法定程序。
(四)系统安全风险:存在越权操作、数据泄露等安全隐患。
《指南》强调,面对智能体这一新兴技术范式,简单采取全盘拒绝或盲目接纳均非理性选择。如何在技术前景与风险并存的双重压力下,科学界定安全应用空间,建立有效的规制与引导机制,已成为当前司法人工智能建设亟待解决的重要课题。
为统筹智能体技术的应用潜力与安全风险,《指南》在四项研发原则基础上,进一步提出以下四项“负面清单”,通过明确禁止性行为框定技术应用的安全底线:
(一)禁止转授决策性职权:不得将裁判权、审批权等核心司法决策职能交由智能体行使。
(二)禁止注入未治理数据:不得使用未经清洗、脱敏、合规审查的数据训练或驱动智能体。
(三)禁止应用未认证技能:不得调用未经安全评估、功能认证与合规审核的能力组件。
(四)禁止逾越安全性护栏:不得绕过或破坏系统内置的权限控制、审计跟踪与风险阻断机制。
该清单旨在以“底线思维”实施技术规制,一方面为技术创新保留合理空间,避免对技术路径作过度限制;另一方面坚决守住司法伦理与安全红线,确保智能体应用始终在法治轨道上运行。
自2023年起,深圳法院率先探索大语言模型等人工智能技术在司法领域的稳慎融合,研发上线人工智能辅助审判系统,持续迭代升级,目前已辅助审理案件超过60万宗,实现了司法审判质量与效率的同步跃升,并率先升级为“多智能体安全协同”的深度应用架构,获得上级法院的高度认可。
深圳市大数据研究院与清华大学互联网司法研究院在深入调研深圳法院实践经验的基础上,结合人工智能技术最新发展态势与司法应用特殊要求,与深圳法院联合编制本《指南》,力求为司法领域规范、安全、有效地推进智能体技术应用提供参考与指引。