编者按

人工智能正以前所未有的速度渗透至司法领域，既带来效率提升与可及性扩大的可能，也引发一些深层隐忧。新加坡最高法院法官Aidan Xu在2025年IT法律系列会议上的演讲，系统梳理了AI在司法中的应用与滥用：从律师提交虚构判例、证据造假，到法官借助AI进行文书起草、证据查询甚至判决草案生成，技术的光与影同时显现。面对这一趋势，演讲者提出一条理性而克制的路径。本文既是对AI司法应用现状的冷静观察，也是对“技术如何服务正义”这一根本问题的再思考，供大学学习借鉴。

导师点评

郑睿 上海海事大学法学院副教授、青年翻译员团队院外导师

本译文源自新加坡法院司法转型与创新主管法官Aidan Xu在2025年7月30日的演讲：“人工智能在司法中的应用与滥用”。该演讲兼具司法实务者的审慎与创新者的前瞻性。他既直面AI带来的“幻觉”证据、技能退化等真实风险，又明确提出以“效率、司法可及性、数据利用”为框架的渐进式探索路径，尤其对AI辅助撰写判决书、小额案件结果预测等具体场景的讨论，对当前国内数字法院建设具有重要参照意义。演讲结尾强调“司法必须保留人本要素”，更是对技术理性与人文价值平衡的深刻提醒。上海海事法院法官助理杨娴、李惠的译文，语言流畅、术语准确，能够忠实传达原文的核心观点与逻辑脉络。这份译文本身就是一次成功的“人机协作”：既有AI时代法律人应有的开放视野，又不失法官助理特有的精细与审慎。

人工智能在司法中的应用与滥用

——本文为新加坡最高法院法官Aidan Xu于2025年7月30 日IT法律系列会议上的演讲

编译：青年翻译员团队成员杨娴、李惠

想必诸位已经通过众多演讲、视频及讨论，了解了人工智能（AI）的风险与前景。如今，AI已融入我们生活的方方面面，无论是职场、校园还是家庭等。它无处不在，并将愈加不可或缺，就像是潘多拉的魔盒已被打开，再也无法关闭一样。AI归根结底只是一种工具，工具既能助我们高效完成工作，提升质量与效率，但也能造成伤害甚至致命。我们必须保持清醒认知，理性运用，同时防范其风险、隐患与滥用。

我们司法机关正致力于实现上述目标。在接下来的约三十分钟里，我将概述我们对AI的应对策略，同时关注可能的滥用风险，并阐明期望通过它实现的目标。

一、人工智能（AI）滥用问题

首先我想谈谈AI的滥用情况。

（一）虚构判例

生成式AI的“幻觉”现象家喻户晓、屡上头条。最近英国高等法院王座法庭合并审理了两起案件——Ayinde v London Borough of Haringey和Al-Haroun v Qatar National Bank and Anor [2025] EWHC 1383 (Admin)——两案中均存在向法庭提交虚构法律依据的情况。美国科罗拉多州联邦地区法院的一桩诽谤案中，同样出现了虚构案例引证。新加坡也出现了类似案例，所幸并非由专业律师所为，而是来自可能不了解情况的无律师代理的当事人。对此，法院已发布相关指引，明确要求向法院提交文件者要承担相应的核实责任。我们理解无律师代理的当事人所面临的困境，但他们在使用生成式AI时亦须保持谨慎，确保已核实相关信息。

（二）证据造假

证据造假是AI应用中的另一大问题。AI能轻易生成伪造视频，我们在社交媒体上看到许多愈发逼真的伪造视频，所幸多数帖子都有标注。但伪造的语音已被用于实施欺诈。这种技术引发的信息信任危机，会严重阻碍社会的正常运转。以近期发生的地陷事故为例，幸运的是，那位女士被外籍工人救了出来。但当我初次看到地陷事故现场照片时——路面弯曲变形，沥青像蛋糕糖霜般融化脱落，车辆半截没入坑洞——我的第一反应竟是：“这是真的吗？看起来像假的”。我仔细观察了施工人员的手部细节和照片中的文字，试图找出典型的AI图像特征，比如畸形的手指或乱码文字。试想这种情况如果发生在法庭，我们将耗费大量时间，动用众多专家，只为辨别视频或文件的真伪。

（三）法律从业人员的技能下降

除了虚假信息之外，AI的另一项威胁在于，其可能导致律师、法院主簿官和法官所应具备的法律技能下降。分析、记忆、写作和论证等能力都需要通过日常实践不断锤炼。随着生成式AI可能被用于文书起草、法律研究和分析，律师和法官是否会因滥用AI而导致能力退化？这种担忧或许有些过度，正如当年人们曾担心廉价普及的书籍会削弱记忆力，降低学习深度一样。互联网本身也曾引发过类似的忧虑。尽管部分担忧可能被夸大，但AI的普及确实存在一定风险：它可能剥夺基础技能的实践机会，降低律师（尤其是初级律师）的工作效率，更关键的是还可能削弱我们批判AI产品的能力。

但我要重申一点，所有变革都伴随着一定程度的风险，都需要在未知领域中摸索前行。我们必须尽力评估风险所在，采取措施加以缓解和防范。如果风险被认定为可控，就应积极推进技术应用以谋求进步。

二、人工智能（AI）的司法应用

与其他政府部门及众多律师事务所一样，新加坡司法机关正在探索和测试各类AI产品。没有人可以停滞不前。我们需要以更好的方式实现正义，以持续满足社会需求。

在追求工作改进的过程中，我们深知开展探索与测试必须坚守原则，避免盲目追逐每一项新奇事物，同时最大限度利用人力、资金和时间等现有资源。我们无需站在技术最前沿，但也不能落后到无法践行服务社会的使命，必须找到恰当的平衡点。

为此，我们秉持的指导理念是：提高工作效率、提升司法可及性以及更好地利用现有数据。这些是我们首要的追求方向，更是评估和权衡各类机会的准则。

在上述准则指引下，AI的核心价值在于提升能力，使我们能够更快速、经济、高质量地完成任务。这种能力提升还能让我们有余力处理其他任务，尤其是那些需要更高灵活性或人性化服务的工作。对法院而言，AI主要作为诉讼当事人、律师、司法行政人员或法官的辅助工具，就像一座桥梁，帮助使用者跨越司法系统中的鸿沟。

在追求这些目标并权衡风险的过程中，我们不能因为个别特殊情况而阻碍大多数人获得明显且切实的好处，因为只有极少数的变革或创新能真正让所有人完全受益。有些人可能至少在短期内需要付出更多努力来调整他们的做法或习惯，而某些设施可能需要更换。关键在于，机构要采取措施尽力促进这种过渡。若变革能为多数群体带来改善，我们便不能阻碍其推进。

基于上述考量，下面我将详细阐述之前提到的三项创新目标：效率、司法可及性和数据应用。

（一）效率

提高效率不仅是为了应对案件数量增长，满足速度与生产力的需求，还在于我们处理的案件日益复杂。以商事案件为例，辩论与证据的冗长程度和复杂性已成倍增加。虽然我们尚未制定衡量复杂性的指标（尽管某些指标可能已显而易见），但判决书篇幅以及必须处理的事实与法律问题的数量，可作为粗略的衡量标准。与20世纪90年代相比，判决书所涉及的信息量和论述内容已明显激增。

不仅是商事案件，即便在小额诉讼案件，及其他涉及个人寻求有限救济或低额赔偿的案件中，提交法院的信息量也相当可观。这在一定程度上反映了信息获取的便捷性——无论是社交媒体帖文、WhatsApp消息及短信、电子邮件、照片还是视频资料等，均易于获取。由此，大量信息唾手可得，并被投入到司法程序中。消化这些海量信息需要耗费大量时间和精力，更需要相当的心理负荷和组织能力。当案件数量持续增长时，更令人不堪重负。

因此，无论在商事领域还是普通民众的日常纠纷中，法院都需要提供工具来协助法官和司法行政人员处理信息。律师亦需自行配备相应工具，法院需要确保律师能够便捷地将其工具应用于庭审，以最大限度减少程序障碍。此外，法院还应承担帮助无律师代理的当事人推进案件的职能。这一点将在下文讨论司法可及性时进一步阐述。

处理行政事务与法律研究

在提升效率方面，我们正在探索运用生成式AI辅助司法行政人员、法院主簿官及法官开展工作。部分应用与公共及私营部门的做法相似：我们正在评估使用诸如CoPilot[1]之类的商业产品来协助行政人员处理日常工作，包括会议记录、幻灯片制作或文件起草等。我们也在研究如何利用AI技术协助主簿官和法官。AI辅助法律研究就是一个显而易见的领域。如各位所知，公开可用的Pair Search系统[2]已能对最高法院的判决进行一定程度的分析，新加坡法律学会的LawNet[3]也在开发AI功能。

查询和审查证据材料

但除了法律研究之外，更值得关注的是另一重要探索方向——利用AI对当事人提交的材料和证据进行查询与分析。我们认为，如果AI工具能让法官对当事人提交的材料和证据进行提问并获取答案，将极大助力法官掌握案件核心、识别关键争议点，并权衡各方论辩与证据效力。目前市面上的多数AI工具已能便捷生成时间轴、对照表和摘要。我们的目标并非用AI取代提交的材料，也并非要打破对抗式诉辩程序，而是帮助法官更高效地调取和消化信息，推进质询思路，并判断所呈材料的逻辑连贯性与说服力。由于此类工具基于具体文件内容进行分析推理，“幻觉”问题得到了有效抑制。截至目前，相关成果颇具前景。

但我们确实面临诸多挑战。其一是文件的篇幅问题。政府目前使用的AI工具并不适用于如今常见的长篇文件和宣誓书。我不知道这是否反映了律师的工作效率问题，还是我们的公务员阅读量不足。尽管我们正在努力增加能够支持的文件篇幅，但距离理想状态仍有差距。其二，虽然一些案件涉及的信息属于公开信息，但在某些领域，例如家事法、仲裁和刑法等，必须更加谨慎地保护文件中包含的信息。其三，准确设定AI模型生成的摘要和对比报告的详细程度并非易事——在司法工作中，我们通常希望即使是摘要也包含相当多的细节。我们正在不断调整提示词，以便获得更好的结果。

然而，这些问题相对较小。借助AI辅助查询提交的材料和证据，将使法院主簿官和法官能够更好地掌握案情，并在日益繁重的工作中高效处理各项事务。

辅助撰写判决书

我们正在考虑的另一个领域是利用AI辅助撰写判决书。我们研究的不仅仅是改进语法或提供措辞建议。众所周知，生成式AI的能力远不止于此。它可以整合所提供文件中的相关法律依据和证据，但“幻觉”现象和看似过于跳跃性的推理也可能出现。除了这些风险外，我们还需要维护公众对法官的信任和信心。人们希望由人类法官做出裁决，而不是将决定权交给他人或机器。让AI参与撰写判决书似乎有悖于此。但即使没有AI，我们也曾遇到过法官不运用理性思考的案例。因此，这本身就是一个现实存在的问题。

尽管如此，我们认为探索AI辅助撰写判决书是有益的。决策行为和判决文书撰写之间存在本质差别。目前，我们有法庭备忘录和各方提交的材料来辅助我们的工作，若引入AI生成可供法官审阅、考量和修改的初稿，可以节省时间，并优化判决书的撰写过程。因此，我们并未排除这种可能性，但我们会谨慎尝试，并配套实施针对性的训练、保障和监管措施。

截至目前，我们的实验结果较为乐观。当我们提供适当的提示、足够的细节和文件支持时，生成式AI就能够生成可读性较强、内容相对准确的初稿，尽管仍然存在一些“幻觉”现象和过于跳跃性的推理。随着模型开发的持续迭代、提示词的优化以及对产品的严格审查，我们有望常态化获得准确度较高、表述流畅且逻辑论证看似严谨的初稿。

这项功能的一个具体应用领域是红队测试（red-teaming）[4]，即生成不同裁判结果的草案，以便法官检验自身推理和结论，识别论证薄弱环节并优化裁判工作。同样，这需要配套的指导和监督机制，但我们认为还是值得探索的。

转录和翻译

相较于可能引发争议的应用场景，AI转录是一个更易被接受的领域。准确的转录对司法实践至关重要，因为我们有大量的口头证词（尤其是在交叉询问环节）和口头辩论内容。我们的合同外包人员、司法行政人员、法院主簿官和法官花费大量时间来准备和核对笔录，自动转录确实能提供极大的帮助。事实上，AI和自动化技术已经在许多情况下投入使用，但可以进一步扩大其应用范围。不过仍然存在一些挑战，譬如AI需要同时处理多种语言场景，以及法庭内复杂/不佳的声学环境等。

与转录相关的领域是翻译。AI翻译已经相当出色，其日益广泛的应用有助于提高效率。我们认为，在相当长的一段时间内，AI不会取代法庭上的人工口译。在许多情况下，尤其是在刑事和家事法律实践中，人际交互至关重要。即使在其他法律领域，语言的微妙差别也同样重要。但AI真正能够发挥作用的地方在于批量翻译，该项应用已纳入我们与哈维人工智能（Harvey AI）[5]的合作项目范畴。

（二）司法可及性

法院在提升司法可及性方面发挥着积极作用。我们需要在坚守独立性和公正性原则的前提下，帮助群众有效参与司法程序。

协助当事人参与诉讼

正是在这样的背景下，我们与哈维展开了合作。除了商业活动之外，哈维还与新加坡司法机关合作开展了一项重要的公益项目，旨在探索AI如何助力提升司法可及性。我们选择在小额索赔审裁处的案件中进行试点，在这些案件中，当事人在没有律师代理的情况下参与诉讼。我们希望探索并测试出，AI能够为那些在司法程序中面临诸多挑战的无律师代理的当事人、以及经常需要处理大量琐碎信息的法院主簿官带来哪些益处。

当前项目已落地文件翻译功能，材料摘要模块预计在短期内完成开发。此类摘要将有助于当事人理解对方主张，理清自身案情，同时也有助于审裁员高效把握案件核心信息。我们需要确保系统输出的准确性，并实现其与法庭案件管理和归档系统的深度集成。因此，这对我们来说是一次宝贵的学习经历，我们同时也在进行前瞻性的思考。我个人的愿景是让AI协助案件陈述，并促成和解，但技术可行性和司法正当性仍有待进一步论证。

利用聊天机器人释明程序问题

我们曾尝试使用AI聊天机器人来帮助诉讼当事人理解法庭程序和规则。虽然聊天机器人在很多情况下都能用恰当的语言给出不错的回答，但当被问及的信息所涉材料不完整，或者信息更加复杂细致，而问题又含糊不清时，聊天机器人就会出现问题。例如，当被问及上诉期限时，因为不同情况下的上诉期限不同，聊天机器人并未要求当事人讲清情况，也没有承认自己不知道——这是许多AI模型都面临的挑战。我们本可以投入时间和精力进行训练和优化，但团队最终认为，最好暂时搁置这个项目。我们可以通过简单的常见问题解答（FAQ）或引导式问答来实现提供帮助的目的。

提供判决结果预测

我们正在考虑的另一个促进司法可及性的领域是运用AI技术，为某些类型的案件提供初步的判决结果预测。我们在某些实践领域面临的挑战是案件数量庞大，这些案件大多由当事人自行参与，而他们可能由于工作和家庭的牵绊难以出庭，即便是远程庭审。我们认为，如果获得足够的已作出救济措施的数据，并且存在明确的标准和影响判决结果的因素，那么法院可以根据这些数据提供可能的判决结果预测。这可以通过AI或其他技术和方法来实现。当事人可以接受预测结果并继续进行后续程序，或者如果他们认为预测结果与自身案件不符，则可以继续向法官申请开庭审理。采用这种机制可以帮助当事人以更少的时间、精力和成本获得大致的判决结果，并使司法机关能够将资源集中于更棘手的案件。这其中很多内容与在线市场和电子平台使用的某些纠纷解决机制类似，公众可能对此相当熟悉。但我们也注意到，并非所有人都是合适的用户，而且这种机制可能并不适用于所有类型的案件。我们仍在继续研究这个问题。

（三）数据应用

关于数据应用，一方面可以利用AI分析数据以提高效率，例如日程安排和绩效管理。除此之外，我们拥有的大量数据还有助于识别当事人的特征趋势，以便做出适当的应对和准备。AI在此类分析中可能尤其有用。我们尚未在此领域开展大量AI应用工作，但这仍然是我们感兴趣的领域。当然，我们将采取适当的保障措施，对具体信息进行匿名化或编辑，并确保信息安全汇总。

三、结论

以上是对AI司法应用现状的简要概述，还有许多有趣的领域值得进一步探索和讨论，包括代理式人工智能（Agentic AI）和更优的推理模型等。未来十到二十年的发展很可能与我们现在的设想截然不同。司法应用的目标并非完美预测哪些方法有效或无效，而是根据当前的评估，试验和测试那些可能将对我们的当事人和法官有所助益的新技术。

我想强调的是，在可预见的未来，司法工作必须坚守人本理念。虽然AI可以辅助决策，但法官系代表国家行使强制权力，公众也期望他们在适当情况下践行司法正义，即公平和仁慈。我认为，即使AI能够模拟判决的推理过程，并发展出“公平公正”的仿像，人们也不会愿意接受这样的判决来取代人类法官的决定。公平根植于同理心和人性，而关于公平的决定最终是政治决定。在人们接受机器所判定的“公平”前，我们需要经历相当大的文化认同的转变。

 

---

【1】微软和Open AI于2021年6月29日联合推出的AI编程工具，能够通过理解注释内容自动生成代码，并实现结对编程功能。

【2】 Pair是新加坡政府推出的AI聊天机器人，可帮助公务员开展研究、生成创意并撰写信息。Pair Search是其中的一项工具，可以帮助便捷查找政策相关信息（包括议会辩论记录、最高法院判决和法律法规）。

【3】 新加坡法律数据库。

【4】 本质上是一种主动的安全评估方法，源自军事和网络安全领域，通过模拟对手的攻击行为，帮助组织识别和修复安全漏洞，增强系统防御能力。近年成为AI治理讨论的核心内容之一。

【5】 Harvey AI是一家专注于为律师事务所开发生成式人工智能工具的美国公司，总部位于旧金山。