人工智能时代法学教育场景中的四种认知“幻觉”Four Kinds of Cognitive “Illusions” in Legal Education Scenarios in the Era of Artificial Intelligence
戴昕
摘要(Abstract):
人工智能正冲击并可能重塑法学教育。法学教育领域关于人工智能的既有讨论多聚焦于大模型幻觉及其治理,却甚少关注师生在使用人工智能过程中形成的认知偏差,即认知“幻觉”:将工作外包等同于责任转移,将知识可及等同于知识内化,将个体学习等同于环境学习,将制度保障误认为法律职业的智识优越。四种幻觉分别涉及行为责任、知识结构、学习的社会性与法律职业的权威属性,且共享同一底层逻辑:个体和群体在技术等外部因素影响下,对自身的认知出现了偏差。据此,法学教育改革的思路不应止步于限制或规范人工智能工具的使用,而应强化成果问责,重建带有智识压力的教学过程,维护具身、互动和社会化的学习环境,以培养能够承担后果、值得行使制度权威的法律人为核心目标。上述改革只有在压缩课程负担、增加小班研讨和实践教学投入等结构性调整的基础上才有望切实推进,最终通过充足的智识资源投入,维持法学教育在人工智能时代的韧性。
关键词(KeyWords): 人工智能;法学;教育;幻觉;权威
基金项目(Foundation): 东湖高新区国家智能社会治理实验综合基地资助
作者(Author): 戴昕
参考文献(References):
- (1)此前影响力较大的代表性研究,Dahl Matthew,et al.,“Large Legal Fictions:Profiling Legal Hallucinations in Large Language Models,”Journal of Legal Analysis,Vol.16,No.1 (2024),pp.64-93.另参见张泽予、黄文旭:《AI法律工具“幻觉”现象的实证研究--基于200余件实例的本土评测》,《新文科教育研究》2025年第2期。
- (2)参见Katz Daniel Martin,et al.,“GPT-4 Passes the Bar Exam”,Philosophical Transactions of the Royal Society A,Vol.382,No.2270(2024),Article 20230254.
- (3)此前一个引起广泛关注的研究中,研究者发现法律数据公司宣称的可有效应对幻觉问题的RAG策略效果有限。参见Magesh V.,et al.,“Hallucination-Free?Assessing the Reliability of Leading AI Legal Research Tools,”Journal of Empirical Legal Studies,Vol.22,No.2 (2025),pp.216-242.
- (4)参见Fei Zhiweiet al.,“Law Bench:Benchmarking Legal Knowledge of Large Language Models,”https://doi.org/10.18653/v1/2024.emnlp-main.452,访问时间:2026年7月14日。
- (5)参见Varun Magesh,et al.,“Hallucination-Free?Assessing the Reliability of Leading AI Legal Research Tools,”Journal of Empirical Legal Studies,Vol.22,No.2 (2025),pp.216-242.
- (1)参见Wang Ziqiand and Yuan Boqin,“L-MARS:Legal Multi-Agent Workflow with Orchestrated Reasoning and Agentic Search,”https://doi.org/10.48550/ar Xiv.2509.00761,访问时间:2026年7月14日;Yang Xinyu,et al.,“Law Thinker:A Deep Research Legal Agent in Dynamic Environments,”February 12,2026,https://doi.org/10.48550/ar Xiv.2602.12056,访问时间:2026年7月14日。
- (2)研究者在法学院课程考试场景中已经非常明确地观察到了这一点,参见Blair-Stanek,Andrew,et al.,“AI Gets Its First Law School A+s,”May 2,2025,https://ssrn.com/abstract=5274547,访问时间:2026年7月14日。
- (3)参见Global Legal Post,“Paralegal mistake could cost JPMorgan Chase$1.5 billion,”January 23,2015,https://www.globallegalpost.com/news/paralegal-mistake-could-cost-jpmorgan-chase-15-billion-13240171,访问时间:2026年7月14日。
- (1)参见张文显:《如何推动法学教育高质量发展》,《法制与社会发展》2025年第5期。
- (2)参见胡波:《别让AI当了你论文的主人》,《中国青年报》,2026年5月11日,http://zqb.cyol.com/pc/content/202605/11/content_425635.html,访问时间:2026年7月14日。
- (3)参见Jasper Roe,et al.,“Dramaturgies of Deception:AI Humanizers and the Performance of Legitimacy in Higher Education Assessment,”https://doi.org/10.48550/ar Xiv.2605.02649.访问时间:2026年7月14日。
- (4)参见Mata v.Avianca,Inc.,678 F.Supp.3d 443 (S.D.N.Y.2023)。
- (1) Melia Russell,“The Blame Game over AI hallucinations in Court Filings Has Started,”Business Insider,May1,2026,https://www.businessinsider.com/ai-hallucinations-court-filings-eve-dudley-debosier-2026-4?utm_source=reddit&utm_medium=social&utm_campaign=insider-law-sub-post,访问时间:2026年7月14日.
- (2)参见北京互联网法院:《北京互联网法院发布八起涉AI典型案例之六:程某诉孙某网络侵权责任纠纷案--利用AI软件恶搞、丑化他人肖像构成人格权侵权》,2025年9月10日,https://www.chinaiplawupdate.com/wp-content/uploads/2025/09/%E5%8C%97%E4%BA%AC%E4%BA%92%E8%81%94%E7%BD%91%E6%B3%95%E9%99%A2%E6%B6%89%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E5%85%B8%E5%9E%8B%E6%A1%88%E4%BE%8B.pdf。访问时间:2026年7月14日。
- (3)参见Feier Till,Jan Gogoll,and Matthias Uhl,“Hiding Behind Machines:Artificial Agents May Help to Evade Punishment,”Science and Engineering Ethics,Vol.28,No.2,(2022),Article 19;贺春华等:《代理人与问责方的“双重漂移”:算法避责的机制剖析与治理重构》,《甘肃行政学院学报》2026年第1期。
- (1)参见Steven D.Shaw and Gideon Nave,“Thinking-Fast,Slow,and Artificial:How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender,”https://doi.org/10.2139/ssrn.6097646,访问时间:2026年7月14日.
- (2)参见W.Keith Campbell and Sedikides C.,“Self-Threat Magnifies the Self-Serving Bias:A Meta-Analytic Integration,”Review of General Psychology,Vol.3,No.1 (1999),pp.23-43.
- (1)参见Schrepel Thibault,“Generative AI in Legal Education:A Two-Year Experiment with Chat GPT,”Law,Innovation and Technology,Vol.18,No.1 (2026),pp.1-42.
- (1)参见Nataliya Kosmyna,et al.,“Your Brain on Chat GPT:Accumulation of Cognitive Debt when Using an AIAssistant for Essay Writing Task,”https://doi.org/10.48550/ar Xiv.2506.08872.访问时间:2026年7月14日。该研究中,54名被试的EEG数据显示使用Chat GPT写作时脑功能性神经连接比自主写作减少45%-55%。当然要注意的是,该研究是小样本、特定任务下观察到的较低的脑功能连接现象,其提示人的认知参与程度可能下降,但是否足以确证其长期学习影响,仍需进一步研究检验。
- (2)人脑作为最有代表性的一种复杂系统,参见James Ladyman and Karoline Wiesner,What is a Complex System,New Haven,CT:Yale University Press,2020,pp.57-61.
- (3)几年前已有论者已经看到既有授课模式存在的问题,参见余耀军、高利红:《AI时代的法学教育变革》,《新文科教育研究》2021年第2期。
- (1)参见戴昕:《无过错责任与人工智能发展--基于法律经济分析的一个观点》,《华东政法大学学报》2024年第5期。
- (2)参见Michael Gerlich,“AI Tools in Society:Impacts on Cognitive Offloading and the Future of Critical Thinking,”Societies,Vol.15,No.1 (2025),Article 6.
- (3)参见Finnegan Schick,“Saving the Socratic Method,”July 11,2024,https://lawmagazine.bc.edu/2024/07/saving-the-socratic-method/;Molly Bishop Shadel et al.,“Gender Differences in Law School Classroom Participation,”访问时间:2026年7月14日。
- (1)参见Sean Harrington,“Introducing Quiz Bot an Innovative AI-Assisted Assessment in Legal Education,”October 3,2024,https://ssrn.com/abstract=4975804,访问时间:2026年6月14日。
- (2)参见The University of Chicago Law School,“AI Strategy Statement:Rethinking Legal Education in the AIEra,”July 9,2026,https://www.law.uchicago.edu/news/ai-strategy-statement,访问时间:2026年7月20日。
- (3)参见Emma Burleigh,“Palantir Says College is No Longer a Reliable Training Ground-So It Hired 22 High School Students Instead:‘Skip the Debt.Skip the Indoctrination’”,November 5,2025,https://fortune.com/2025/11/05/palantir-colleges-no-longer-reliable-training-ground-gen-z-hire-22-high-schoolstudents-fellowship/,访问时间:2026年7月14日。
- (1)参见Brown John Seely,Allan Collins,and Paul Duguid,“Situated Cognition and the Culture of Learning,”Educational Researcher,Vol.18,No.1 (1989),pp.32-42.
- (1)参见雷磊:《完美的效率还是负责任的正义?--大语言模型时代数字司法的价值反思》,《东方法学》2025年第4期,第6-7页;Ebrahimi Afrouzi,A.,“John Robots,Thurgood Martian,and the Syntax Monster:A New Argument Against AI Judges,”Canadian Journal of Law and Jurisprudence,Vol.37,No.2(2024),pp.369-396.
- (1)但这其实也是法教义学研究中较为常见的用法,参见周光权:《客观归责论与实务上的规范判断》,《国家检察官学院学报》2020年第1期。
- (2)参见Law Geex,“AComparing the Performanceof Artificial Intelligence to Human Lawyers in the Reviewof Standard Business Contracts,”February 26,2018,https://images.law.com/contrib/content/uploads/documents/397/5408/lawgeex.pdf,访问时间:2026年7月14日。
- (3)参见Varun Magesh,et al.,“Hallucination-Free?Assessing the Reliability of Leading AI Legal Research Tools,”Journal of Empirical Legal Studies,Vol.22,No.2 (2025),pp.216-242.
- (4)参见Neel Guha,et al.,“Legal Bench:A Collaboratively Built Benchmark for Measuring Legal Reasoning in Large Language Models,”https://doi.org/10.52202/075280-1915.,访问时间:2026年7月14日。
- (5)参见丁晓东:《人机交互决策下的智慧司法》,《法律科学(西北政法大学学报)》2023年第4期。
- (1)参见托马斯·M.J.默勒斯:《法学方法论》,杜志浩译,北京:北京大学出版社,2022年,第481页。
- (2)中国学界最具代表性的批评性讨论,参见苏力:《法律人思维?》,《北大法律评论》2013年第2期。
- (3)如所谓“论证模型”,参见托马斯·M.J.默勒斯:《法学方法论》,杜志浩译,北京:北京大学出版社,2022年,第47-52页。
- (4)参见Git Hub开源项目china-lawyer-analyst,集成请求权基础分析法,可识别70类案件,审查630个审查要点、495个证据清单项。China-Lawyer-Analyst,https://github.com/CSlawyer1985/china-lawyeranalyst,访问时间:2026年6月14日。
- (5)参见《AI时代下的程序员焦虑》,2026年3月5日,https://juejin.cn/post/7613312883267207208,访问时间:2026年6月14日。
- (1)参见Posner Eric A.and Shivam Saran,“Judge AI:A Case-Study of Large Language Models as Judges,”Journal of Law&Empirical Analysis,Vol.3,No.1 (2026),pp.179-203.
- (1)此处化用罗伯特·帕特南的“独自打保龄”概念,参见罗伯特·帕特南:《独自打保龄:美国社区的衰落与复兴》,刘波等译,燕继荣校,北京:中国政法大学出版社,2018年。
- (2)参见卡尔·施密特:《论法学思维的三种模式》,苏慧婕译,北京:中国法制出版社,2012年。
- (1)参见The University of Chicago Law School,“AI Strategy Statement:Rethinking Legal Education in the AIEra,”July 9,2026,https://www.law.uchicago.edu/news/ai-strategy-statement,访问时间:2026年7月14日。