受监管职业需要的不是炫目的人工智能，而是负责任的人工智能

引言

关于受监管职业中人工智能的讨论，常常在两个极端之间摇摆。一端是「替代论」：机器很快就会取代律师、法务人员、注册会计师、医生、公证人或公职人员。另一端是「拒绝论」：人工智能风险太高、太不透明、与职业价值相去太远，无法被认真地加以整合。这两种立场都错过了问题的核心。

受监管职业并不仅仅由其完成的任务来定义，而是由其承担的责任来定义。律师不只是起草一份文件，他提供咨询、进行辩护、权衡取舍、承担责任并保护客户的秘密。医生不只是阅读一份检查结果，他负责照护一个人。注册会计师不只是产出数字，他保证信息的可靠。公职人员不只是处理一项申请，他参与一项公共利益使命。

人工智能可以改变任务，但不应消解责任。正是基于这一区分，才应当构建一套关于受监管职业采用技术的法国准则。

1. 工作的转型：从生产到验证

生成式人工智能已经在改变智力工作的运作机制。历史上，法律专业人士以及更广泛的咨询类职业将相当大一部分时间用于分析、产出，然后交付。他们收集信息、对其进行定性、撰写成果文件，然后将其提交给客户、法官、行政机关或所在组织。

借助人工智能，一部分前期分析和初始产出可以得到加速。工具可以提出摘要、发现不一致之处、提取数据、拟定提纲、生成条款草案或撰写纪要。职业的核心由此转向核查、验证和交付。这一转移并不必然降低专业人士的价值，反而使其更加可见：知道什么是错误的、不完整的、定性不当的、危险的或不合适的，成为核心所在。

这一演变在企业法务部门和合规职能中已经可以察觉。法务人员利用人工智能在基础任务上节省时间，但必须核查结果、记录取舍、检验偏见、保留痕迹并解释决策。专业人士同时成为使用者、监督者、培训者，有时还是人工智能的训练者。

2. 负责任的人工智能始于人的责任

第一条规则很简单：专业人士不能躲在人工智能背后。借助模型产出的成果仍然是专业成果。书状中杜撰的引注、合同中错误的条款、对风险的错误定性、歧视性的决定或对保密义务的违反，不会因为是工具生成的就变得可以接受。

一些律师因提交含有幻觉内容的书状而受到处罚，这恰恰提醒人们这一显而易见的道理。专业法律工具的幻觉可能少于通用模型，但并不免除核查义务。在受监管职业中，标准不能是「工具通常是可靠的」，而必须是「专业人士已经核查了涉及其责任的内容」。

因此，负责任的人工智能首先建立在人的自律之上。必须核实来源、检验推理、在必要时记录有用的提示词、保留验证痕迹、明确角色分工并培训团队。责任不会消失，而是转移到控制流程的设计上。

3. 受监管职业特有的风险

与人工智能相关的风险并不是同质的。它们取决于职业、所处理的数据、所涉及的人员以及所产生的效果。在受监管职业中，需要区分几类风险。

• 保密风险：将敏感数据或受保密义务保护的数据输入未被充分掌控的工具。
• 幻觉风险：生成并不存在却被言之凿凿地呈现的参考依据、分析或事实。
• 过度委托风险：在既不理解也不核查的情况下接受模型的输出。
• 偏见风险：在分析、优先级排序或决策中复制或放大歧视。
• 可追溯性风险：无法解释某一结论是如何得出的。
• 依赖风险：技能流失、供应商锁定、无法更换工具。
• 去人性化风险：以自动化交互取代一种以倾听、细致判断和信任为前提的专业关系。

这些风险并不构成不作为的理由，而是构成讲求方法的理由。不使用并不是一种可持续的策略，因为客户、服务对象、竞争者和员工都将逐步采用这些工具。但缺乏规范的使用同样危险。

4. 培训成为一项职业义务

最被低估的问题之一是培训。使用人工智能不只是会写提示词。还必须理解模型的局限、模型的说服力所带来的风险、幻觉、词元化（tokenization）、保密、偏见、验证链条、模型之间的差异、合同层面的问题以及评估一个回答的方法。

年轻的专业人士往往具备更强的数字能力，但这种能力并不足够。经验丰富者拥有不可或缺的业务判断力，但可能对工具较不熟悉。因此，如果将人工智能视为一个相互学习的空间，它可以建立起一种新的代际纽带。年轻人帮助掌握技术，资深者传授方法、审慎、推理以及与客户的关系。

还必须注意不要摧毁职业培养机制。如果组织过快地取消入门级任务，就有可能剥夺年轻人通过实践学习的机会。法律从业者是在起草、复核、犯错和被纠正的过程中成长起来的。如果人工智能将基础任务自动化，却不重新思考培训，就可能削弱下一代专业人士的根基。

5. 六项原则构成的准则

一套关于受监管职业中人工智能的法国准则，可以建立在六项简单的原则之上。

• 目的性原则：人工智能必须回应一项已明确的职业需求，而不是因为可用就加以部署。
• 比例原则：数据和后果越敏感，保障就必须越有力。
• 责任原则：任何使用都由一位明确可识别的专业人士或组织承担责任。
• 可追溯性原则：重要的使用必须能够被记录、审计和解释。
• 务实主权原则：供应商的选择必须考虑数据保护、可逆性、技术支持和战略依赖。
• 持续培训原则：AI 能力必须纳入职业义务、职前教育和发展计划。

这些原则并非旨在放慢创新，而是旨在使创新与奠定受监管职业信任基础的义务相容。

6. 民主与制度层面的课题

受监管职业中的人工智能不仅仅是一个生产力问题。它关系到司法可及性、医疗质量、对机构的信任、消费者保护、经济安全和平等对待。围绕深度伪造（deepfakes）、著作权、用于训练模型的内容、对政治内容的算法过滤或扫描加密通信的提议所展开的讨论表明，技术问题很快就会演变为民主层面的议题。

因此，受监管职业可以发挥一种特殊的作用。它们可以成为制衡力量、调解者和标准的设计者。律师可以参与界定与人工智能相关的权利和救济途径。法务人员可以将合规转化为竞争优势。公证人、司法执达员（commissaires de justice）、注册会计师、医生和公职人员可以参与制定既保护个人又改进流程的使用方式。

法国在此拥有一个机遇：倡导一种既不恐惧技术也不天真的专业人工智能路径。这一路径拥抱创新，但拒绝将数据、责任和人仅仅视为优化变量。

结语

受监管职业不需要炫目的人工智能。它们需要的是可靠、可解释、治理有序并与其义务相容的人工智能。问题不在于人工智能是否很快会做专业人士的工作，而在于专业人士如何借助人工智能把工作做得更好，同时不放弃其角色赖以成立的根基。

负责任的采用并不比快速的采用缺少雄心，它只是更加持久。在以信任为基础的市场中，创新并非因令人惊叹而取胜，而是因有人能够为之担责而取胜。