AI医生珍视什么？审查语言模型临床伦理中的价值多元性

医学本质上是一个充满多元价值的领域，自主、行善、不伤害和公正等原则在临床实践中经常发生冲突，这种伦理困境往往会导致意见合理的医生之间产生严重分歧。优秀的临床实践并非强加单一的伦理立场，而是与每位患者的价值观协同，在张力中寻求平衡。然而，目前对于大型语言模型在提供医疗建议时所带入的伦理价值观，尚缺乏系统的审视与审查。本研究的核心贡献在于提出了一套用于审计医疗人工智能中价值多元性的完整框架。该框架不仅包含一个经过临床医生严格验证的伦理困境基准数据集，还创新性地提出了一种归因方法，能够从模型的具体决策中逆向推导并恢复其隐含的价值优先级。这一工作填补了当前AI伦理评估中的关键空白，为理解大模型在高风险医疗场景下的价值取向提供了可量化的工具，使得评估AI是否具备符合临床复杂性的伦理判断能力成为可能，从而为后续的安全对齐和伦理优化奠定了坚实的方法论基础。在技术方法层面，研究团队构建了一个精心设计的基准测试环境，其中的伦理困境案例均经过专业临床医生的核实，确保了测试场景的真实性和复杂性。

为了深入探究模型内部的决策逻辑，开发者设计了一种新颖的归因算法，该算法不依赖于黑盒式的输出分析，而是通过系统性地改变输入语义和进行重复采样，观察模型决策的稳定性与变化模式。这种方法使得研究人员能够直接"读取"模型在面临价值冲突时的优先级排序。技术实现的关键在于区分模型在推理过程中的讨论阶段与最终决策阶段。研究发现，模型在生成推理链时，能够展示对竞争价值的权衡，表现出一种被称为Overton多元主义的特征，即在内部推理中承认多种观点的合理性。然而，这种内部的多元讨论并未转化为外部决策的多样性，技术细节揭示了模型在从推理到决策的映射过程中，存在一种将连续的价值光谱坍缩为确定性输出的机制，这为理解模型的行为一致性提供了微观视角。实验设置涵盖了多个前沿的大型语言模型，并在构建的临床伦理基准上进行了广泛的测试。关键结果揭示了一个显著的现象：尽管模型在推理过程中讨论了相互竞争的价值观念，但其个体模型的决策在重复采样和语义变化下表现出近乎确定性的特征。

这意味着模型未能复现人类医生群体中存在的分布性多元特征，即不同医生在面对相同困境时会有不同的合理选择。Across benchmark cases, these consistent decisions reflect committed, systematic value preferences. 数据显示，虽然大多数模型的价值优先级落在医生间自然变异的合理范围内，但部分模型显著低估了患者自主权这一核心伦理原则。消融实验进一步证实，这种决策的一致性并非随机噪声，而是模型内化的系统性偏好。这些发现表明，当前的LLM在模拟临床伦理判断时，虽然具备表面的推理能力，但在处理价值冲突的多样性上存在结构性缺陷，其决策分布过于集中，无法反映真实医疗环境中应有的伦理光谱。这项研究对开源社区、工业落地及后续研究具有深远的行业意义。它警示我们，如果在不考虑模型价值优先级的情况下部署单一的大型语言模型，可能会在大规模应用中放大其特定的伦理偏好，导致"部署层面的单一文化"，从而取代临床实践中至关重要的伦理多元性。对于医疗AI的开发者而言，这意味着仅追求准确性是不够的，必须显式地平衡伦理视角，通过多模型集成或特定的对齐策略，确保系统能够尊重不同患者的价值观。对于政策制定者和临床医生来说，该研究提供了审计AI伦理行为的工具，有助于建立更透明的AI医疗监管框架。后续研究可以在此基础上，探索如何增强模型的分布性多元能力，使其在保持决策一致性的同时，更好地模拟人类医生的伦理灵活性，从而构建更加以人为本、尊重多样性的智能医疗助手。