AI 在制药项目中的角色与证据责任：对象、工具及其交叠

摘要

人工智能（Artificial Intelligence，AI）既是制药项目要交付的系统，也是做项目的工具。用 AI 验证 AI 系统自身、或管理其变更时，两种身份就叠在一起。制造与质量项目面对的是同一组问题：角色怎样影响责任分配，加上的控制能不能改善实际结果。

证据范围限于截至 2026 年 9 月 20 日的定向检索与引文追溯。监管文件、制药研究、人机协作试验和智能体研究，各有各的证据用途。制药研究支持部分记录抽取、检索和受控辅助任务可行；生成式 AI 能否稳定改善调查质量、总周期和生产结局，证据还不够。

跨领域研究显示，AI 能提高特定写作和客服任务的效率。但有人参与，不保证监督有效；模型评分，也代替不了完整工作流评价。对象、工具与交叠这一视角，可以用来识别证据责任；它是否比现有安排更有用，仍需比较验证。

选控制措施，看四件事：使用情境、质量影响、决策依赖、执行权限。人工复核、独立参考证据、权限限制、变更测试，每一项都要算两笔账：有没有用，费多少事。研究不能停在单次成功，要比较完整流程、查明共同失效，确认什么条件下值得持续使用。定向检索和跨领域外推限制了这些结论。

关键词：人工智能；制药项目管理；证据责任；人机协作；智能体；生命周期治理。

Abstract｜英文摘要

Artificial intelligence (AI) can be a pharmaceutical project deliverable or a tool for doing project work. The roles overlap when AI helps validate AI systems or manage their changes. Manufacturing and quality projects face two unresolved questions: how these roles shape accountability, and whether the associated controls improve results.

The evidence base for this critical narrative review comes from targeted searches and citation tracing through 20 September 2026. Regulatory documents, pharmaceutical studies, human–AI experiments, and agent research serve distinct evidentiary roles. The pharmaceutical studies identified support the feasibility of selected extraction, retrieval, and supervised tasks. They do not establish consistent benefits of generative AI for investigation quality, total workflow time, or manufacturing outcomes.

Studies in other domains show productivity gains in writing and customer support. Yet human involvement does not ensure effective oversight, and model scores cannot replace workflow evaluation. The deliverable–tool–overlap framework may help identify evidence responsibilities. Whether it adds value still requires comparative testing.

Controls should reflect context of use, quality impact, decision reliance, and execution permissions. Human review, independent reference evidence, permission boundaries, and change testing need evaluation for both effectiveness and cost. Research should compare complete workflows, identify shared failure mechanisms, and establish when continued use delivers value. Cross-domain transfer and the selective search strategy limit the strength of these conclusions.

Keywords｜关键词：Artificial intelligence; pharmaceutical project management; evidence accountability; human–AI collaboration; AI agents; lifecycle governance.

一、问题的起点：谁为结果负责

2026 年 4 月，美国食品药品监督管理局（Food and Drug Administration，FDA）向 Purolea Cosmetics Lab 发出警告信，检查对象是药品生产场所。企业用 AI 智能体编写规格、规程和主生产或控制记录，却没有确保文件准确、符合要求。工艺验证没做，企业的解释是：AI 没有提醒。FDA 要求，若恢复生产并继续用 AI 辅助相关活动，相关输出或建议须经质量部门授权人员审核认可。¹

这个案例说明，AI 生成的文件可以进入正式质量活动。但不能据此认定，问题就是"角色混淆"造成的：既有质量体系失效、人员能力不足，也可能解释检查发现。警告信列出的是具体违规和整改要求，没有检验哪种治理框架更有效。

项目管理协会（Project Management Institute，PMI）2026 年 6 月发布《项目组合、项目集与项目管理人工智能标准》（The Standard for Artificial Intelligence in Portfolio, Program, and Project Management）。公开介绍涵盖两件事：在项目中使用 AI，以及管理 AI 驱动的项目。^{2, 3} 建设 AI 的团队和使用 AI 的团队，要回答同一个问题：双方对失败后果的认识是否一致，交出的依据是否足够支持判断。

讨论范围限定在药品制造、质量管理和项目交付。药物发现和临床诊疗的效果不在直接评价范围内；引用临床研究，只为考察人机协作的机制。医疗器械规则也只在边界清楚时用作比较。对象、工具、交叠是一套项目分析视角；它有没有用，要看能否减少责任遗漏、改善可检验的结果。

二、检索范围与证据判断

资料来自公开网页定向检索、官方发布渠道和引文追溯，更新截止 2026 年 9 月 20 日。检索主题包括制药制造与质量、偏差调查、语言模型、人工监督、智能体可靠性和变更管理；检索词及取舍见配套《定向检索记录》。监管资料，回到发布机构原文核对；实证研究，优先取原始论文和能取得的全文；较早的方法学研究，用来解释评价设计。

一份资料能不能进来说话，看它能否回答四个问题：AI 承担什么任务；证据由谁产生、谁确认；控制是否改善了任务或工作流；变化之后，使用依据怎么维持。营销材料、不讲方法的效果宣传、查不到来源的数字，不能当证据用。只能取得摘要或预览的研究，保留访问限制标记；预印本与正式版分开标记，不同版本的样本和结果不拼接。

这是一项批判性叙述综述（Critical Narrative Review）。检索没有覆盖全部订阅数据库，也没有预注册、完整去重筛选和独立双人筛选，不能据此判断某类研究在整个领域中的占比。不同任务、模型和终点不作合并估计。叙述综述质量评估量表（Scale for the Assessment of Narrative Review Articles，SANRA）提供检查目的、检索说明、引用、推理和终点数据的维度；它不是系统综述认证。⁴

证据分两类用途：监管文件用来看义务、监管关注和适用范围；比较研究用来判断效果。草案有政策权威，试验给因果证据，两者不在同一条等级上。检查个案能暴露失效，利益相关方调查能识别需求，厂商实践能提供工程方案；但这些材料本身，都给不出控制措施的平均效果。

三、角色框架的用途与边界

对象身份（AI as a Deliverable）：项目负责建成并交付一套 AI 系统。工具身份（AI as a Tool）：AI 参与完成项目里的某项工作。交叠（Overlap）：两种身份在同一任务链上相遇，比如用 AI 起草另一套 AI 系统的验证方案。交叠不是互斥的第三类系统，也不是法定风险等级。

先定分析单位。同一套文档助手，在建设项目里是对象，在设备改造项目里是工具；它支持自身或另一套 AI 系统的验收时，才出现这里说的交叠。把单位固定在"任务—决策—责任主体"，可以避免给软件贴上永久身份后忽略用途变化。

判定角色，可以从验收边界开始。项目验收包含 AI 系统及其运行配置，系统就是交付对象；采购商业产品再做配置集成，也算。AI 输出被用来完成某项项目任务，它就在这项任务里承担工具角色。这项辅助工作进入 AI 系统的建设、验证或变更管理时，才同时记为交叠。普通设备项目用 AI 写会议纪要，是工具使用——不因为用了 AI，就变成 AI 交付项目。

证据责任要落到人：每项预定决定，谁提供依据、谁核查、谁批准，各自该提交或保留什么材料。角色可以兼任；要不要分离、分到什么程度，看适用制度和风险。把分工列清楚，不等于完成了独立验证。

表 1｜角色、证据责任与不能由角色推出的结论。概念性分析，尚未经比较研究验证。

表 1｜角色、证据责任与不能由角色推出的结论。概念性分析，尚未经比较研究验证。

AI 为非 AI 项目起草生产规程，一样要管来源、审核和记录。交叠情境把"生成与评价共享盲点"的问题，直接带进了 AI 验证流程。这种共同失效（Common-Cause Failure）不是交叠独有；角色框架能不能减少由此产生的责任遗漏，仍需比较验证。

实际控制仍取决于使用情境（Context of Use，COU）。FDA 2025 年的相关草案，把药品监管决策中的模型可信度与具体使用情境挂钩；该文件仍是草案，也不覆盖所有企业办公用途。⁵ 一份会议纪要，和一份影响批次处置的建议，即使出自同一模型，所需证据也不同。角色框架补的是责任视角，不能代替质量风险评估。

四、实证研究支持到了哪一步

直接面向制药的研究，首先支持的是任务可行性。Salami 等的正式论文考察了偏差报告的知识抽取和相似事件识别。⁶ 能取得全文的早期预印本用了 20 份真实调查报告；被评为"可接受"的根因抽取结果里，包含把促成因素当成根因的情况。⁷ 这类评价说明模型能处理历史文字，证明不了它能正确完成新的调查。20 例数据集在正式版中仍然存在，正式版另列第二套数据；早期样本数不能代表正式版的全部研究。

Amin 的沙箱试点报告了验证周期和审核一致性的改善。⁸ 但它用的是语义匹配、梯度提升等方法，不能据此判断生成式语言模型的效果。评价细节报告不充分，数据无法公开复核；这个结果更适合当作进一步试验的依据。

收益证据要看跨领域研究。Noy 与 Zhang 的随机实验纳入 453 名专业人员：指定写作任务平均用时减少 40%，质量评分提高 18%。⁹ Brynjolfsson 等用 5,172 名客服人员的分阶段上线数据估计，AI 辅助使每小时解决问题数平均提高约 15%。¹⁰ 一个研究短时写作，一个是单一企业的准实验。它们支持特定条件下的任务收益，还不能直接推出制药质量改善或完整项目回报。

表 2｜代表性实证研究及其可支持的判断。研究异质性大，未作合并评价。

表 2｜代表性实证研究及其可支持的判断。研究异质性大，未作合并评价。

后六项研究提供的是跨领域的任务收益、协作机制和评价方法；药厂部署仍需直接证据。尤其不能把元分析读成"人机组合普遍不如人"，也不能把含无效值的置信区间读成"已经证明无效"。

这些结果提示按任务内容分层，不要给"文档工作"统一估值。整理报告措辞和判断根因是两种能力；同一份偏差报告可能两样都有。专业写作实验的评分改善，不宜移用到事实核验和质量处置上。反过来，人机诊断试验没显示收益，也否定不了语言整理的效率价值。

各证据最一致的提醒是：终点不可混用。模型答不答得对、人机组合做不做得完任务、业务结果改没改善，是三个层级。前一层进步，不自动带来后一层收益。2026 年一项基于 273 份利益相关方回复的调查，识别了药品生命周期 AI 的监管研究优先项；它说明需求仍在，证明不了任何具体控制已经有效。¹⁵

五、从模型评价转向完整工作流

作为交付对象，模型之外的依赖同样影响结果。检索增强生成（Retrieval-Augmented Generation，RAG）系统还依赖知识库、文档版本、检索规则和提示模板；能调用工具的智能体（AI Agent），又多出接口、权限和异常恢复。系统验证（Validation）要支持的是预定用途；单个输出的核验（Verification），只能回答这一次结果是否满足具体要求。

Rabanser 等评估了 15 个模型和两个任务基准，把智能体可靠性分成一致性、稳健性、可预测性和安全性。结论是：能力在涨，可靠性只跟着涨了一点。¹⁶ 这个结果受模型、任务和评价架构限制；药品生产质量管理规范（Good Manufacturing Practice，GMP）场景还要建立自己的验收依据。这些研究维度可以用来出测试假设：同一任务重复跑，改动不影响实质的输入形式，加入工具故障，再看失效能不能被发现、能不能被限制住。

工作流评价还要覆盖停止和转交。系统缺少关键依据时，合适的行为可能是暂缓判断。拿偏差助手来说，比文字流畅度更有意义的终点是：关键事实遗漏、错误根因建议、过期资料采用、人工发现错误的比例，以及从开始处理到获准使用的总耗时。这些指标及其容许限度宜在正式评价前定下来；一边改系统，一边把同一批案例一直当独立测试用，它们就不再独立了。

真实动作要独立核对。智能体说"草稿已保存"，不等于目标系统里真有那条正确记录。人工智能公司 Anthropic 的工程实践把执行轨迹（Execution Trace）和环境最终状态（Outcome）分开看。¹⁷ 检查质量管理系统（Quality Management System，QMS）接口时可以照此核对：目标记录、字段、批准状态、重复写入。这是从厂商实践转译来的测试建议，效果还要在具体工作流里验证。

比较工具价值，要把审核和返工算进去。英国药品和健康产品管理局（Medicines and Healthcare products Regulatory Agency，MHRA）披露过一个案例：一份 AI 辅助的检查回复含重大不准确内容，审查与回应耗时从约 4 小时变成超过 20 小时。¹⁸ 单个案例给不出一般发生率，却说明成本可能转移到下游。比较试点要同时记录初稿用时、复核用时、错误后果和维护成本，任务难度和人员经验尽量保持可比。

六、人在环需要证明的是监督效果

三个词先分清：人在环（Human-in-the-Loop，HITL）是把人工判断纳入流程；人类监督（Human Oversight）要求人员能理解、质疑、干预；人工复核（Human Review）是落实监督的一项具体活动。有没有效，看的是人能否发现并纠正错误。FDA 与欧洲药品管理局（European Medicines Agency，EMA）在 2026 年共同原则第 8 项中，把人机交互纳入完整系统的性能评价。¹⁹ 该原则给了评价方向，没给出统一的人工复核效果值。

自动化偏差（Automation Bias）研究说明：经验丰富也不能消除对错误建议的依赖。¹³ 但这不等于人工复核必然无效。界面、任务难度、时间压力、拒绝权限不同，监督表现可能不同。Goh 等的试验也排除不了专门训练或换交互设计后的收益。¹²

复核环节的试验可以这样做：一组只做末端确认，另一组提供原文、差异提示和明确的拒绝权限。挑战案例应包含真实工作中可能发生的错误引用、遗漏和错误建议；评价者手里要有预先确定的参考答案。主要看四个数：错误发现率、错误纠正率、正常输出被误拒的比例、复核负担。只看签名率、阅读时长或培训完成率，证明不了监督起效。

复核也可能产生代价。低价值提示过多会分散注意，重复核查可能延长周期，过宽的责任措辞可能导致形式性签字。更复杂的审核界面如果没减少严重遗漏、反而明显增加时间，就该调整措施。风险较低的用途可以用较轻的安排；高影响决定仍须符合适用质量体系的授权要求。

七、交叠情境中的证据独立性

AI 生成方案、生成测试题、再评价自己的答案，同一个错误会贯穿整条文件链。换个模型也未必解决：两个模型可能共享资料、训练偏差或错误前提。证据独立性（Evidence Independence）看的是判断依据和失效机制，不能只数参与者有几个。

假设一个情境：偏差助手升级。起草工具只检索到旧版规程，测试生成工具沿用同一批资料，评价工具再按同一标准判通过。三个环节可能一起漏掉新增要求。重跑多少次都只是重复这个遗漏；把当前受控规程引进来当独立参考，才能检验要求有没有覆盖。这个例子说明的是待测试的失效机制，不代表已经观察到的企业事件。

一种可检验的安排：参考答案、风险场景和通过条件，建立在原始要求、受控记录和适当专业判断上。AI 提出的案例可以进候选集，但覆盖范围和标签要另行核查。欧洲《附录 22：人工智能》（Annex 22: Artificial Intelligence）2025 年征询草案 §5.6 不推荐用生成式 AI 生成测试数据或标签，并要求对任何此类使用充分论证。²⁰ 这项特定草案表述，不能扩写成"所有 AI 辅助测试一律禁止"。

记不记、记多少，看这条输出有没有真的影响决定。一个输出如果改变调查范围或支持处置，界面上写"仅供参考"也消除不了它的证据作用。反过来，也不必把所有试探性对话无差别纳入正式质量记录。工程上可记录：任务用途、输入的受控位置、系统版本、实际采用的输出、支撑依据、审核判断和后续动作；具体保存范围和期限，由适用要求和企业制度确定。

这些安排还需要比较证据。试验要报告两件事：独立参考方案减少了多少未发现的严重错误，多付出了多少成本。新增文档数量只说明工作发生了，效果判断仍要看纠错结果。

八、智能体的执行权限必须在系统中落实

读资料、起草建议、写入正式系统，是三种不同的行动能力。所以自主程度要单独看、单独管——这和它是"对象"还是"工具"无关。一个身份只是"工具"的智能体，也可能握着足以影响质量记录的权限。

美国国家标准与技术研究院（National Institute of Standards and Technology，NIST）2026 年 9 月 15 日发布第 8587 号机构间报告（Interagency Report，IR）最终版，谈令牌与身份断言的伪造、盗取和滥用。§1.1.1 明确涵盖智能体通过签名令牌访问系统、数据、工具和接口的情形，同时限定它不是全面的智能体接入风险指南。²¹ 这是一份通用安全文件，不能当作药品监管要求。NIST 下属的国家网络安全卓越中心（National Cybersecurity Center of Excellence，NCCoE）此前也把智能体身份、授权和审计列为研究议题。²²

身份认证（Authentication）回答"谁在访问"，授权（Authorization）决定"允许做什么"。提示注入（Prompt Injection）是把诱导指令夹进资料、让系统偏离任务；针对它，只在提示词里写"不要提交"，构不成可靠的权限边界。访问控制要限定对象、动作和有效期，还要检验撤销访问后是否真停。§5.3.1.2 说明无状态架构中全局撤销未必即时生效，§5.3.1.3 和 §5.3.1.6 涉及权限范围与短期令牌。²¹

限制权限不是没有代价。过窄的授权可能阻断正常任务，促使人员绕过系统；日志过少不利于追查，过多则增加敏感信息暴露。测试要同时看两件事：越权行为受没受阻，获准任务做不做得完。按 §5.3.1.5 和 §5.3.1.7，审计日志（Audit Log）要防篡改，并避免记录令牌、断言本体及其中的个人数据。²¹

九、把监管边界和变更责任写入项目交付

同一项技术，监管要什么，往往看用途和适用对象。FDA/EMA 共同原则首页明确列出包括制造在内的药品生命周期；国家药品监督管理局（National Medical Products Administration，NMPA）的 2026 年实施意见直接面向药品监管体系，强调辅助定位和责任边界。^{19, 23} 后者不能被读成"药企生产活动已获准自主决策"。

表 3｜关键文件的状态与可迁移范围。状态截至 2026 年 9 月 20 日。

表 3｜关键文件的状态与可迁移范围。状态截至 2026 年 9 月 20 日。

附录 22 草案第 1 节聚焦关键 GMP 应用中的静态模型（Static Model）与确定性输出（Deterministic Output），提出动态模型（Dynamic Model）、生成式 AI 和大语言模型（Large Language Model，LLM）不应用于上述关键 GMP 应用；对非关键 GMP 的生成式用途，则提出由合格人员确认输出的安排。²⁰ "动态"指运行中继续学习；静态模型的受控升级，不能一概归入动态模型。草案方向需要关注，正式适用状态要在实施时复查。

变更控制（Change Control）要覆盖实际改变行为的组件：模型、知识库、检索方式、提示模板、接口和权限。预定变更控制计划（Predetermined Change Control Plan，PCCP）的器械指南提供了一个预先规划变化的例子：按已授权计划规定的方法完成验证并满足条件，某些计划内变更可免于追加上市申报；这不免除测试，也不构成药品 GMP 的申报安排。²⁵

项目交付要明确后续责任人。建设团队随模型移交批准配置、监测指标、变更评估和退出条件。质量或业务负责人要知道何时限制用途、转人工或停用；供应商变更通知、知识库失效、关键错误重复发生，都可能触发复评。附录 22 草案 §10.1 提出评估变更是否需要重测；决定不重测，要给出理由。²⁰ 具体测试负担仍应结合影响，避免所有细小变化都触发同样的完整重验。

十、差距分析：需要验证的是控制的增量价值

已有文献提出制药 AI 的综合治理框架。Patel 与 Patel 把验证、伦理和生命周期管理结合在一起，但其框架尚未经实证验证。²⁶ 所以，多画一张流程图、多加几层控制，本身不构成研究贡献。角色视角有没有用，要与既有风险管理和使用情境管理比较才知道。

表 4｜从建议到可证伪的研究问题。以下为研究设计建议，尚无实施结果。

表 4｜从建议到可证伪的研究问题。以下为研究设计建议，尚无实施结果。

这些终点要预先定义。比如"责任遗漏"，可记为预定质量相关决定中缺少指定责任人或必要证据要求的比例；"严重"按潜在质量或安全后果事先分级。漏检，可用已知错误集合中的未检出比例衡量；权限控制后的可用性，可用获准任务完成数占测试任务数的比例衡量。净工时包括准备、生成、复核、返工和分摊维护时间。错误参考标准宜由不参与系统调优的合格人员建立，对存在分歧的案例保留裁定记录。研究方案还要预先定下最小有用改善和可接受的成本或工时增幅，具体数值由任务后果与基线流程确定。

做效果比较，是为了优化控制设计；适用法规明确要求的控制，试验没测出净收益也照做。

这类研究要在安全的历史数据或沙箱里起步。单 AI 基线可用于离线比较，不代表授权其自主执行。样本要覆盖正常任务和重要失效，保留未用于调优的案例，并报告不确定性。有生产影响的研究，实际实施还须纳入现有质量体系控制。

当前判断有三项主要限制。第一，定向检索可能遗漏研究，公开程度也影响纳入；"尚不足以支持"不能写成"整个领域没有证据"。第二，多数较强的比较研究来自其他领域，迁移到制药任务要重新验证。第三，模型和法规都在变化，2023 年的人机实验与 2026 年的智能体不能视为同一种干预。角色框架、工程建议和控制组合的效果，都不因引用了新文件就算已经成立。

结论

对象、工具与交叠，有助于把证据责任问题问出来，但还不是经过验证的管理干预。制药项目采用 AI 的依据，要从具体用途出发，把模型表现、人工判断、实际动作和完整工作流结果连起来。现有证据支持审慎试验部分辅助任务，也暴露了成本向复核端转移、监督失效和共同错误的可能。能支持持续使用的，是在明确边界下反复取得的质量与收益证据，以及失效后可执行的限制、纠正和退出安排。

附录：中英术语与缩写速查

机构与学术会议

技术与质量管理缩写

MARCS 的展开见 FDA 原始报告，CMS 的展开见 FDA《监管程序手册》第 4 章。IR 8587 使用“机构间报告”这一名称；NIST 的系列总称还包括内部报告（Internal Report），见 NIST 系列释义。

项目管理与工程术语

标准名称、专名与书目读法

标准和文献的中文译名用于辅助阅读，英文原名及所附链接用于准确回查。

研究方法、统计与新增专名

参考文献