文章
NUS 面向科学发现的可解释 AI 框架 2026
新加坡国立大学设计与工程学院的一篇观点文章提出了一套工作流程，用于将 AI 发现的模式转化为可检验的科学假设，并在高风险应用前评估解释。
NUS 面向科学发现的可解释 AI 框架 2026
新加坡国立大学设计与工程学院（NUS CDE）报告了一篇 观点文章，提出在科学发现和高风险应用中使用可解释人工智能（XAI）的框架。该观点文章由 NUS 助理教授 Gianmarco Mengaldo 合著，于 6 August 2026 发表在 Nature Communications；NUS 于 2 September 2026 发布了新加坡研究专题报道（NUS CDE，2 September 2026）。
从预测到可检验的假设
这套拟议工作流程将 AI 解释视为调查线索，而不是仅凭表面现象就能接受的科学解释。研究人员会找出哪些输入或模式影响了模型的预测，将这一线索转化为假设，然后通过实验、模拟或既有科学原理进行检验。NUS 以 AI 分析湍流气流为例说明这一思路：解释可以指出值得研究的特征，而进一步检验则可确定它反映的是真实物理过程，还是训练数据中反复出现的模式（NUS CDE，2 September 2026）。
发现、优化与认证
NUS 描述了这种方法的三种关联用途。可解释性可以通过揭示暗示系统运行方式的模式来支持 发现；经过检验的见解可以通过改进设计或控制策略来支持 优化；记录哪些因素影响了模型，则有助于 认证 和可靠性评估。在一项已报告的湍流案例中，XAI 找到了有影响力的气流模式，并帮助研究人员训练第二个 AI 系统，使其比仅根据最终阻力结果训练的系统更有效地降低阻力（NUS CDE，2 September 2026）。
高风险应用的界限
对于医疗保健、航空、能源、基础设施和自主系统，该专题报道指出，评估者需要考察模型准确性，以及解释是否忠实反映了影响模型的因素，包括在陌生条件下的表现。解释可以加强安全和监管评估，但 NUS 明确将其作为补充证据，而非现有测试、认证或监管流程的替代品。文章介绍的是一套拟议框架和正在进行的探索，并非已部署的监管标准，也没有声称该方法已经验证了每个高风险 AI 系统（NUS CDE，2 September 2026）。
记录详情
- 别称
- ["NUS explainable AI framework","XAI scientific discovery Singapore","explainable AI high-stakes applications NUS"]
- 管辖地区
- SG
日期表示本记录的统计期间与适用范围。核验日期并不代表规则目前已经生效。
资料来源
知识库资料截至 2026-10-07 · 知识库持续扩充中。发布数量表示现有内容，并不代表已覆盖新加坡的全部知识。