计算机辅助设计与图形学学报

作者：宋淑超, 陈益强, 于汉超, 张迎伟, 杨晓东

关键词：可解释人工智能, 临床决策支持系统, 智能医疗, 人智交互, 用户体验

随着人工智能(artificial intelligence, AI)的高速发展, “黑盒”模型已逐渐展示出逼近甚至超越人类的能力, 尤其在智能医疗等高风险应用场景中, 其可解释性是用户在应用中信任和理解AI的关键基础. 虽然已有工作提供了大量事前和事后的AI可解释方法, 但大都采用通用型解决思路, 未考虑不同用户在不同场景下多维度的理解和信任需求. 以人为本的AI可解释方法能够针对用户实际需求对AI模型进行可解释分析, 近年来逐渐受到国内外学者的关注. 文中聚焦智能医疗应用, 对近5年人机交互国际顶级会议的文献进行分析, 回顾现有辅助诊断、辅助用药、未病预警方面以人为本的AI可解释方法及系统, 从决策时间花费、用户专业度和诊疗工作流程3个维度梳理和定位可解释需求的系统性方法, 得出4类典型用户画像和对应案例; 并从考虑资源受限、不同用户的多样需求、与现有流程结合3个方面, 为如何设计可解释的医疗辅助诊断系统提出建议.

来源：2024年第5期

《计算机辅助设计与图形学学报》期刊编辑部

查看计算机辅助设计与图形学学报杂志2024年第5期