针对医学人工智能产品的对抗测试技术平台设计

R318%R197.39%TP313; 目的:设计针对医学人工智能产品的对抗测试技术平台,以为医学人工智能产品提供对抗测试方法、通用性能评价和不良事件监控.方法:该平台基于浏览器/服务器(Browser/Server,B/S)架构设计,采用MySQL数据库进行搭建.该平台主要包括数据集管理、人工智能产品模型管理和人工智能性能监控3个模块,其中数据集管理模块和人工智能产品模型管理模块均采用React框架进行搭建,人工智能性能监控模块基于Nodejs框架设计,包括对抗测试技术和性能动态追踪与风险预警2个子模块.结果:该平台可实现对不同模态的人工智能产品的对抗测试、通用性能评价和不良事件监控,能够为...

Full description

Saved in:
Bibliographic Details
Published in医疗卫生装备 Vol. 44; no. 1; pp. 8 - 12
Main Authors 王光宇, 蒋泽宇, 杨国兴, 石剑宇, 刘晓鸿
Format Journal Article
LanguageChinese
Published 北京邮电大学信息与通信工程学院网络与交换技术国家重点实验室,北京 100876%清华大学计算机系,北京 100084 2023
Subjects
对抗攻击
对抗测试
医学人工智能产品
人工智能产品检测
Online AccessGet full text
ISSN1003-8868
DOI10.19745/j.1003-8868.2023002

Cover

More Information
Summary:R318%R197.39%TP313; 目的:设计针对医学人工智能产品的对抗测试技术平台,以为医学人工智能产品提供对抗测试方法、通用性能评价和不良事件监控.方法:该平台基于浏览器/服务器(Browser/Server,B/S)架构设计,采用MySQL数据库进行搭建.该平台主要包括数据集管理、人工智能产品模型管理和人工智能性能监控3个模块,其中数据集管理模块和人工智能产品模型管理模块均采用React框架进行搭建,人工智能性能监控模块基于Nodejs框架设计,包括对抗测试技术和性能动态追踪与风险预警2个子模块.结果:该平台可实现对不同模态的人工智能产品的对抗测试、通用性能评价和不良事件监控,能够为医学人工智能产品提供全方位的评价与分析.结论:该平台解决了目前医学人工智能产品检测薄弱的问题,能够满足医学人工智能产品检测需求和监管需求.
ISSN:1003-8868
DOI:10.19745/j.1003-8868.2023002