检测癌症算法可能会被黑客入侵图像欺骗

时间:2021-12-27来源:栏目:新媒体

人工智能在医学领域的应用并不新鲜。比如在医学影像方面(深度阅读:AI医学影像如何减少误判)。然而,一项新的研究表明,人工智能程序在检查医学图像以寻找癌症证据时,可能会被黑客...

人工智能在医学领域的应用并不新鲜。比如在医学影像方面(深度阅读:AI医学影像如何减少误判)。然而,一项新的研究表明,人工智能程序在检查医学图像以寻找癌症证据时,可能会被黑客和网络攻击所欺骗。研究人员已经证明,通过计算机程序增加或删除乳房x光照片中的癌症证据,这些变化欺骗了人工智能工具和人类放射科医生,并影响最终的诊断结果。

这可能会导致错误的诊断。一个帮助筛查乳房x光片的人工智能程序可能会说,当确实有癌症迹象时,扫描是健康的,或者错误地说,当患者实际上没有癌症时,他们确实患有癌症。目前还不知道现实世界中是否发生过这种黑客行为,但这项新的研究表明,医疗机构需要为此做好准备。

越来越多的黑客通过互联网攻击医院和医疗机构。在大多数情况下,这些攻击会窃取患者数据(在黑市上很有价值),或者锁定组织的计算机系统以获取赎金。这两种类型的攻击都可能扰乱医院的运营,使医护人员更难提供良好的护理,从而对患者造成伤害。

但专家们也越来越担心黑客攻击可能会对人们的健康造成更直接的伤害。例如,安全研究人员已经证明,黑客可以远程侵入联网的胰岛素泵,并提供危险剂量的药物(这只是以前电影和电视作品中的情节)。

能改变医学影像,影响诊断的黑客也属于这一类。在《自然通讯》 (Nature Communications)杂志上发表的一项关于乳房x光片的新研究中,匹兹堡大学的一个研究小组设计了一个计算机程序,使无癌的x光扫描看起来像癌细胞,这将使有癌的x光看起来像无癌。然后,他们将篡改后的图像输入一个专门为识别乳腺癌征象而设计的人工智能程序,并请5名人类放射科医生对这些图像的真实性进行判断。

大约70%的被操纵图片欺骗了程序——也就是说,人工智能错误地认为有癌症迹象的图片没有癌症,而没有癌症的图片有癌症的证据。至于放射科医生,有些人比其他人更擅长发现被操纵的图像。他们识别假照片的准确率从29%到71%不等。

其他研究也表明,对医学图像的网络攻击可能会导致错误的诊断。2019年,一组网络安全研究人员表明,黑客可以从CT扫描中添加或删除肺癌证据。这些变化也欺骗了人类放射学家和人工智能程序。

目前,没有公开的黑客事件。但是黑客想要操纵乳房x光检查或肺癌扫描有几个原因。黑客可能对某个特定的病人感兴趣,比如某个政治人物,或者他们可能想改变扫描结果以获得保险公司的索赔。当然,黑客可能会随机操纵这些图像,直到医院支付赎金停止篡改它们。

不管什么原因,像这样的演示表明,医疗机构和设计人工智能模型的人应该意识到黑客很可能会改变医学图像。在训练模型时,我们应该给他们看经过处理的图像,并教他们识别虚假图像。放射科医生可能也需要接受培训,以识别假图像。

这项研究旨在让人们思考医学人工智能模型的安全性,以及如何抵御潜在的攻击。当然,如果是基于区块链技术,安全性会大大提高。

1.本站部分来源于互联网用户自主整合上传,如有侵权,请联系我们删除;

2.文章内容并不代表本站的观点或立场,如有关于文章内容,版权或其它问题请联系删除;

3.本文地址:https://www.jiatu888.com/xmt/87701.html

算法 人工智能 黑客

最新文章

网站介绍

本站部分内容收集于互联网,如有侵犯贵司(个人)版权,请联系本站删除。

Copyright@2018-2021 www.jiatu888.com 嘉图网 All Rights Reserved 粤ICP备20051635号 网站地图 tag列表

嘉图网