检测癌症的算法可能会被黑客入侵的图像所愚弄

一项新的研究表明，检查医学图像中癌症证据的人工智能程序可能会被黑客和网络攻击所欺骗。研究人员证明，计算机程序可以从乳房 X 光照片中添加或删除癌症的证据，而这些变化愚弄了人工智能工具和人类放射科医生。
这可能会导致错误的诊断。帮助筛查乳房 X 光照片的 AI 程序可能会在实际上有癌症迹象时说扫描是健康的，或者在患者实际上没有癌症时错误地说他们确实患有癌症。目前还不知道现实世界中是否发生过此类黑客攻击，但这项新研究增加了越来越多的研究，表明医疗保健组织需要为它们做好准备。
黑客越来越多地针对医院和医疗机构进行网络攻击。大多数情况下，这些攻击会窃取患者数据（这在黑市上很有价值）或锁定组织的计算机系统，直到该组织支付赎金为止。这两种类型的攻击都会通过破坏医院的手术并使医护人员更难提供良好的护理来伤害患者。
但专家们也越来越担心人们健康受到更直接攻击的可能性。例如，安全研究人员表明，黑客可以远程闯入连接互联网的胰岛素泵并提供危险剂量的药物。
可以改变医学图像并影响诊断的黑客也属于这一类。在发表在Nature Communications上的关于乳房 X 线照片的新研究中，匹兹堡大学的一个研究小组设计了一个计算机程序，该程序可以使原本似乎没有癌症迹象的乳房的 X 射线扫描看起来像是癌变了，并且这将使看起来癌变的乳房 X 光照片看起来没有癌症迹象。然后，他们将篡改的图像输入到一个人工智能程序中，该程序经过训练可以发现乳腺癌的迹象，并要求五名人类放射科医生确定这些图像是真的还是假的。
大约 70% 的被操纵图像愚弄了该程序——也就是说，人工智能错误地认为被操纵看起来没有癌症的图像是没有癌症的，而被操纵看起来好像患有癌症的图像确实有癌症的证据。至于放射科医生，有些人比其他人更擅长发现被操纵的图像。他们挑选假图像的准确率范围很广，从 29% 到 71%。
其他研究也证明了对医学图像的网络攻击可能导致错误诊断的可能性。2019 年，一组网络安全研究人员表明，黑客可以从 CT 扫描中添加或删除肺癌的证据。这些变化也愚弄了人类放射科医生和人工智能程序。
没有发生过这样的黑客攻击的公开或引人注目的案例。但是黑客可能想要操纵诸如乳房 X 光检查或肺癌扫描之类的东西有几个原因。黑客可能有兴趣针对特定患者，例如政治人物，或者他们可能想要更改自己的扫描以从保险公司获得资金或注册残疾金。黑客也可能会随机操纵图像并拒绝停止篡改图像，直到医院支付赎金为止。
不管是什么原因，像这样的演示表明医疗保健组织和设计人工智能模型的人应该意识到改变医疗扫描的黑客是可能的。匹兹堡大学放射学、生物医学信息学和生物工程副教授、研究作者山东吴在一份声明中说，在训练期间应该向模型展示经过处理的图像，以教他们识别假图像。放射科医生可能还需要接受培训以识别假图像。
“我们希望这项研究能让人们思考医疗 AI 模型的安全性以及我们可以做些什么来防御潜在的攻击，”吴说。
文章转载自咨询精选榜