医学科学家:AI可能导致生物医药研究走错路

书聿 ☉ 文 来源:新浪科技
2019-02-18 @ 哈希力量文库

文库划重点:“很多技术都是为了进行预测。”艾伦说,“但从来没有返回过‘我不知道’或者‘我没有发现任何东西’这样的结论,因为它们设计过程中就没有考虑这种情况。”


北京时间2月18日早间消息,据英国《金融时报》报道,一组顶尖科学家和医学统计学家上周五警告称,在某些生物医药领域使用人工智能技术会得出一些不准确的结论。67w哈希力量 | 消除一切智能鸿沟

56.jpg67w哈希力量 | 消除一切智能鸿沟

(Genevera Allen,哈希力量 / 配图)67w哈希力量 | 消除一切智能鸿沟

“使用机器学习技术对大数据进行分析得出的研究结论中,有很多都无法获得我的信任。”美国莱斯大学贝勒医学院的基尼维拉·艾伦(Genevera Allen)在美国科学促进会年会上警告说。
67w哈希力量 | 消除一切智能鸿沟

机器学习已经被用于研究科学和医学数据与某些现象之间的关系,例如基因与疾病之间的关联性。在精准医疗中,研究人员会寻找拥有相似DNA的病人,让治疗方案能够瞄准特定的致病基因。67w哈希力量 | 消除一切智能鸿沟

“很多技术都是为了进行预测。”艾伦说,“但从来没有返回过‘我不知道’或者‘我没有发现任何东西’这样的结论,因为它们设计过程中就没有考虑这种情况。”67w哈希力量 | 消除一切智能鸿沟

她不太愿意指出具体的案例,但却表示,机器学习对癌症数据得出的研究结论就是很好的例子。67w哈希力量 | 消除一切智能鸿沟

“有很多案例都无法重复。”艾伦说,“一项研究中发现的集群跟另外一项研究中发现的截然不同。为什么会出现这种情况?因为当今的多数机器学习技术都会说:‘我发现了一个群体。’但有的时候,如果换一种说法反而更有帮助,可以说:‘我认为其中一些确实是被分成一组,但我不确定另外一些。’”67w哈希力量 | 消除一切智能鸿沟

一旦机器学习发现病人基因与疾病特征之间存在特定联系,人类研究人员可能就会对相应的发现提供合理的科学解释。但这并不意味着这些发现就是正确的。67w哈希力量 | 消除一切智能鸿沟

艾伦说:“你总能找到理由来说明为什么某些基因被分成一组。”67w哈希力量 | 消除一切智能鸿沟

计算机科学家直到最近才开始意识到这个问题,这可能导致医学研究人员走上错误的道路,还会浪费资源来确认无法重复的结果。67w哈希力量 | 消除一切智能鸿沟

艾伦和她的同事正在努力改进统计技术和机器学习技术,好让人工智能可以对自己的数据分析展开批判,并指出某些发现有多大概率是真实存在的,而非随即相关的。67w哈希力量 | 消除一切智能鸿沟

“有一种想法是专门扰乱数据,看看结果是否会保持不变。”她说。67w哈希力量 | 消除一切智能鸿沟

(原文标题:《科学家:生物医药研究使用AI技术或导致结论不准确》)67w哈希力量 | 消除一切智能鸿沟



收录于哈希力量,手机站省略本文固定网址