科学新闻没告诉你的那些事儿

同人于野 2011-07-08 18:00:38

科学新闻里经常出现互相矛盾的内容。比如有些研究认为手机辐射跟脑癌之间存在关联,有些研究又说这种关联证据不足。对此我们应该怎么办?科学新闻可没有告诉我们。但对于一个死理性派,他会开始分析这些结论是通过什么方法的出来的,然后判断哪个结论更为靠谱。

1. 医学研究能全都相信吗?

科学领域中,存在很多社会公众密切关注的问题。对于这些问题,主流科学界也往往会给出一个相应的说法。不过,科学家们肯定免不了会出错。有时他们的研究结论甚至会彼此矛盾。比如有些研究认为,手机辐射跟脑癌之间存在关联,有些研究又说这种关联证据不足。有时候他们说大蒜可以降低有害胆固醇,有时候又说大蒜其实不能降低有害胆固醇。这常常让公众感到无所适从。那么,遇到这种情况应该怎么办呢?

(a)以最权威科学家,比如诺贝尔奖得主或者Nature杂志上论文,的意见为主。
(b)以科学家中的“主流意见”(如果“主流”真的存在的话)为主。
(c)以最新发表的意见为主。
(d)别当真,科学新闻可以当娱乐新闻看。

如果这条新闻说的是最新的医学研究,那么理性的选择是:(d),别当真,就当娱乐新闻看吧。

那些写在晚报副刊上的各种所谓健康指南,连看都别看。而那些刊登在主流媒体上,有最新的论文支持的科学新闻,比如说英国某个团队又发现什么东西对儿童智力的新影响了,我们大概可以看,但是看完就忘了也没有太大问题。

更进一步,如果这条新闻说的是最新的营养学研究,比如吃什么什么维生素对身体有什么什么好处或坏处,那么哪怕是发表在最权威医学期刊上的那些高引用率论文,也可以全部忽略。

说这句话的人叫 John P.A. Ioannidis,他去年刚刚被任命为斯坦福大学预防医学研究中心主任。Ioannidis 说,“ignore them all”. 他攻击的不仅仅是营养学,而是整个医学研究。2005年,Ioannidis 发表两篇论文,证明大部分医学研究都存在问题。这两篇论文在医学界被引用好几百次,但是没多少人说他这个看似无比偏激的结论是错的。甚至没人表示惊讶。所有搞医学研究的科学家都知道这个秘密:医学研究确实算不上严密。

不过,这件事一直到2010年底才引起公众的关注。首先是《亚特兰大月刊》发表充满愤怒的长文,标题采用英国首相和马克吐温发明的著名句式:“谎言,该死的谎言,和医学研究”。《时代周刊》立即跟进,并把结论进一步精简为“90%的医学研究都是错的”!《时代周刊》这篇报道说,现在已经有人开始真正认真地重新审视整个医学科研,而且立即发现了几个与我们此前的知识完全相反的结论,比如说:

- 没事儿自己检查乳房,不但不会降低乳房癌的死亡率,没准还有坏处;
- 其实科学家并没有足够证据说注射流感疫苗对防治流感有效。

当然,以上两个更新的知识也未必可靠,但为什么Ioannidis做出如此猛烈的攻击,他说的话是否有道理?我们必须看看他到底说了什么。

他一篇发表在PLoS Medicine 上的文章说,在医学研究中被广泛使用的统计方法,其实是个非常脆弱的体系。如果你的一项研究是考察某种药物对人的健康是否好处,而你希望能证明有好处的话,你将很容易做到这一点。首先,现在大部分医学科研研究的效应其实都是比较微弱的,因为“不微弱”的效应别人早就研究完了。其次,也许一个病人的病情并没有什么明显好转,但因为你希望这个药物有效,你也许会完全无意识的刻意寻找他好转的证据,你可能会把本来没什么好转的病人当成好转的病人。这就是你的偏见。Ioannidis 这篇论文其实全是数学,他做了一番计算,说如果这个微弱效应有10%,而你的偏见有30%的话,你的实验得到正确结论的概率只有20%。

科学家是有偏见的。他可能因为拿了医药公司的资助而希望证明一个药物的疗效,他更可能为了能在发表有轰动效应的论文而追求惊人的结果。鉴于10%的效应率和30%的偏见率差不多就是一般流行病学研究的水平,我们大概可以说80%的流行病学研究都有问题——当然,这些研究仅仅是研究而已,它们是整个医学研究序列中的一部分,而不是直接指导人类行为的准则。根据同样的计算,小规模随机试验的可信性也只有23%。Ioannidis 这篇文章就是用数学方法证明这种偏见有多可怕。

光玩数学当然不行,批评现实得有真实证据。Ioannidis另一篇发表在 JAMA 上的论文干的就是这个。没有人能把所有医学论文都研究一遍,所以他的做法相当具有戏剧性:他只看1990到2003年间发表在顶级临床医学期刊上的顶级论文,入选标准是被引用超过1000次。符合这个标准的论文一共有49篇,其中45篇声称发现了某种有效的药物或者疗法。

我们都知道科学结果理应是可重复的,我们不知道的是有多少科学结果真的被人重复过。这45篇论文虽然都被引用了千次以上,其中只有34篇被重复检验过。

而后人检验的结果是其中7篇的结论错误。比如有一篇论文说维生素E对降低男子冠心病风险有好处,有一篇论文说维生素E对降低女子冠心病风险有好处,而后来的大规模随机实验则证明维生素E对降低冠心病风险根本没好处。另有7篇论文被发现是夸大了有效性。也就是说34篇经过检验的论文中的14篇(41%)被发现结论有问题。这45篇最权威的论文中只有20篇扛过了时间的考验。

顶级论文尚且如此,一般论文又能怎么样呢?真有90%都不可靠么?我从未发现 Ioannidis 说过“90%的医学研究都错了”这句话,《时代周刊》的报道的确是标题党。

事实上,Ioannidis 说的不是90%错误,而是431/432存疑。Ioannidis 的做法是选择一个热门领域,彻查这个领域内所有的论文。这个领域研究的是男女患各种疾病的风险不同,是否因为基因的影响。在2007年 JAMA 的一篇论文中,Ioannidis 与合作者找到这个领域的所有77篇论文,然后逐篇分析这些论文处理数据的方法是否足够严谨。这些论文一共提出了432个论断,其中只有60个论断可以称得上是方法严谨。而这60个拿的出手的论断中,曾经被其它研究至少重复验证了两次的,只有一个。

所以严格的说,并不是绝大多数医学研究的“错”了,而是不严谨,没有经过考验。如果我们对正确科学论断的要求是方法严谨,结果至少经过两次检验,那么这个领域的合格率只有1/432。如果我们放宽要求,只要一篇论文不被证明是错的,就算它是好论文,那么发表在最权威期刊上的被引用次数最多的医学论文中,有7/45是坏论文。

在这七篇坏论文中,有两篇说维生素E可以降低冠心病风险。但随后于2000年发表在《新英格兰医学杂志》上的一篇文章,通过对超过9000人进行的严格随机实验证明,维生素E根本不能降低冠心病风险。这一结论从此之后再也没被推翻过。那么到底有多少科学家知道这件事儿呢?Ioannidis 等人曾经专门调查了到底有多少论文还在使用“维生素E降低冠心病风险”这个错误知识,结论是一直到2005年,仍有50%的新发论文还在引用前面那两篇错误的顶级论文,并且以为它们是对的。

把学术论文的结论推广到真实世界的真理,有时候是非常危险的事情。因为不理解科学研究的思维方式,导致大多数人对科学有两个重大误解:第一,认为科学研究绝对真理;第二,认为每一项科研都是在生产我们日常决策的答案。真实的科学研究其实一个充满曲折,甚至有时候错进错出的过程。

不过,很多论文不严谨,甚至很多都是错的,这并不表明科学中没有正确答案,它只是表明得到和判断正确答案并不简单。值得注意的是,医学研究通常立足于统计学的方法。由于这些方法本身所具有的缺陷,所以出现“不靠谱”的研究结果也并不奇怪。这也并不是说所有医学研究全都是不靠谱的——因为缺陷并非不可弥补,研究者可以通过扩大研究规模,延长研究时间等方法,尽量减少干扰因素。不同的研究之间,也存在着结果上的互补关系。事实上,医学研究就是通过这样千千万万的可能会有些不靠谱的研究,逐渐明晰起来,无限逼近最终的正确解。从上述维生素E的研究案例中,我们就可以清楚地看到这一点。

科学报道都是用人类传统语言写成的,而科学研究使用的却不是人类传统语言。所谓“科学方法”,其实是另一套很不一样的思维方式。我想用接下来的几篇小文,介绍一下“科学方法”,这种超越了人类本能的思维方式。一个简单的问题是,我们凭什么相信“维生素E不能降低冠心病风险”这个结论就是对的?因为有些科学方法比另一些科学方法更可信。我们将说明为什么看新闻不如看论文,为什么看一篇论文不如把多篇论文综合在一起看(称为 meta-analysis),以及为什么这么看还是不行。

注: 有一个叫做 Cochrane Collaboration 的国际组织,就正在专门严格审视各种医学研究,并且推出了很多报告,而且他们也采纳了 Ioannidis 提出的审查方法。这个组织特别强调经费只来自于政府,大学和私人捐款,而不拿医药公司的钱。


编者按:这是一篇内容看起来很耸动的文章,希望读者不要因此产生科学研究很不靠谱的观念。事实上这篇文章的目的,并非攻击整个医学研究,而是介绍国外关于医学研究的大讨论,更重要的是,让我们开始思考,什么样的科学研究方法更加合理,让我们更加接近真理。这也是一个死理性派真正应该达到的境界。接下来作者也会从物理学开始,逐步展开这个问题。也感谢很多生物医学专业的同学对本文提出的宝贵意见。

86条评论

上一页  |  下一页

  • 1楼
    2011-07-08 17:59:26 小齐齐
    沙发?帅~~
    引用
  • 2楼
    2011-07-08 18:29:29 nasdaq 软件工程师,小众软件爱好... ψ
    好文章!!!!
    引用
  • 3楼
    2011-07-08 18:36:16 we_cry
    没有沙发,坐个板凳。。。
    引用
  • 4楼
    2011-07-08 18:51:09 Sheldon 理论物理博士,科学松鼠会... ψ
    my taste
    引用
  • 5楼
    2011-07-08 18:52:07 Sheldon 理论物理博士,科学松鼠会... ψ
    理论物理学的错误论文也不在少数
    引用
  • 6楼
    2011-07-08 19:09:35 XX光
    有没已经彻底下定结论的成果存在
    引用
  • 7楼
    2011-07-08 19:27:37 Sheldon 理论物理博士,科学松鼠会... ψ
    引用勒涩光的回应:有没已经彻底下定结论的成果存在

    吸烟有害健康
    引用
  • 8楼
    2011-07-08 19:30:30 小猫捉鱼
    别当真 都是忽悠
    引用
  • 9楼
    2011-07-08 19:38:46 九白旗
    引用nasdaq的回应:好文章!!!!

    引用
  • 10楼
    2011-07-08 19:43:24 VForVendetta
    新兴的"循证医学"可以一定程度上解决这种信息混杂的问题,Cochrane协作组织就是目前最权威的循证医学中心,制订了循证医学的标准,数据库也很强大。
    "meta-analysis"一般翻译为"系统综述"(以区别"传统综述")。
    引用
  • 11楼
    2011-07-08 20:02:53 lyounger
    重复检验发不了好杂志
    引用
  • 12楼
    2011-07-08 20:28:09 周奉孝
    引用nasdaq的回应:好文章!!!!

    引用
  • 13楼
    2011-07-08 21:12:11 吴姓小孩
    实践才是真理!!!
    引用
  • 14楼
    2011-07-08 21:15:36 艾拉克
    嗯,有一定的观念引导作用,但是论文中错误结论也可能是发表者本人故意这么说的,不管是为了引起争议还是想引起界内乃至世界关注。
    引用
  • 15楼
    2011-07-08 21:49:20 吴下a狗
    首页留名 继续看
    引用
  • 16楼
    2011-07-08 21:49:34 严酷的魔王 统计学专业本科生,数学控 ψ
    想起中文推特圈对中西医的讨论……
    引用
  • 17楼
    2011-07-08 21:58:21 梦斯逸
    提问: 中医和西医 就研究方法上来说 有什么不同
    引用
  • 18楼
    2011-07-08 22:02:50 mxsj
    写得挺好的。果断忽略科学新闻以后只看论文!
    引用
  • 19楼
    2011-07-08 22:13:57 斯凯迪歪 果壳自然控编辑 ψ
    亚特兰大月刊?
    貌似大西洋月刊更准确点~
    引用
  • 20楼
    2011-07-08 22:26:04 玉州
    以科学的态度对待科学,不迷信,不盲从。
    引用
  • 21楼
    2011-07-08 22:40:24 蟛蜞仔
    松鼠会和果壳的编辑们也应该认真看看这篇文章(包括作者)。希望他们不要以证明观点作为科普的出发点,而要为找出真相而努力、
    引用
  • 22楼
    2011-07-08 22:53:40 上七兵卫
    我记得看过一个报道,说有一个法国记者胡编乱凑了一篇弦论的论文,当做博士毕业论文发出去,结果竟然过了……
    引用
  • 23楼
    2011-07-08 23:03:51 柳上原
    我觉得应该把编者按放在前边,要不然,有些人没有耐心看完,正好起到相反的作用
    引用
  • 24楼
    2011-07-08 23:46:31 Edward_Wang
    不错的文章。继续关注~
    引用
  • 25楼
    2011-07-08 23:52:02 tsingmmy
    好文。
    引用
  • 26楼
    2011-07-09 07:53:00 Yahan
    以统计分析以基础方法的医学 忽略身体中的其他变量 单一的去研究分析做报告 当然会漏洞百出 而且现在跟商业结合的如此紧密 他的新闻确实很娱乐化 是该思考传统的时候了
    引用
  • 27楼
    2011-07-09 10:32:19 kekesha
    话说地质学其实也是不那么“科学”。
    引用
  • 28楼
    2011-07-09 11:14:59 eaglefantasy 数学物理控 ψ
    大赞!!!
    一直觉得流行病学研究的所有结论都不太靠谱。。
    引用
  • 29楼
    2011-07-09 11:46:57 机器人卡卡
    个人觉得医学其实是很个性很模糊的一门学问,正如偏方治百病,偏偏对你管用对我就不管用;你能否定它吗,还是应该肯定它?中医尤其如此。

    死马当作活马医,不管三七二十一,据说管用的都拿来试试,保不准哪个就见效了呢;别把我当神医,其实我也是一头雾水;在这个世界里,谁都可能是奇迹。
    引用
  • 30楼
    2011-07-09 14:04:34 同人于野 物理学博士 ψ
    补充一点这个系列的总设想。我想先破后立,整个色调可能稍微黑暗一点。先指出科学研究的种种局限性,再说明为什么尽管如此科学方法仍然是最好的方法。科学不是甜甜的,酸酸的,充满爱的,小朋友的东西。科学是成年人玩的东西。

    我认为抱着谦卑的情绪去“仰望科学”是个错误的态度,正确的视角因该像下棋一样,是俯视。呵呵。
    引用
  • 31楼
    2011-07-09 14:10:10 同人于野 物理学博士 ψ
    引用梦斯逸的回应:提问: 中医和西医 就研究方法上来说 有什么不同

    后面会谈到这个问题,呵呵
    引用
  • 32楼
    2011-07-09 14:22:40 王保保
    吃屎能治疗癌症!!!——是我说的
    引用
  • 33楼
    2011-07-09 16:13:32 misskidow
    很多东西都在变化发展中,看看科学史就知道了,当下正确的东西,过了几年又被证明不正确了。找到自己的判断标准,不盲从,不盲信,才是王道!
    引用
  • 34楼
    2011-07-09 16:44:29 神之疯神
    引用misskidow的回应:很多东西都在变化发展中,看看科学史就知道了,当下正确的东西,过了几年又被证明不正确了。找到自己的判断标准,不盲从,不盲信,才是王道!

    没错
    整天看见有人见风就是雨的烦死了

    话说回来
    这种问题的根源是别人查询论文的时候没法知道这个论文有多少验证试验
    也就是说我拿到一份论文很简单
    想知道可信度却很难
    更别说转述出去之后的听众了
    引用
  • 35楼
    2011-07-09 17:03:48 Creative 机械电子工程、消费产品设... ψ
    引用misskidow的回应:很多东西都在变化发展中,看看科学史就知道了,当下正确的东西,过了几年又被证明不正确了。找到自己的判断标准,不盲从,不盲信,才是王道!

    理性和事实是王道
    引用
  • 36楼
    2011-07-09 17:31:19 醋海带公主
    增强抗谣性同志们。。个人觉得经验还更靠谱点
    引用
  • 37楼
    2011-07-09 21:46:37 冬梅望雪_
    引用sheldon的回应:理论物理学的错误论文也不在少数


    某种程度上来说,理论物理学基本是由错误构成的。
    引用
  • 38楼
    2011-07-09 22:12:24 第一个死的人
    擦擦~~~本来就把专家说看成娱乐新闻!!!
    引用
  • 39楼
    2011-07-09 23:40:51 Metaverse
    引用冬梅望雪_的回应:

    某种程度上来说,理论物理学基本是由错误构成的。

    那这种程度,究竟是什么程度?或者说,哪些部分错了,是非黑即白的正误判断,还是错到什么程度?
    引用
  • 40楼
    2011-07-10 10:23:13 啷个里个啷悦
    其实这个作者的深沉用意是:
    果壳和松鼠会都大多是登科学新闻的,所以这两货都是娱乐网站,和芒果台一路De
    引用
  • 41楼
    2011-07-10 10:45:47 出壳
    唉,那我等门外汉是要如何?
    引用
  • 42楼
    2011-07-10 13:38:20 helenzz
    事情都是有好有坏效果都是因人而异
    引用
  • 43楼
    2011-07-10 16:08:05 W_23
    对于真正搞科研的人来说,根本无所谓“主流观点”。科研的精要不在于结论的主流与否,而在于得到结论的逻辑和过程是否经得起推敲。高举“主流观点”大旗的人,要么是像抢占道德高地,攫取话语权,从中牟利,要么是理屈词穷,却还倚老卖老。
    引用
  • 44楼
    2011-07-10 16:10:03 W_23
    引用Creative的回应:
    理性和事实是王道

    更进一步说,逻辑推理和实验数据是王道。
    引用
  • 45楼
    2011-07-10 19:54:16 傻团子
    哦也
    引用
  • 46楼
    2011-07-10 20:52:46 Cerberus
    有时候要审批论文也是很辛苦的事,因为他们没有足够的人力资源去重复验证里面的实验,只能看它是否合理而已。唔……这个我是猜的,因为我没有搜索有关资料,别太较真,只是稍微推理,不,脑补了下,有心人可以查查
    引用
  • 47楼
    2011-07-10 21:36:25 kingyangyi
    好文章,留爪
    引用
  • 48楼
    2011-07-10 22:54:29 AT.field
    就好像现在看病一样 药是越来越贵了 看名字都是新药 再看成分 还是以前那些东西
       最近在吃“阿莫西林双氯西林钠”资料胃病 后来才知道 就是“阿莫西林”
    引用
  • 49楼
    2011-07-10 23:37:35 小穷 表观遗传博士生 ψ
    想知道是不是靠谱就去看年鉴吧
    引用
  • 50楼
    2011-07-10 23:49:24 小穷 表观遗传博士生 ψ
    可以这么说, 非业内人士没有必要去看original article。。。

    引用神之疯神的回应:
    没错
    整天看见有人见风就是雨的烦死了

    话说回来
    这种问题的根源是别人查询论文的时候没法知道这个论文有多少验证试验
    也就是说我拿到一份论文很简单
    想知道可信度却很难
    更别说转述出去之后的听众了

    引用

登录 后发表评论,你也可以用以下帐号直接登录

新浪微博 人人网 QQ

©2012果壳网 京ICP备09043258号-2 京公网安备1101052730