“著名AI批评家“马库斯又开批了。
Geoff HintonHinton、吴恩达、LeCun、马斯克通通被点名。
他说,Hinton关于深度学习的说法可能会导致放射科医生紧缺;
吴恩达预测AI能解决开放式问题是错的;
LeCun说强人工智能会出现到现在还八字没一撇;
不止这些,他还说《经济学人》误导报道、IBM沃森过度承诺……
他举这些例子,都为了印证自己的观点:AI宣传中存在大量的信息误导。他认为,这怪研究者和记者,他们都喜欢强调突破性,却不谈论局限性。
量子位把长文重新梳理,看清老马这回到底在批些啥。
Hinton导致放射科医生缺乏?
先来弄清楚马库斯是怎么批评深度学习教父Geoff Hinton的。为什么说是他要对放射科医生的紧缺负责?
是这样的,2016年,Hinton在论坛上打了一个比喻.
放射科医生就像”已经在悬崖边缘的狼,却还没有回头看,没有发现下面已经没有陆地了”。
Hinton建议,现在就要停止培养放射科医生。
两年过去了,马斯库的结论是:Hinton的话惊吓了很多放射科系,结果可能是负面的;目前世界上很多地方都缺放射科医生。
Hinton的话和放射科医师缺乏,这两者之间究竟有啥关系呢。一时之间还真的有点难弄明白。
不过我们可以回到当时现场,看一看Hinton究竟是在什么样的情境下说了怎样的话
在2016年机器学习和智能市场的论坛上,Hinton被提问:你认为最激动人心的事情会是什么?
他就说了上面的那个比方,并且说,
完全显而易见的是,五年内,深度学习能够比放射科医生做的更好,因为它可以变得更有经验。也许是十年内。
AI取代放射科医师的争议,量子位以前写过文章:吴恩达被diss了
AI医生难实现
至于AI医疗,马库斯还批评了IBM沃森在2014年过度承诺,如今交付不足。
IEEE SPectrum的相关报道指出,在2014年,沃森公司宣布了要研发AI医生的目标。公司承诺,首个健康护理的商业服务,将在18到24个月实现。
而在2016年,和MD安德森癌症研究所等机构合作的项目却受挫。提供的服务被认为不可靠。
沃森的一些专家也意识AI在医疗方面的局限性。比如其卫生保健和生命科学研究副总裁Ajay Royyuru,他表示
诊断不是要去的地方,这是专家们做得很好的事情。这是一项艰巨的任务,无论您用AI做得如何,它都不会取代专家。
前不久,在北大医学院举行的,医生和AI工作人员共同出席的“智慧医疗,潜力与挑战论坛上”,双方对于AI在医疗中扮演什么样的角色也做了类似的讨论。
腾讯优图实验室医疗AI总监郑冶枫表示,他们目前的关注的场景大多还是AI辅助医生。
医生培训非常重要,AI是一个新的工具出来,不可能不培训直接用。医生需要用个半年一年,摸透它的脾气了,什么情况下,会更准确,而不是简单的把AI的结果加一点信息,需要一个熟悉的过程。
而在使用流程上,他们也会做相关设置,避免医生过度依赖AI。
有时候,在具体场景中,比如当天医生就直接把AI的结果交上去了,这肯定是不行的。我们在流程上是可以做的,医生必须读一遍片子,读完了,我再给出我的答案。而不是我直接给出答案,你在这上面改,这个容易被医生用偏。这样可以避免一些误用。
而清华大学临床医学院院长董家鸿则提出了“人机协同”的视角,
通过人机协同的机制,看协同后产生的效果。基层医生,给了他AI,然后看人机协同之后的诊断率是不是超过原来的水平。
任何一个高明的医生的诊断也不可能完全正确,有一个容许的出错率。在这样的条件下,再去评价AI在基层医疗的效用和价值。
批评NLP,怼吴恩达、LeCun
马库斯的批评还集中在NLP方面。首当其冲当然是Hinton,他4年前说过的关于自然语言的话,也被拿出来批评了
2015年,Hinton在接受卫报时曾表示:谷歌正处于开发出有逻辑能力,能自然对话,甚至调情的算法的边缘
4年后,马库斯说
我们距离能够进行自然对话且无需人工干预,确保连贯性的机器还有很长的路要走,没有现成的系统能可靠地推理物理世界。
(反正你的总结都很对)
新旧搭配,他还举了一个最近媒体误导的例子。怎么误导的呢?
是这样,《经济学人》最近对open AI的句子生成系统GPT-2进行了一次主题为2020年的采访,并将人机对话刊登出来,标明了”未经编辑”,给人的感觉是,AI已经可以进行如此连贯自然的对话了,甚至显出了幽默感。
实际上,这种效果是编辑对文本进行编辑和过滤的最终效果,AI对每一个问题给出五个回答,人工从中进行筛选连缀成文。
(有时候,一个细节对理解事实很关键。所以希望大家,以后对所有认真做事实和细节核查的媒体多一丢丢尊重啦~)
马库斯还批评了吴恩达、LeCun 对于AI的能力增长做了过于乐观的判断,比如吴恩达曾经认为AI未来能够解决开放式问题,LeCun 说强人工智能会很快出现。
恩……还有,这种批评名场面怎么能少了马斯克。
他批评了马斯克预言自动驾驶汽车在2020年实现不切实际。
“AI批评家”马库斯
感受了一通批评大拼盘,是不是觉得滋味一言难尽。
他个人网站的介绍是:
加里·马库斯,科学家,畅销书作者,企业家,AI逆势者。
作为批评的惯例,怎能只破不立?换个胃口,看一下他提出了六条“意见”。马库斯提出,在研究者和报道者谈论AI时,都应该考虑到下面六个问题。
1、人工智能系统实际上在做什么?“阅读系统”真的阅读吗?
2、结果有多普遍?
3、有没有感兴趣的读者可以自己探索的演示?
4、如果说人工智能系统比人类更好,哪个人类,好多少呢?(相比之下,低薪工人缺乏良好表现的动力可能无法真正探究人类能力的极限)
5、实际上,成功完成特定任务可以使我们迈向建立真正的AI多远?
6、系统的鲁棒性?无需大量重新培训,它是否可以与其他数据集一样好用?AlphaGo在19x19的板上可以正常工作,但是需要重新训练才能在矩形板上运作。缺乏转移正说明了这一点。
有网友问:
这个马库斯很重要么?他对机器学习或者AI的贡献是啥?
网友答曰:
他的贡献可以总结为,写了一些文章,怀疑AI的人读起来会开心。
马库斯写了很多批评AI的文章,量子位之前也都介绍过:
但是好像有一句话怎么说来着不因人废言,不因言废人(对的,孔子说的)
网友也说了,谈一谈对文章的不满意比攻击作者更好。
网友评论
尽管我同意马库斯说媒体过度宣传AI,以及研究者应在防止错误信息做得更好,但是他的方式不合理。他似乎沉迷于寻找神经网络(NN)研究者的漏洞。用这种方式,和他进行有益的对话很困难,而且NN研究者也会有防御心态。
除此以外,符号学AI太过简单,不能产生AGI,这意味着用NN来完成是有帮助的。研究不是辩论。
文章里援引的例子大多来自2015到2017年的AI炒作期。回溯来看,那是一个有很多突破的时期,比如DQN,AlphaGo,Resnets,有很多目标检测和GAN执行上的突破。人们刚开始基于这些进展进行推断,我不怪他们。
没错,进展变得缓慢,但是所有的这些最终会实现。
你知道写稿的小编此刻内心的OST是啥?
(我长这么大,从来没有梳理某个人的长篇批评弄这么久!!)
你看完了有啥感受?请多多评论吧,如果有那么一点点收获,也算欣慰了。(手动比芯芯)