![]()
李开复 文章来源：李根 发自 凹非寺 量子位 报道 |
公众号 QbitAI
虽然马斯克鼓吹这一论调已经多年，但这次整个AI界似乎都站到了他的对面，对他的批评声不绝于耳，直到Facebook创始人扎克伯格出手，事件到达了高潮。
“我认为那些对AI持否定态度或者鼓吹末日论的人，其实根本没理解什么是AI。他们的看法太消极了，甚至有些不负责任”，扎克伯格谈到马斯克时如是说。他还补充道“未来5-10年内，AI将大幅提高我们的生活质量。”
这很快成为抢眼的新闻标题，而马斯克也通过推特给予了回击：“我跟小扎聊过了。他对这事儿（AI）的理解有限”。
不负责任vs理解有限。
应该如何正确看待马斯克和扎克伯格这次关于AI的隔空交手？AI是个末日威胁么？量子位就这个问题，请教了李开复博士。
李开复表示，Facebook有世界顶尖AI团队，扎克伯格在这个问题上肯定不会“理解有限”。
李开复明确反对马斯克“AI终将灭绝人类”的悲观论调。他指出AI现在仅仅是人类的工具，离拥有意识的“超级智能（Superintelligence）”还非常遥远，更别提灭绝人类了。
其实过去几个月，李开复和国内外AI专家、图灵奖国际得主就这个话题也有过不少交流，大家基本都同意扎克伯格、李开复的观点。
另一方面，李开复警告说：马斯克如此高调频繁地宣扬AI带来的威胁，可能会让大众忽视AI正在带来的巨大机遇，也会让更多更紧迫的AI问题没有得到关注，这只会捡了芝麻丢了西瓜。
李开复表示，是时候就着这次辩论，直接评论下马斯克的“AI末日论”了。
![]()
李开复回复全文量子位问我关于这次马斯克和扎克伯格辩论AI未来的看法。
坦白讲，我不太认同伊隆·马斯克“AI灭绝人类”的观点，对于当前AI的发展看法，我有5个方面的具体观点：
AI只是工具，离超级智能还很远；基于我投入AI领域的科研、开发、投资相关工作37年的经验，“超级智能”、“灭绝人类”这类耸人听闻的说法，根本没有切实的工程基础。
智库、科学家应该讨论AI安全问题、AI对社会的改变，但是科技圈的意见领袖不应该在这时误导大众AI要控制人类，让人类灭亡，这确实是不负责的说法。大部分的人已经对AI所知有限，这会造成更为错误不实的群众恐慌。
AI可以为人类创造大量财富，甚至逐渐解决人类温饱问题；我们每个人也将获得更多的时间和自由，来做我们爱做的事情。
AI真实会带来的问题是人类的失业，失业后可能的抑郁和丧志问题，还有贫富不均问题，人类社会目前所习惯的职业结构确实会发生显著的改变。
AI会带给我们100%确定性的巨大机会，随着改变也会产生些必然的问题。此时去用概率极低甚至是零可能性的“超级智能”，误导大众恐惧AI，甚至约束AI，反而不去拥抱机会、解决问题，是没有道理的。
AI大咖们怎么看？这其中有我的看法，也有一些已是业内不少专家的共识。如果我们去问顶尖AI专家，绝大多数是同意扎克伯格和我的看法的，比如说图灵奖得主Rodney Brooks。
Rodney Brooks的观点是：“有很多人都声称AI是人类存在的威胁：斯蒂芬·霍金、马丁·里斯爵士……在没有亲身在AI领域工作的情况下，这样的想法很普遍。我们能够理解，对于那些不在AI领域工作的人，要通过产品级别的东西来弄明白一些问题有多么困难。他们会根据一个领域的一个AI成果，就一概而论地认为AI会在多领域超过人类。但是其实今天的AI，只是在某一个狭窄领域基于大数据优化，只能说是个很厉害的模式识别引擎。要做到通用的、无所不能的AI根本不知从何开始。”
另外，Rodney Brooks也提到，马斯克想要立法管理AI，但是需要管理的通用AI都不存在，如何立法？
实际上，今年五月在上海的ACM图灵奖五十周年大会论坛讨论上，我和三位图灵奖获得者讨论时，基本也是类似观点，描述了人类今天并不知道如何做出“超级智能”，也否定了量子计算取代大脑的一说。
当然，持“AI末日论”观点的除了马斯克，另一知名的人是斯蒂芬·霍金，霍金是杰出的物理学教授，但并不意味着他在AI方面的观点也同样令人认同。
著名的AI研究专家Michael Jordan就直言不讳地说过，如果你有物理学方面的问题，可以向霍金求教，但如果是AI方面的问题，可能更合适的人选是自己。
吴恩达听到霍金马斯克等关于“超级人工智能”的观点时，他直接忍不住地用手盖住了脸。
吴恩达说：作为真的做AI产品的人，我看不到今天的AI可能发展为邪恶力量的任何可能性。
甚至在听到“奇点理论”之类的观点时，吴恩达索性翻白眼，他甚至说：听到奇点，我的眼睛就会自动翻白。
另一位知名的AI大咖Geoff Hinton也明确表示，未来50年内，我不对什么“超级人工智能”的实际进展抱有希望。
所以，我认识的业界真正做过突破性计算机和AI科研工作的人，都是更支持扎克伯格的看法的。
实际上，许多硅谷主流的企业家、图领奖的科学家，已经私下对马斯克和霍金的言论不认可有段时间了。我之前在《纽约时报》和《连线》的专栏文章中，其实也表达了这种“不认可”，只是并没有那么直白地针对马斯克或霍金教授说出来。
我在《连线》的专栏文章中说：“一些自称未来学家的人开始对人工智能做出各种预言，他们谈论着’超级智能’、’奇点’、’人机结合’，甚至毫无根据地声称’我们其实就生活在电子游戏当中’。这些反乌托邦的警告令人惴惴不安，这些言论大多出自世界级的科技大拿之口，又透过科幻小说中那些大家所熟悉的桥段和场景而深植人心。”
实际上就是针对马斯克一系列的言论观点，希望提醒大家，区分“科幻”和“科学”的不同。
更加直白来说，我认为那些耸人听闻的预言并没有切实的工程基础。科“幻”小说主要是幻想，而不是“科”学。我们目前面临的真正危机并不在于担忧这样的情况在遥远的未来可能会发生，而是解决即将到来的职业取代问题。
但这一次扎克伯格这样直白地反对和批评马斯克，我觉得或许是真的认为马斯克的言论实在过激了，特别是面对美国重要的政治人物演讲时，如此言之凿凿地谈AI毁灭人类。
更早之前，Michael Jordan也明确批评过，他说：AI科学家必须绝对诚实，无论是对你的出资者、赞助商、员工、同行、同事、公众，还有面对你自己。当我们诚实地面对AI时，有不诚实或妄想者做出疯狂的AI预言（而影响了公众舆论甚至政府政策），这些人让我们这些务实又诚实的科学家活得很艰难。
机器人将会处理一切工作？不认同我也不认同马斯克“机器人将会处理一切工作”的看法，这有点以偏概全了。一方面，我同意AI将取代简单的、重复性的工作，但另一方面是我们完全可以给人类创造新的工作，而且是AI做不了的工作。
AI做不了的工作是什么呢？我们会发现主要是创造力和社交相关的能力，那么最多10%的工作属于创造性部分，而90%就必须进入社交为核心的服务型工作。
所以，我们要鼓励更多年轻人走向创造的路线，无论是理工科学的发明，或者是人文艺术的创意。AI只能够优化，只有人才能够创造。
另外，服务业会有很多的机会，尤其是社交属性较强，“有爱”的服务业。这包括了已有的行业：热情的导游、细心的礼宾、风趣的调酒师、有感染力的美发师、饶富创意的寿司师傅。我们也会创造新的行业：可以上门服务的营养厨师、能够按照季节更替来上门服务的居家换季师、带你年迈的父母去医院的银发关爱专家。甚至包括了一些志愿者型的工作：血库的助工、孤儿院的老师、夏令营的辅导员、诫瘾互助会的发起人。
我们需要改变社会思想和教育，让做服务业的人能够从中得到满足。如果服务业能够尽量帮助他人，关怀他人，解决他人问题或苦恼，让他人开心，这样不就解决自我实现的问题了吗？（当你做到这几点的时候，是不是很开心，很自豪呢？）
即便不是90%的人都从事这样服务型的工作，假设只有50%做到，还有少数提早退休，专注自己的嗜好，或在网上消磨时间，只有极少数可能有抑郁或其它问题。
这样社会也稳定下来了，不是吗？
马斯克应该多听听AI专家的意见
最后，坦白讲，我并不认为通过这次辩论可以马上改变马斯克的观点，毕竟他对“超级人工智能”如此坚信而着迷——甚至影响他的那个作家改变主意了，他也看起来不准备改变。马斯克被OpenAI研究超级人工智能的科学家围绕着，所以他们必然彼此影响鼓吹着末日论。就如扎克伯格被务实的Yann LeCun（Facebook AI研究院院长）和创造商业价值的人工智能专家围绕着，所以也一定彼此影响对AI保持乐观。
虽然伊隆·马斯克过去展现出的远见和战略思维令人敬佩，对他启动OpenAI的初衷——开放AI作为约束AI的一种方法，我也深感认可，但对于马斯克一直以来对于AI过于悲观和具有毁灭性的论调，我却非常不认同。
相对来说，我认为在“AI和人类未来”这个话题上，我们应该更多听取扎克伯格的看法，扎克伯格的团队是真实用了AI，解决了问题，创造了价值。他麾下有Yann LeCun带领的一流AI研究人才，他们很清楚目前AI能做什么、不能做什么，以及可预见的将来能做什么。
而且据说马斯克关于“超级人工智能”的观点，受到牛津大学人类未来研究院院长、《超级智能》的作者Nick Bostrom（尼克·波斯特洛姆）的启发，但最近这个影响了马斯克论点的人，也公开表示“反水”了，他认为自己书中所写的超级人工智能带来的悲惨情况，并不意味着有可能发生。
更早之前还有人告诉我，说马斯克之所以如此笃定超级人工智能的威胁，是因为DeepMind当年在寻求收购时，曾表达了超级人工智能威胁之类的观点，所以还要求收购了他公司的人，要设立一个道德委员会去约束DeepMind未来的所作所为，免得毁灭人类。当时的潜在收购者之一马斯克深受影响。
但DeepMind创始人哈萨比斯的要求，可能其实是在收购案过程中开的一个“策略”，让他的团队看起来更强大。AlphaGo很强，但离“超级智能”还很远。并且哈萨比斯后来自己也承认了，AI威胁人类的事情，还太过遥远。
所以对于AI和人类的关系，我认为马斯克应该多听听真正的每天把AI当做工作的人的看法。我认为他也可以去和最顶尖的AI专家和图灵奖得主交流，看看为什么这些专家都不认可他的“超级智能”和“末日观”。
马斯克这么多年确实有不少伟大的创新创作，而且基本没有失败过，但并不意味着他不需要在“超级智能”这个问题上三思而后“谈”。
（以上。小标题为量子位添加）
延伸阅读量子位还想再补充一点背景。马斯克为什么会有AI末世论？
可能首先要“归功”于Nick Bostrom（尼克·波斯特洛姆），牛津大学人类未来研究院院长、教授、哲学家，畅销书《超级智能》的作者。
2014年8月，刚刚读完《超级智能》的马斯克难掩内心澎拜，并在推特上第一次呼吁人们警惕人工智能的威胁，从此一发而不可收。
这本书，亚马逊、京东上都有的卖。
![]()
不过最近马斯克的所作所为，连Bostrom都看不下去了，他在一次公开演讲中表示：“几年前我写了一本探讨AI长期影响的书，给一些人留下了点印象。我想借这个机会说一句，我对此其实并没有那么悲观。”
另外，对马斯克提出批评的还包括艾伦人工智能研究所CEO、华盛顿大学计算机科学教授Oren Etzioni，李飞飞等，详见量子位此前的报道。
回呛小札之后，马斯克又发了一个推特，重提Tim Urban的一篇旧作。这篇论述人工智能的长文，发表于2015年，当时中译版的标题是：《为什么霍金、比尔·盖茨这些大佬们，让我们警惕人工智能？（AI革命上篇）》。
这篇文章从三个层面论述了人工智能：1、历史会呈指数发展，人工智能对历史的改变会很快到来。2、人工智能是什么，现在的人工智能发展水平如何。3、我们可以按照怎样的轨迹发展人工智能。
作者在文中表示：当人工智能发展到人类脑残水平时，他就可以自我发展了，并在很短的时间内发生——智能爆炸，超过人类水平。那时，就像人类重新定义了动物一样，人工智能将会重新定义人类。
那么这个如上帝般强大的存在，会仁慈的对待他的“父母”——人类吗？
雷达卡
楼主
收藏
分享
淘帖
支持
反对
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
抢沙发
千斤顶
显身卡
发表于 2017-7-27 13:48:26
