日志
转载 ：人工智能革命：通向超级智能之路 人类永生或灭绝
热度 13 |
http://www.aisonny.com/archives/4352.html
这篇文章是我迄今为止所看过的所有关于人工智能文章中写的最好的一篇。昨天我就在国外网站上看了英文原版的，当时我还在考虑要不要翻译，因为实在是太长了，有点犹豫。今天就在网上看到了网友已经翻译成中文了。感谢知乎用户“谢熊猫君”完成翻译工作。想看英文原版的请点击：The AI Revolution: The Road to Superintelligence【1】The AI Revolution: Our Immortality or Extinction【2】。
看完后我觉得相信并且希望看到超人工智能的出现，然后：
1、第一步，让我的智力上达到我梦寐以求的透彻超能力；
2、第二步，让我的感官达到无与伦比的快乐；
3、第三步，祈祷第一步和第二步能够永久持续，而不是被超人工智能或哪个愚蠢的或
恶毒的个人用纳米技术或我现在想不出的技术就把世界崩溃了。
4、第四步，因为有第三步，我倾向于超人工智能会把我们人类当虫子养起来，但愿。
我们的未来是快乐的虫子，我是个乐观派
全部作者的其他最新日志
发表评论 评论 (9 个评论)
- 回复 shijz
- http://www.aisonny.com/archives/4352.html
我觉得人的学习阶段越来越长，没有突破的话，将来的知识学完了人也老朽了，能解决知识复制，人脑还是有优势。
得到原文去找正确的链接- 回复 MacArthur
- “强人工智能”的出现，硬件上还在扯“摩尔定律”，已经是昨日黄花了。。。 软件上呢？也并没有说明如何才能切实达到，只是泛泛地来了一句“以上这些都会很快发生”
Not So Fast... 强人工智能的出现，绝对不可能是“不远的未来”，甚至“遥远的未来”能不能实现都很成疑问。。。 “电脑学习”这个概念听起来很美妙，但在实际应用中仍旧需要人脑来不停矫正，这个过程的漫长和工作量之巨大，超出所有人都想像。。。
电脑超越人脑之时，就是人类战胜上帝之日 -- 你真以为会那么轻松容易吗？
- 回复 赫然
- 人工智能的问题是他不犯错。一切都是规范中的，然后就没有然后了。
MacArthur: “强人工智能”的出现，硬件上还在扯“摩尔定律”，已经是昨日黄花了。。。 软件上呢？也并没有说明如何才能切实达到，只是泛泛地来了一句“以上这些都会很快发 ...
没有错误，没有不着边际的联想，没有能力上升到哲学高度去理解，人工智能只能在机器的范围里面局限着。
而联想，这个数学模型还非常不靠谱。当然，人类就已因为不靠谱而前进的，机器还不知道怎样靠谱的利用不靠谱。
- 回复 MacArthur
- EXACTLY... 赫总的这个解释更精辟。。。
赫然: 人工智能的问题是他不犯错。一切都是规范中的，然后就没有然后了。
没有错误，没有不着边际的联想，没有能力上升到哲学高度去理解，人工智能只能在机器的范围里 ...
只有犯错误才能进步，但是只有人才能去定义什么样的错误是“有益”的，什么样的错误是“无益”的 -- “有益”/“无益”只能和人类有关，也只能由人类去定义。。。 你放心让机器去掌握这个开关吗？
比方说你让SkyNet掌握了核武器按钮，有一天它互发奇想，要试试按下开关会有什么后果 -- 只有不停试错才能进步，对不？-- 所以它就不停地发射核弹，向菲律宾打一发试试？向北京打一发试试？向莫斯科打一发试试？
- 回复 lionliy
- 深度学习的过程就是不断犯错，然后总结的过程。 人工智能可怕之处在于它每次犯错后必然去总结学习。 在这个有意识地学习提高的过程上，人工智能永不犯错。
MacArthur: “强人工智能”的出现，硬件上还在扯“摩尔定律”，已经是昨日黄花了。。。 软件上呢？也并没有说明如何才能切实达到，只是泛泛地来了一句“以上这些都会很快发 ...
由人去定义什么样的错误是“有益”的，这其实是传统的”输入输出对“机器学习方法。 给定输入，人或某个评判机制打个分作为输出。 每对输入输出作为一个数据让人工智能总结规律。
现在的机器学习已经可以只采用输入， 人工智能自动从中总结出模式归类在一起。 给一堆松饼， 披萨饼，足球之类，人工智能可以自动总结出圆形，topping 这些模式， 它只是没有给这些模式赋予名字而已。 人只要看它分类几次就可以知道原来这个模式对应的就是圆这个概念。
概念以及概念之间联系的结构就是知识的本质。找出概念间的联系，这种联系本身只是一种复合”概念“，找联系的过程即联想与哲学思考。人工智能在这个方向上已经没有不可逾越的障碍。
最初的人工智能总是强调人理解本质，然后用机器实现。 后来才意识到复杂行为可以经由大量遵循不同简单规律的个体，部件自然呈现出来。 对于这类人工智能，所谓的“不理解”本质其实只是人不理解而已。机器已然在内部物质层面复制出了同样的结构，它已经”理解“了本质。
人工智能过去公认的难处在于：人觉得难的，机器觉得容易， 人觉得容易的，机器搞不定。近年来，这类课题方面不断取得突破，并且不是靠蛮力堆计算能力解决。 现在看来，这个状况，其实很好懂。 人觉得容易的知识，已经由自然选择在大脑里形成了固定对应的反射结构，根本就不是经过思考来的。在识别图像，估计，直觉等方面，人脑是不折不扣的机器而非智能。
- 回复 MacArthur
lionliy: 深度学习的过程就是不断犯错，然后总结的过程。 人工智能可怕之处在于它每次犯错后必然去总结学习。 在这个有意识地学习提高的过程上，人工智能永不犯错。
...能做到这一点，那就已经是不折不扣的真正的“智能”了。。。 你愿意信“已经没有不可逾越的障碍”，就信好咯。。。现在的机器学习已经可以只采用输入， 人工智能自动从中总结出模式归类在一起。。。找联系的过程即联想与哲学思考。人工智能在这个方向上已经没有不可逾越的障碍。
对于已有的概念，机器学习可以做得比人脑更好，这个没有疑问。但是对于现存概念之外的探索，想指望人工智能去“归类总结”，归纳出对人类有用的概念？hoho，你也太小瞧离散混沌的复杂度了吧？
- 回复 赫然
- 现在人工智能的理论来看，人工智能只能完成可以清晰定义的工作。它的优点在于增加复杂程度对它不是问题。繁复枯燥都不是问题。
MacArthur: 能做到这一点，那就已经是不折不扣的真正的“智能”了。。。 你愿意信“已经没有不可逾越的障碍”，就信好咯。。。
对于已有的概念，机器学习可以做得比人脑更 ...
问题在于跨界的联想。人工智能可以把石头打水漂打到尽善尽美，预测第七百二十次接触时，水面接触角。但是，它不会把这个思路用到星际旅行上，也无法用这个思路去处理人际关系。
人工智能对人类影响是会很大的。以后低智力个体会从社会学上和生物学上被淘汰，人工智能轻松可以替代他们。不过，先等愚蠢而且不靠谱的人类发展一万年再说吧。