人工智能会成为人类智能的终结吗

dingzi

感觉人类的所谓智能必须包括会犯错误吧，并且一直以来对物种来说能够承受错误的后果。
而人工智能设计的主观目标之一肯定是不犯错误。
如果人工智能的发展仅是超过人类大脑，应该是可以实现的。但人类智能会搭错线的特点也势必会延续，则超强大的人工智能的某钟错误可能是其无法承担的，并将导致人工智能自身的灭亡。
2 j& g2 J/ e& L# R9 D, t) R于是，超人工智能在某个位面中也许曾大量存在并灭绝过。

dingzi

冰蚁 发表于 2016-1-29 20:51
AI　没说不能犯错。现在早已经是概率判断了。

/ c+ v! |+ b% l! F( Z. R" n谢谢。我再想想。

dingzi

晨枫 发表于 2016-1-29 22:41
; Z1 M3 C$ O' T6 i( e/ v犯错误是肯定的，赵括不就犯错误了嘛，还有前赴后继的贪官。但正如你说的，对物种来说，能够从错误中学习 ...

( n: Y( y+ i! \- B# a+ i0 L是我口齿不清，呵呵。
, H3 ]- H8 B+ c1、如果AI以山寨人的大脑为目的，则在强人工智能到超人工智能过程中因人脑自身的智能问题必然会出现超级错误无法控制而把自己玩死；
6 R1 A) o) c* O" r  H2、如果目标是避免一切错误的AI，其实终极目的就是超人工智能，以人脑的智能在没有超人工智能存在的情况下如何能实现超人工智能？至于部分人工智能不会出错的设备现在已经大量存在，但也仅是弱人工智能而已。
2 y. a* J; y4 `这似乎进入修辞的较真或某种悖论了，已经不是能驾驭的啦。
4 E% d& G" f* Q- p! s上面使用了一些http://www.aisonny.com/archives/4352.htm文中的概念，但找不到站里转发的原帖了。在此感谢。