为什么有很多名人让人们警惕人工智能？

作者：匿名用户
链接：https://www.zhihu.com/question/27864852/answer/41061946
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

强人工智能是有可能实现的，但是现在的技术离强人工智能的距离还非常远。

原文中第一个图很有意思，就是技术发展曲线。
全文的所有论据，都建立在“指数发展”这个假设上。
指数曲线在接近0的时候是类似线性的，
不光是指数，多项式函数、对数函数、甚至多重指数在小范围内也可以用线性拟合得很好。
而且不同的指数和在0附近都很接近，
但对“奇点”何时到来的估算可能误差千百年。

如果按照“指数发展”来算，而且乐观的估计指数的系数，
那你妹的什么技术都不是问题啊，人类分分钟占领全宇宙。

我更相信的是，科学发展是有爆发期和稳定期的。
一个技术突破会带来难以想象的繁荣，之后的科学发展都比之前的更快，
但不会天天都是技术突破。

比如，二十世纪上半页的物理学十分辉煌，相对论和量子力学的建立引发了一系列技术革命。但从那以后物理学一直很平稳。
杨振宁就说过他赶上了物理学的好时候，让他现在做学术，可能就不会选物理学了。

要是科幻作家站在1950年前后，用指数发展估计物理学的发展，
那到今天我们早就弄出大统一理论搞定核聚变发电了。
又比如人均寿命从先秦时的二十几岁发展到现在的80岁，如果用指数拟合，
那过几十年是不是要活几百岁了啊？

--------------------------------------
文中提到的可能支持人工智能指数发展的路线包括：抄袭人脑，进化算法，电脑自己解决。
我不知道这几条是不是对应类似machine learning, neural network, evolutionary algorithm, program synthesis之类的领域。
如果是的话，这几个领域我都有一点粗浅的了解。
欢迎大神批评补充。

比如machine learning和neural network, 核心都是回归和数据拟合，离智能化还很远。
大牛Andrew Ng的网课，Coursera - Free Online Courses From Top Universities
光靠这个实现强人工智能我是不信滴。

关于evolutionary algorithm，去年有一个大牛的talk，推荐大家看一下。
全篇都是技术讨论没有涉及“奇点”，大家可以自己判断现在的研究前沿离真正的强人工智能还有多远。从43分钟开始：
Dana Scott: VSL Opening & Christos Papadimitriou: VSL Keynote Talk "Computational Ideas and the Theory of Evolution" on Vimeo

program synthesis里，现在计算机能自己生成的程序还很弱智，
而且算法复杂度都是exponential time甚至doubly exponential time(比如)的。
用的方法本质上是先靠程序员输入一个程序模板和参数空间，
然后用各种方法遍历所有可能的程序，看看是不是满足要求。

这其实引出了一个很有意思的问题：
现在我们CPU的计算能力是指数增长的，
但按照今天的算法，许多真正有趣的问题都是需要“指数时间”，甚至多重指数时间才能解决的。
那么，我们实际解决新问题的速度一定是指数发展的吗？

让该领域内的专家来介绍现在的研究成果和面临的巨大问题，
比起作家自己泛泛而谈要好得多。

--------------------------
其他反对的观点其实也不少，
比如可以参考这篇文章 Hyping Artificial Intelligence, Yet Again
等有空我可能会翻译一下。

麻烦高票答案加上“本文代表部分业内观点，不具有普遍性和权威性”，
以免误导不明真相的群众。