实现人工智能的过程中，我们摘用了一种特殊的办法，与传统工业很纷歧样。
传统造造业，好比汽车、飞机、电视机等的工业产物，在消费的时候，每一道工序几乎都几乎已经定义清晰了，是先合成那个螺丝，再安拆那个收架等等，规划好了再消费。设想的时候是如何，做出来的工具就是如何，少少呈现不测。
可是人工智能的专家出来了，说，实笨啊，愚笨的人类。为什么不克不及让机器本身进化、进修？然后让它本身而不是我们找到完成使命的更佳计划？
然后专家就付与人工智能进修的才能。简单说，就是先给AI一个初始形态，由极其简单的几条规则构成。然后赐与它必然的进化压力/进修压力，它就会不竭演变，规则与规则彼此感化、组合，越来越复杂，越来越浩荡，最初涌现出一个混沌系统（就像象棋，少数几十个棋子和规则组合出无限无尽的牌局和打法），最末，连创造它的人都搞不清它内部若何工做。
成果，进化而成的AI因为有复杂的内部机造，那些机造又不是由人类设想（太复杂了以致于只能以进化的体例而不是人工设想）。其行为无法揣测。人工智能肯定失控。
人工智能就像打桌球开局那一杆，打出往了，你时机不克不及晓得最初会是什么情状。
话又说回来，失控回失控，那可阻挠不了人工智能的开展，无他，贸易利益的驱动。试问一个有伶俐的，可低成本大量复造的，任劳任怨的AI来给你免费打工，给你抽剥所有剩余价值，谁不想要？
人工智能必然危害人类吗？假设以后陆续听任不管，肯定是的。但有一些破例，例如，我们把人工智能朋分开，只在某一专业范畴利用智能，不研发通用智能；例如，我们把人工智能酿成人类的一部门，让人类进化得更完全，让人就是半人工智能。
0