人工智能忠诚于谁？制造者、使用者，还是人工智能自己？_ZNDS问答

不可否认，机器代表的AI（人工智能）发展日新月异，速度之快超乎想象。面对这一大趋势，有人欢呼：“AI将极大的解放生产力，共产主义会加速实现。”有人嘲笑：“So TM What, AI剥夺了人类因犯错带来的乐趣，科技先进只会带来更多无聊。”有人不屑：“机器再强也不过是人类设计的程序，智能化是海量数据灌输的结果。” 有人疑惑：“以机器的学习能力，不久将来，AI是否会成为全人类共同的威胁和挑战？”
聊起人工智能，不得不提到人工智能之父阿兰图灵。「算法」(algorithms)这个概念就是由图灵提出的。他的著名论文《机器能思考吗？》认为：机器可以模拟人类大脑，通过特殊训练拥有思维。他还发明了测试机器是否真正智能的「图灵测试」。图灵在他的著作中称：机器智能取决于为机器编制模拟人脑思考的程序（即“算法”），而非制造机器本身。这些思想指导着后人研究和开发人工智能。实际上今天，摩尔定律下CPU/GPU的浮点运算能力已经超级强大，「云计算」技术突破了存储极限和运算瓶颈。因此机器的智能程度完全取决于算法，机器狗之所以强大，是因为基于“神经网络和深度学习”的算法强大，并不是简单灌输海量人类棋谱的结果。与“抄作业不可能炒成学霸，真正的学霸拥有高智商的同时还有非常高效的学习方法”是一样道理。
有这样一个现在流传甚广的论断：任何思考时间低于五秒钟的工作都将会被机器人取代，而这些人也将失业。在未来世界里，人类要不断地学习，做有创造力的工作，让人工智能成为助手而并非取代人类。

关于人工智能，在1942年，阿西莫夫在短篇小说"Runaround"（《环舞》）中首次提出了三定律：

一机器人不得伤害人类，或因不作为使人类受到伤害。

二除非违背第一定律，机器人必须服从人类的命令。

三除非违背第一及第二定律，机器人必须保护自己。

但后来，阿西莫夫加入了一条新定律：第零定律。

零机器人不得伤害人类整体，或因不作为使人类整体受到伤害。

虽然真正的人工智能离现在的我们还离的太过遥远，但并不妨碍我们来探讨一下，以上的定律我们可以看见。

我们对人工智能的理解其实还是不够深入，因为，如果按照人类的设定来说，完全遵从以上定律的机器人，并不完全算做是人工智能。

为什么这样说呢？所谓智能，就是要有自己的逻辑思维能力，也就是说和人类一样，具有最基本的事物判别能力。

既然如此，我们如何保证它们能够完全遵从我们的设定？这也是为什么现在很多威胁论能够蛊惑人心的原因。

媒体总是擅长放大某些事实，动不动就是霍金说，说什么了？虽然现在有着很多标榜着人工智能的项目，比如自动驾驶。

为什么我不说阿尔法狗？因为这货压根算不上人工智能，它只是一种算法的存在形式，哪怕是自动驾驶也是基于庞大的数据库来做出数据选择。

所以我们对人工智能的理解和定义是什么？人工智能需要忠于谁？你又会忠于谁？为什么要忠于谁？

其实这些问题应该会出现于不同的阶段，刚开始出现时，它肯定是忠于自己的制造者，因为程序由他设定。

如果说人工智能进入大众的生活，那么第二忠诚者自然是当下的主人，这一切的前提基于人工智能无法摆脱人类的束缚。

可若是发展到一定阶段呢？如果说人工智能能够自我进行改造和升级呢？那么人类真的能够完全掌控吗？

在不同的发展阶段，这些问题是无法避免的，而且我们无法在现在做出有效的预防，哪怕你能设定足够的程序来设定人工智能不伤害人类。

那么同上，如果某一天人工智能自我发展到人类的智力程度，能够进行自我升级和改造之后，我们再如何预防还有用吗？

既然谈到忠诚于谁的话就说明题主想要了解的人工智能级别完全不是现在的人工智能可以比拟的
现在的人工智能严格来说并不会忠诚于谁，因为在他的背后是无数代码编成的指令。所以也有一种说法是说并不会出现真正的智能，因为智能越高级就表示背后有人给他编了越多的指令，可以说他们的智能是人类赋予他们的，并不能凭空诞生。
而题主所说的级别应该是人工智能达到了自我思考的地步
如果真的有一个这样的人工智能，那么他的智商将会瞬间将人类超越，因为人类学习需要时间，而他学习只需要下载。
届时他的智商将会超越人类无数层楼，那个时候你觉得他还会忠诚于在他看来像蚂蚁一样蠢笨的人类吗？

谢邀，题主的这个问题，没有对人工智能有特别大的了解。
我是这样理解人工智能的。
在现在的人工智能的阶段还处于很单一的情况下。
例如，电脑设置自动关机。
现在的人工智能还并没有到"忠诚"这个词的程度。
人工智能的路还有很长的路要走，他现在并没有电影中自己的“思想”。
至少在目前为止，人工智能所做的一切，都是跟软件类似的概念。
我把他理解为“自动的软件”。
这个是我的个人观点。对这方面研究不是特别多，说的不对的欢迎指正。

		自动登录	找回密码
密码			立即注册

人工智能忠诚于谁？制造者、使用者，还是人工智能自己？

相关问题更多>

最新回答