如果人工智能学会欺骗，是不是意味着人工智能将不可控？_ZNDS问答

omkaecd

如果人工智能不会欺骗那是不是意味着它不是真的人工智能?人工智能将会以什么样的姿态出现在世人面前?

人工智能是由人类创造的，那在设计的时候肯定要人可以控制的。甚至不排除每一个人工智能都暗藏一个可以遥控的终止开关，平时用不到，关键时刻只要启动，这个机器人立即停止一切运行。这种开关是cpu的电源开关，是一个独立的硬件。当人类感到它的威胁时，可以随时终止它。这个人工智能并没有死，只是暂时昏过去。它的一切记忆功能都还在，只要接通电源又能正常了。这个开关的控制器主人一份，厂家一份。
但是，有一种情况可以导致机器人失去人类控制。有些对社会不满或喜欢恶作剧的人，还有些具有泛平等思想的人，可能故意制造出来不受人类控制的机器人，或者是具有反人类思想的机器人。就像现在许多制造病毒的黑客，或为利益，或为好玩，或憎恨人类。至于机器人自己制造机器人时可能的作弊行为也有可能。
当然，这些都是有办法预防的。国家机关严格把握机器人生产销售维护许可证，对机器人生产严格出厂检验，进入市场检验，每个机器人都要有管家安全检查部门核准的身份证。这当然不能保证百分百，因为黑客们制造的病毒可能藏匿在很隐蔽的角落。但只要有断电开关在，一切都可以控制。

题主你好。
目前我们对人工智能的定义非常宽泛：只要能代替或者部分代替人类的智力活动，就属于人工智能。
比较经典的教科书是：ARTEFICIAL INTELLIGENCE. A MODERN APPROACG可以看下。

我们可以让机器学会欺骗

事实上，让机器学会欺骗的算法有很多，我们很早就实现了机器欺骗。所以这不是什么问题。我们甚至可以让机器在你表扬它的时候感到开心。让机器拥有情感。但是这并不意味着机器能够像人类一样理解这些情感。所以，在算法层面，我们可以做到很多东西，但是，机器和人的硬件配置不同，因而归根结底机器不能和人类一样感受世界。

机器经常失控

事实上，我们的机器经常失控。电脑时常有bug，汽车也会抛锚。只要是机器就会失控。我们更多担心的，其实不是机器是否会失控，我们担心的是，机器是否会有自我保护意识。这是一个危险的东西。智能程度如小狗一般，如果有自我保护意识，它就会咬人。机器同样如此。所以人工智能真正关心的是，机器会不会自发的形成自我保护意识。这一点还有争议。

		自动登录	找回密码
密码			立即注册

如果人工智能学会欺骗，是不是意味着人工智能将不可控？

最新回答