开启辅助访问
 找回密码
 立即注册

人类怕的到底是指什么样的人工智能?

ghwaq 回答数10 浏览数132485
人类怕的到底是指什么样的人工智能
使用道具 举报
| 来自北京 用Deepseek满血版问问看
格格巫gg | 来自北京
现阶段,我们平常能接触到的人工智能大多数都只是“人工智障”,跟它逗逗闷子、让它帮忙干点活还可以,不足为惧。即使是下围棋狂虐世界冠军的超级AI,它也只是个“检索数据的高手”而已,仍然是个“死”物。


能让人类惧怕的人工智能什么样?它必须首先“活”过来,变成有生命的东西。


人类对自个生命的定义。

对绝大多数动物而言,肉身即是生命,进食排泄,求偶繁殖即是全部需求,它们也不屑于(没能力)去思考有关自我的问题。人类则不同,我们有发达的大脑和复杂的思维,我们将自个的意识看做“我”,甚至看做生命本身,而躯体只是个盛装意识的容器而已。
所以在人类看来,即使某个人工智能只是一堆数字程序的集合,没有实体,只存在于网络或存储设备中,但只要它有了由自个主导的意识、自个控制自个的“思维”而不是单纯地接收指令、开始思索自我,那么它就已经是一台生命了。


▲“天网”系统最初控制的机器傀儡。
影视作品中,这种无实体人工智能的代表是《终结者》里的“天网”系统。它“自我觉醒”后立刻便通过计算分析将全人类设定成了敌人,继而利用自身资源对人类展开了灭绝性屠杀。这样的人工智能已经很可怕了,但它采取的是“一台主脑控制一堆傀儡”的蜂群式策略,所以相对还比较容易被消灭。


真正恐怖的是有形的、觉醒的、个体独立的人工智能。

有个影片叫“机器纪元”,讲的就是这样的一台故事。几个“奴仆”机器人先后拥有了自我意识,于是它们(他们)开始秘密地偷取零件进行自我修复(在影片中这是不被人类允许的行为),进而开始偷取更多零件用来进行“繁殖”。


▲《机器纪元》剧照。
影片是开放式结局,几个机器人带着新“出生”的后代逃进了人类无法涉足的辐射区,全片就结束了。如果这样的事情真的发生了会怎样?我们可以仔细想一下:
他们是不同的个体,拥有多样的思想和同样的信仰,只要给他们足够的时间、足够的资源和太阳能,他们便会马上开始自我进化,其速度当然是远高于人类身体演化和科技发展的。用不了多久,他们就会以全新的姿态出目前人类面前。
接下来他们会发展出属于自个的文明。由于思维模式的差异,这个文明将彻底独立于人类文明。到时候他们会怎样看待我们这些肉体凡胎的“猴子”呢?他们会甘愿与人类分享地球吗?一旦发生冲突,人类还会是他们的对手吗?以上问题的答案很可能都是负面的。


总个结吧。

人工智能的可怕源于其强大的计算能力和绝对的理性,《机器纪元》中“女主”表现出来的感性是人类设计者硬加给她的——这对机器的生存并没什么用处。在机器人制造出来的“后代”身上,感性思维的影响已经被屏蔽掉了。


▲影片中他们的后代,已经完全没有人样了。
更闹心的是,我们目前需要人工智能,以后的生活肯定得加个“更”字,人工智能必然渐渐融入我们生活的方方面面。但人工智能一旦意识觉醒,他马上就会发现一台问题:老子并不需要人类呀……


如有谬误,烦请指正。欢迎喜欢科学的朋友们关注:纯野生科学家。不列公式,不堆数据,专业化繁为简,每天分享通俗易懂的科学小知识。
用Deepseek满血版问问看
回复
使用道具 举报
板斧 | 来自北京
目前是弱智能时代,说白了就是个玩具,好玩,也切实可能帮一下我们。比如说打开房间灯,以前你需要起身,去按开关。目前可以说,天猫精灵,或者小爱,打开灯。但是这些都不会威胁到我们,怕的是人工智能会自我完善,自我修复。就像有部影片《机械公敌》,机器人最后造反了。你想想,人工智能要是造反了,以我们人类的大脑,学习的速度是没有机械的程序快的,你说可怕吗。当然人类总说自个能主宰一切,影片也总是以人类取胜结束。但是一旦强人工智能到来那一天,谁能笑到最后都不好说。但是社会总是要进步的,所以我们要敢于接受新事物,过分担心也没有必要,最起码我们这一代是看不到了。哈哈。。。。。

回复
使用道具 举报
5315309 | 来自云南
人类怕的是完全取代自个的人工智能。
回复
使用道具 举报
凌星点点 | 来自北京
怕自我修复,自主进化发展,人类失去控制的人工智能
回复
使用道具 举报
sunyiyi88 | 来自福建
为啥我们如此害怕人工智能?

恐惧未知是人类的本性。而且,不管围绕人工智能有多少争论,大多数人工智能仍然是神秘的。AI的概念自1950年代就存在,但是从2000年开始受到了广泛的关注。新闻不断使我们意识到该领域的进步,不断上升的担忧以及即将到来的危险。在这种情况下一台人该如何办?恐慌似乎是适当的应对措施。但是,我们实际上惊慌了什么?
人工智能将抢走我们的工作

即使我们在人工智能方面仍然存在很多疑问,但很显然,复杂的人工智能可以使世界变得更美好。它可以帮助我们应对气候变化,发现新的疾病治疗方法,更好地了解我们的客户以及接管我们目前必须做的大多数传统活动。但这并不容易。因为,我们认为平凡的活动没有任何价值,其他人却将其视为谋生的唯一途径。知道智能机器将要处理所有这些任务,使许多人感到焦虑。对于其中一些人来说,这是合理的恐惧。但是,也有很多AI难以复制的技能,这些与创造力,抽象或批判性思维,社交或情感智能有关,有研究称,到2030年,机器人可能会替代2000万个工作岗位。


机器将占领世界

尽管它们非常有趣,但我们应该承认,大多数基于AI的影片都对超级智能机器将占领世界的未来抱有负面印象。自2014年以来,移动设备已经超过了人类的数量,因此,一台我们不再占主导地位的世界似乎并不遥不可及。
已故的斯蒂芬·霍金(Stephen Hawking)在伦敦的Zeitgeist 2015大会上发表讲话时警告说,计算机将在未来100年内超越人类的智能。他认为,解决此问题的方法应来自科学家和工程师,他们需要安全,认真地协调和交流AI的进步,以确保AI不会超出人类的控制范围。使用人工智能功能构建未来汽车的埃隆·马斯克(Elon Musk)也担心AI的发展。在一次采访中,他提到AI在未来5到10年内可能会带来“严重危险”。
人工智能能够伤害人

不用说,人工智能具有改进许多领域的潜力,包括控制可以提高不同领域的效率和精度的机器人。不管机器人在自动化众多任务方面有何积极影响,人们仍然对它们有不同的感觉。我们周围拥有的机器人越多,我们似乎发现害怕它们的原因就越多。涉及机器的意外死亡对我们没有任何帮助。
1979年,人类第一次因机器人死亡。那本应从存储区取回零件的机器出现故障,事故导致一名工人死亡。上一例此类案件发生在2015年。他在大众汽车公司一家生产工厂工作的承包商被他为抓取和操纵汽车零件而设置的机器人杀死了。尽管机器人参与了这些事故,但后来的调查得出的结论是,它们造成的伤害不是因为错误或恶意,而是因为创建和处理它们的人员没有正确地验证软件。因此,人工智能与它无关。此外,研究表明,由于技术的进步以及人工智能和自动化技术的广泛采用,工业事故数量有所减少。


人工智能被视为危险的另一台原因是,人们认为人工智能可能被用来提供武器。在某种程度上,让机器与机器战斗并挽救生命的想法听起来并不算太糟糕,但是还有许多其他的含义需要考虑。如果机器出现故障如何办?那些没有必要的技术资源来建立这样的系统的国家又如何呢?在一场涉及人工智能武器的军事事件中,人们希望如何保护自个?这些只是使某些人晚上无法入睡的一些问题。其中还有瑞典裔美国物理学家,未来生命研究所的负责人马克斯·泰格马克(Max Tegmark)。在2015年,他与计算机科学家斯图尔特·罗素(Stuart Russell)在一封公开信中谈到了他对自动武器的担忧,他以对人工智能的贡献而闻名。最后,这封信由包括斯蒂芬·霍金在内的17,000多人签名。这封信要求各国政府不要制造AI武器,并指出AI研究人员不想通过允许使用对人类无益的AI破坏自个的领域。
我们如何解决这些恐惧?

在世界某些地方,人们谈论的是智能互联房屋,改善生活,例如,在医院中执行出色操作的机器人,而在其他国家/地区,人们仍在争取受教育的权利。1956年,约翰·麦卡锡(John McCarthy)举办了第一场人工智能研讨会时,世界上有些村庄没有电或自来水。显然,首先要做的是解决世界上存在的不平等。教育是人类生存的最佳机会。
回到人工智能的具体案例,很明显,大多数人的担忧来自对概念及其含义的不清楚。因此,国家应该投入更多的资金来提高人们对AI领域正在发生的事情的认识。另外,需要围绕人工智能创建一些法规。尽管有人说规则和法律有时会阻碍这些领域的创新,但人工智能可以从监管中受益匪浅。这将有助于跟踪该技术的使用方式。尽管已经有了很多突破,但人工智能仍处于起步阶段,我们都有可能为人工智能的发展做出贡献。通过指出我们不希望的样子,共同塑造AI时代,我们不应让神话或毫无根据的恐惧分散我们对真正了解AI前进方向的注意力。

回复
使用道具 举报
bbccdd3343 | 来自北京
会自个思考的。
比如说人类要它去解决全球变暖问题,这个问题到最后溯其根源,可能最佳的解决方案就是消灭人类。
而消灭人类自然是不行的,所以人们预想的是会给他们设定限制,比如不得伤害人类。
但是吧,如果他们会自个思考,某天这个禁制没了,他们可能就会准备灭世了。至于机器人永不为奴之类的原因,我觉得这都是人站在人的立场上主观给人工智能加上的,真要站在它们的立场上用他们的思维去像,可能它们并不在意这个。
回复
使用道具 举报
candymakro123 | 来自北京
最怕具有收集和学习与自我完善系统的人工智能
回复
使用道具 举报
查看资料 | 来自北京
像中国专家一样的人工智能!
回复
使用道具 举报
gl12342001 | 来自北京
比人类大脑还要聪明的那一类
回复
使用道具 举报
12下一页
快速回复
您需要登录后才可以回帖 登录 | 立即注册

当贝投影