随着人工智能的不断发展，一些科学家担心：在不久的未来，人工智能技术会超越人类的智慧，甚至会反过来控制或毁灭人类。对这一灾难性的预测来自一群 世界上公认“最聪明的人”，包括微软创始人比尔·盖茨、英国科学家史蒂芬·霍金以及美国的“科技狂人”伊隆·马斯克。甚至有学者认为，人工智能超过人类的 时间点——“奇点”已经逼近，很可能就在十几年后。这一切真的会发生吗？

　　人类面临的危险：机器人比人类还聪明

　 　什么样的机器人才是有危险的人工智能？英国计算机先驱阿兰·图灵设计了一个甄别实验：一台计算机和一个人做竞赛，说服一个看不到它们的观察者，使其相信 自己才是真正的人类。当机器人至少把半数观察者蒙骗了，才算通过了测试。目前，尚无一台计算机接近于通过测试。但图灵也指出，当超级智能机器人通过图灵测 试时，人类的报应就来到了。

　　人类所担心的智能机器人是能够像人一样思考、行动。这里行动应广义地理解为采取行动，或制定行动的决策，而不是肢体动作，而且它们具有知觉和自我意识。

　　人工智能对人类的毁灭能力是什么？牛津大学的研究人员给出了解释，人工智能不是像核武器一样消灭人类，而是会逐步取代人类，真正可怕的是智力。它们将比人类更聪明、更擅长社交、更有工作能力。

　　比尔·盖茨说：“如果我们能够很好地驾驭机器人，机器能够为人类造福，但如果若干年后机器发展得超过人类的智能，那么它们就将成为人类的心头大患。”

　　机器人会比人类还聪明吗？

　　机器的智商能有多高？机器是否会产生自我意识？机器人会比人类还聪明吗？一些科学家认为，机器人的智商超过人类是迟早的事情，甚至还有美国学者明确提出了人工智能超过人类的时间点。

　 　首位用“奇点”这一术语描述这种技术大变革的人是美国数学家、科幻小说家弗诺·文奇，此后，高科技企业家雷·库兹韦尔在其著作《奇点迫近》一书中进一步 提升了这一概念。库兹韦尔认为，技术的指数级发展将不可避免地导致超人类智能的出现。库兹韦尔对自己的预测很有信心，他甚至将到达“奇点”的时间定为 2029年。到了2029年，电脑不仅能够理解我们的语言，甚至能够和我们开玩笑。1990年，库兹韦尔预测称电脑将在1998年之前打败国际象棋冠军。 1997年，IBM公司研制的电脑“深蓝”成功击败国际象棋冠军加里·卡斯帕罗夫。

　　麻省理工学院的机器人学教授罗德尼·布鲁克斯说： “在越过‘奇点’后，我们和我们的世界将与现在大不一样，对什么是人、什么是机器人的定义也将变得不同。”一些未来学家称，正如黑洞中心存在着一个让一切 已知物理定律都失效的“奇点”一样，信息技术也正在朝着这样一个“奇点”迈进。届时，人工智能机器将比其制造者——人更加聪明。这些未来学家认为，过了这 个点，一切都将以现在不可预测、无法想象的速度和形式发展了。人工智能奇点研究所的创办人之一伊利泽·尤德库斯基目前正在研究所谓的“友好人工智能”。他 说，他最担心的是，一些科技怪才会发明一种能够自我进化但却没有道德感的机器人，这将给人类带来灾难。

　机器人会毁灭人类吗？

　　一些科学家担心：人工智能正在以令人害怕的步伐发展，它将导致人类走向最终的灭亡。

　 　不久前，著名科学家史蒂芬·霍金发出警告——未来100年内，人工智能将比人类更为聪明，机器人将控制人类。霍金曾与特斯拉CEO伊隆·马斯克共同发表 公开信，他们认为，人工智能的发展应该受到控制。信中称，如果智能机器无法保障安全，人类可能陷入黑暗的未来。一方面人工智能让人类越来越缺乏思考，另一 方面其自身则有可能越来越聪明，从而威胁到人类的生存。

　　马斯克也提出警告，最少只需5年，智能机器可能就会带来极端危险。他说：“应该保持高度警惕。如果让我猜测人类生存的最大威胁，那可能就是人工智能。”

　 　牛津大学哲学教授尼克·博斯特伦与詹姆斯·巴拉特认为，“现在我们人类就像一群摆弄着一颗危险炸弹的无知孩童。即便是出于好意而创造的人工智能，它仍有 犯下种族灭绝罪行的倾向。如果没有小心谨慎的制衡指令，一个有着自我意识、不断自我完善并追寻目标的系统将发展到在我们看来非常荒谬的程度，以完成它的目 标”。

　　不论如何，科学家认为未来对于人工智能的制造，一定要将不得伤害人类设定为其最重要的行事规则。美国科幻小说家艾萨克·阿西莫夫在他的机器人相关小说中为机器人设定了行为准则（也就是机器人三定律）——

　　法则一，也是最为重要的一条法则：机器人不得伤害人类，也不得因不作为而使人类受到伤害；

　　法则二，机器人必须服从人类的命令，除非违背第一法则；

　　法则三，在不违背第一、二法则的前提下，机器人必须保护自己。

　　机器人会成为我们的朋友？

　 　对于马斯克、霍金等人的言论，谷歌董事长施密特率先发起反驳。施密特的身份很特殊，作为谷歌的董事长，他曾亲身参与许多世界上最复杂的人工智能系统的研 发，从自动驾驶汽车到谷歌的预测性搜索引擎等。施密特认为，所有对机器将抢走人类工作、占领世界的恐惧都毫无根据，并且希望人们能够意识到：机器人会成为 我们的朋友。施密特说：“对于人工智能的担忧，都是正常的。但是回顾历史你会发现，这些绝对是错误的。历史的经验已经证明，过去的经济繁荣时期，大多数是 因为采用新技术而引发的。”

　　科技取得突飞猛进的成果时，总是让人感到害怕，但真正重要的是掌握技术的人。总之，对于新技术的发展，难免会存在争论，但科学的进步总归是为人类带来更美好的未来。但是有一点却不能忽视，随着科学技术的进步，自动化的人工智能会越来越多地出现在我们的工作、生活中，机器代替人类工作很有可能在不远的将来成为现实。