改机器人灭绝人类怎么办谷歌成立小组应对威胁

谷歌已经在英国伦敦组织一群专家，专门应对 人工智能威胁 。这个专家小组将服务于谷歌旗下的DeepMind，这是谷歌2014年收于旗下的人工智能公司。日前在接受采访时，DeepMind负责人戴米斯 哈萨比斯（Demis Hassabis）透露了该公司对未来人工智能的最大担忧。

哈萨比斯及其团队正在为谷歌服务建造使用人工智能的机会，这家公司正教授电脑像人类那样思考，提高人工智能技术帮助谷歌服务实现技术突破。比如它可以帮助用户提高YouTube评论，或者令谷歌移动语音搜索变得更好。

然而令人担忧的是，DeepMind联合创始人肖恩 利格（Shane Legg）认为，这个团队取得的进展很可能导致人类被终结。他在接受采访时说： 最终，我认为人类可能灭绝，而技术可能是部分原因。 他还称，他认为人工智能是本世纪头号危险，这是不祥的东西。

著名科学家史蒂芬 霍金（Stephen Hawking）、传奇企业家埃隆 马斯克（Elon Musk）也对人工智能的进步会导致什么样的后果表示担忧。他们担心的智力增长过快，最后可能自主决定灭绝人类。如果霍金与马斯克感到恐惧，我们也应该如此。

4月份时，哈萨比斯曾在视频中展示了DeepMind的一款软件。视频中，一台电脑正学习如何通关雅达利（Atari）的视频游戏。工作人员在编程时没有给与电脑任何如何学习的信息，只是给与其控制权和获胜的本能。美国加州大学人工智能大师斯图亚特 罗素（Stuart Russell）称，人们对其表现感到震惊。

谷歌也担心以这种方式开发的电脑会产生威胁。为此该公司成立了 道德委员会 ，其任务就是确保人工智能技术不被滥可视化是给人看的用。哈萨比斯解释称： 我们或谷歌其他人都要了解人工智能。现在我们依然在玩雅达利的游戏，但人工智能已经取得很大进步，我们的恐惧日增。

哈萨比斯说，DeepMind对人工智能的主要观点是：林书豪此场比赛发挥不错创建能够解决任何问题的计算机。人工智能拥有巨大潜力，可能令人类感到震惊。人工智能技术的进步可能帮助人类更好地对抗疾病，但其展现的光芒着实令人类感到恐惧。