谷歌、Facebook、微软等诸多互联网巨头不惜重金收购人工智能公司，发展人工智能实验室，AlphaGo、无人驾驶……，新技术和产品层出不穷，加上云计算、大数据的辅助，人工智能的未来会有无限可能，这无疑会是人类发展史上一次重大的革命。但是，就像电影里面经常表现的那样，开场总是一片人与机器和谐相处的美好景象，人工智能带来的便利让人们麻木，丧失对人工智能灾难风险范畴的严肃考量，紧随其后的可怕场景几近于世界末日。

内容简介

人工智能帮你选择买什么书、看什么电影，甚至和谁约会！它把"智慧”放进你的智能手机里，很快它就将驾驶你的汽车了。它掌控着华尔街大部分的交易的命脉，控制着重要的资源的分配，比如水资源和交通基础设施等。但是，人工智能也可能威胁我们的生存。《我们最后的发明：人工智能与人类时代的终结》探讨了一味追求先进的人工智能技术可能带来的危险。

作者简介

　　　　詹姆斯·巴拉特（James Barrat），科普及解密类纪录片导演，20多年来一直关注人工智能领域的进展。多次为国家地理、探索频道、PBS等供稿或制作影片。曾采访过科幻大师阿瑟·克拉克（Arthur Clarke）、未来学家雷·库兹韦尔（Ray Kurzweil）、机器人制造专家罗德尼·布鲁克斯（Rodney Brooks）等人。

　　　　闾佳，专业译者，译作丰富，翻译作品语言流畅通俗，有着多年的翻译经验。译言古登堡项目的负责人，擅长科技类作品的翻译，用词准确。詹姆斯?巴拉特（James Barrat），科普及解密类纪录片导演，20多年来一直关注人工智能领域的进展。多次为国家地理、探索频道、PBS等供稿或制作影片。曾采访过科幻大师阿瑟?克拉克（Arthur Clarke）、未来学家雷?库兹韦尔（Ray Kurzweil）、机器人制造专家罗德尼?布鲁克斯（Rodney Brooks）等人。

楔子 vii
1．忙碌小孩 001
2．问题只花两分钟 019
3．展望未来 033
4．艰难之路 049
5．写程序的程序 071
6．四种基本动力 081
7．智能爆炸 105
8．不归路 127
9．收益加速定律 143
10．奇点主义者 161
11．硬起飞 177
12．最后的难关 207
13．本性上的不可知 235
14．人类时代的终结 255
15．网络生态系统 271

前言/序言

几年前，我惊讶地发现，我跟数量庞大的一批陌生人有个共同点。这些人我从没见过，但他们是科学家、大学教授、硅谷企业家、工程师、程序员、博主，等等。他们分散在北美、欧洲和印度各地，如果没有互联网，我永远不可能知道他们的存在。这些陌生人和我的共同点，在于对先进人工智能的安全发展持理性怀疑态度。我们或单枪匹马，或三两为伍，研究文献，构建论点。最后，我伸出手去，连接一个极为成熟的小型思想家人际组织网，我发现，这群人比我想象中的更加关注这个议题。而且，对于人工智能的疑虑并不是我们唯一的共同点。我们还全都觉得：剩下的时间不多了。10年前，我沉迷于人工智能的潜力。我做了20多年的纪录片导演。2000 年，我采访了了不起的科幻作家阿瑟·克拉克（ArthurC. Clarke ），发明家雷·库兹韦尔（Ray Kurzweil ）和机器人先驱罗德尼·布鲁克斯（Rodney Brooks ）。库兹韦尔和布鲁克斯将我们未来与智能机器共存的前景描绘成了一幅浪漫热烈的图画。克拉克则暗示，我们会被超越。对浪漫未来的怀疑态度偷偷潜进我的脑海，并慢慢发酵。我的职业是赞许批判性思维的——纪录片导演必须始终关注那些美好得有失真实的故事。你大可以花上几个月甚至几年的时间摄制一部有关骗局的纪录片，或是自己也参与其中。比如我，就调查过以下事件的可信性：一部据说是加略人犹大传下的福音书（是真的），一座在拿撒勒的基督之墓（骗局），耶路撒冷附近希律王的王陵（千真万确），以及埃及欧西里斯一座寺庙里克丽奥佩托拉（也即俗称的埃及艳后）的墓地（很值得怀疑）。曾有广播电台要我从可信的角度展示一段关于飞碟的画面片段。我发现这段影片是集合了一堆早就名声扫地的欺骗手法：扔飞盘，双重曝光，以及其他光学效果和错觉。于是我建议做一部关于骗局的片子，别再管什么飞碟了。结果是，我被炒掉了。怀疑人工智能很痛苦，原因有二。就跟我说的一样，自打知道了它的前景，我心里就种下了一颗种子，而对这颗种子，我想要培养它，而不是打压它。第二，我并不怀疑人工智能的存在，也不怀疑它蕴含的力量。我怀疑的是先进人工智能的安全性，以及现代文明开发危险技术的鲁莽性。我深信，知识渊博的专家们要是从未怀疑过人工智能的安全性，一定是患上了妄想症。我继续与了解人工智能的人进行探讨，他们告诉我的事情，比我的猜测还要惊人。我决定写一本书呈现他们的感受和关注，并尽我所能地让这些想法接触到更多的人。在撰写这本书的过程中，我采访了为机器人、互联网搜索、数据挖掘、语音及面部识别等用途创建人工智能的科学工作者。我采访了尝试创造人类同等水平人工智能的科学工作者，这一类的人工智能将拥有无数的用途，并最终从根本上改变我们的存在（如果这些人工智能没有终结人类的话）。我采访了人工智能企业的首席技术官以及国防部机密活动的技术顾问。他们每一个都相信，主宰人类生活的所有重大决策，将由机器或者为机器增强了智能的人来做出。什么时候会变成这样呢？许多人认为，在他们有生之年就会变

成这样。这是一个令人惊讶但并不特别有争议的说法。计算机已经成为我们的金融系统、能源、供水和交通等公共设施的基础。计算机在我们的医院、汽车和电器里安了家，我们的笔记本、平板电脑和智

能手机也都有它们的身影。这类计算机里有许多，比如运行华尔街买入/ 卖出算法的那些，都是自主运行的，并无人工指导。计算机为我们带来了所有这些节省劳力的便利和消遣，我们要付出的代价则

是依赖。我们每一天都变得愈发依赖它们。到目前为止，这个过程并无痛苦。但人工智能是计算机的圣水——它给计算机带去了生命，把它们变成了别的东西。如果机器不可避免地要替我们做决定，那么机

器会在什么时候获得这种权力？我们会顺从地把权力交给它们吗？它们将怎样获得控制？又以多快的速度获得？这些都是我在本书讨论的问题。一些科学家认为，机器接管会是个友好合作的过程：是移交，而非“ 接管”。它会逐步进行，所以，只有捣乱鬼才会犹豫不决，而我们其他人并不怀疑，让比人类聪明得多的东西替我们决定什么最好，会给生活带来巨大的改善。此外，最终获得控制权的超级人工智能还可能是增强的人类，或者人类下载的超强大脑，而非冰冷的非人机器。所以，容忍他们的权威会更容易。一些科学家形容的移交机器过程跟你我现在参加的过程几乎没什么区别——是渐进的、无痛

的、有趣的。平稳过渡到计算机霸权，有可能是个不值一提的稳妥过程——只可惜有一个麻烦的地方：智能。在某些时候，某些特别的情况之下，智能并非不可预测。可出于我们将要探讨的诸多原因，高级到能够以人类同等水平进行智能行动的计算机系统，绝对是无法预测、难以理解的。我们不可能深切地知道，拥有自我意识的系统会做些什么，怎样去做。这种不可测性，再加上复杂性带来的种种意外，以及智能独有的新奇活动带来的种种意外（我们后面将会讨论），就变成了“ 智能爆炸”。机器会怎样接管呢？这是不是对我们造成威胁的最现实的场景呢？听到我提出这个问题，我访问的一些最有成就的科学家引用了科幻作家艾萨克·阿西莫夫（ Isaac Asimov ）的机器人三定律。他们轻松地回答说，这些定律会“ 内嵌”在人工智能里，我们没什么好担心的。他们说的就好像这在科学上已成定论似的。我们会在第一章讨论机器人三定律，但现在不妨这么说，如果有人把阿西莫夫的定律当成解决超智能机器带来困境的办法，那意味着他们从未就此问题做过思考或者跟人交流过想法。如何制造友好的智能机器，以及超智能机器会带来怎样的恐惧，超出了阿西莫夫的比喻范围。因此，哪怕人工智能有极高的能力和成就，也并不意味着你应该完全无视它的危险。我们走上了毁灭之路——我并不是第一个这么说的人。我们人类有可能会跟这个问题缠斗到死。这本书探讨了未来失控的可能性：机器并不憎恨我们，但随着它们获得宇宙间最不可预测、我们自己都无法达到的高级力量，它们会做出意想不到的行为，而且这些行为很可能无法与我们的生存兼容。这股力量是这么地不稳定而又神秘莫测，连大自然也只完全做到过一次。智能。

我们最后的发明：人工智能与人类时代的终结 [Our Final Invention: Artificial Intelligence and t] 下载 mobi epub pdf txt 电子书格式