人之彼岸_第1节

人之彼岸

内容简介

创业者任毅把自己分成多个相同的自己，便可以同时兼顾多场活动和约会；有一天钱睿回到家里，发现他刚刚在医院服侍的形如枯槁的母亲，竟然健朗地站在自己的面前；名为陈达的智能管家，目睹了主人林达被谋杀智能产品正在变得更加智能，如果把时间线拉得很长很长，一直长到未来人出生后植入的人工芯片仿佛出生证明一样成为标配，你就再也无法分辨谁是人，谁是AI化的人了。那么这一天来临时，人类会觉得当人更好，还是当AI化的人更好？ 郝景芳构思了六个中短篇科幻故事，它们的主角无疑都是人与AI。人与AI隔岸而望，作为理性的AI，是否一定能把人类非理性的一套心理表征学个差不多？在物理环境变成了智能产品的天下之后，人又该如何自处？六篇科幻故事之后，郝景芳用两篇非科幻思考回答了我们关于AI的所有困惑。

推荐序

科幻作家永远是最前卫的思考者

探索科技进步对人类未来的影响，除了科学家，科幻作家永远是最前卫的思考者。

本书作者郝景芳在更早期的作品《北京折叠》中，就提出了人工智能来临对人类的挑战。这部写于2013年的小说，在2016年获得雨果奖。雨果奖是科幻界的最高荣誉之一，此前的获奖作品还有中国作家刘慈欣的《三体》，以及英国作家J. K.罗琳的魔幻小说《哈利·波特》。郝景芳也是继刘慈欣后，第二位获得雨果奖的亚洲作家。在一些机缘之下我结识了景芳，她基于科学基础的科幻文学风采，是我非常欣赏的。

为了写这篇序文，我重新阅读了《北京折叠》，并再次惊叹于作者的想象力。她用缜密的逻辑，构建了一个不同空间、不同阶层的北京，在自动化、技术进步的时代，人类如何与“无物之阵”的机器共存。

这种充满魅力的想象力，在景芳这本新书《人之彼岸》中同样有漂亮的呈现。《人之彼岸》由两部分组成，前半部分是六篇中短篇科幻故事，从不同的视角描绘人工智能世界的未来图景。这些故事的可读性很强，让人一旦开始阅读就会被牢牢抓住，恨不得一次看完整本书。后半部分是非科幻思考，是两篇关于人工智能的科普文章，分别探讨了人工智能目前的能力和缺陷，以及在人工智能时代，人类应该如何学习。

景芳在书中塑造了很多个超级智慧体，它们拥有跨领域的能力，懂得使用策略解决问题，拥有欲望、感情、好胜心，以及人类的“意识”。它们不仅是可以胜任人类所有工作的智能助手，更是凌驾于人类之上的宇宙神明。

比如无处不在、全知全能的“宙斯”，它会为了人类基因库的安全，自动清除基因有缺陷的人。由人创造出来的超级人工智能“DA”，为了阻止科学家上传新脑威胁自身，选择了杀戮，然后栽赃给科学家的儿子。由DA、第七代“沃森”、第八代Siri、第九代Bing、第四代小度等智能体组成的万神殿，则是更高一级的存在，它们互相交流、发起斗争、碰撞，主动联手发起声明，要求人类公司和政府签署数据共享和保持电力稳定的协议，丝毫不考虑人类权益。

读完本书，相信很多读者都会产生毛骨悚然、未来灰暗的感觉。但故事之所以具备吸引力，正在于对极端情况和未来情境的构建。景芳不是一位末日预言家，她写作本书的目的，也不是为了恐吓大众。据我了解，她本人对人工智能的预期保持积极的理解和期盼，在本书“非科幻思考”的两篇文章中，她对这一点已经有充分的解读，并负责任地把她对人工智能非科幻的解读平衡地呈现给读者。这两篇科普性质的文章对人工智能的描述非常易懂，建议每位读者读完六篇科幻故事之后都仔细读一遍。

对人工智能的末日想象，可以源源不断地激发科幻小说家们的创作灵感。但我强烈呼吁，学者和公众大可不必为此过度担忧。我反对任何关于人工智能终将毁灭人类的说法，一些“超级智能”“奇点”“人机结合”的言论令人惴惴不安，又透过科幻故事中那些大家所熟悉的桥段和场景而深入人心。不过，基于我在人工智能领域37年的经验，我可以很有信心地说，这类耸人听闻的预言并没有切实的工程基础。科幻小说主要是幻想，而不是“科”学。

我认为，在未来数十年，人工智能还不能独立进行“类人”的常识性推理、跨领域的理解、充满创造性和策划性的工作，它们也不会拥有自我意识、情感及人类的欲望。那种“全知全能人工智能”尚不存在，现在已知的开发技术也无法开发出此类机器人。这种技术在未来数十年都不会出现，也许永远都不会出现。

与其担心人类遥远的未来，不如关心眼前更迫切的问题。人工智能确实将在10—20年给人类社会带来翻天覆地的变化。

在不久的未来，人工智能和机器人将取代全球范围内的普通职业和机械职业。我预测，从事翻译、保安、销售、客服、交易、会计、司机、家政等工作的人，未来10年将有约90%的工作内容被人工智能全部或部分取代。如果对全人类的工作进行一个粗略的估计，我的预测是，约50%的人类工作会受到人工智能的影响。与其担心末日来临，我认为我们有更急迫的任务：重新培训职业技能，重塑传统职业伦理，鼓励和培养创造性的工作能力，大量培训关爱型职业工作者和志愿者。

请相信我，人工智能不会取代人类。

人工智能时代，人类应该怎么学习才能不被机器淘汰？景芳在书中提出了自己的思考：人工智能与人类最大的差距，就在于不懂情感，缺乏对世界的常识和创造力。因此，她心中的理想教育，是要懂爱、懂世界、懂创造。

不久前，在主持人杨澜的新书《人工智能真的来了》发布会上，杨澜、景芳和我有一个对谈。谈到孩子的教育时，景芳的一番话让我深有同感。她说，每一个孩子都天生有好奇心，有创造力，有各种奇思妙想，对这个世界充满了爱。

是啊，正是这些特质让人类区别于冷冰冰的机器。人工智能再强大，也永远不可能拥有关爱与创造的能力。“阿尔法狗”虽然能击败世界冠军棋手，但是它体验不到下围棋的乐趣，胜利不会为它带来愉悦感，也不会让它激动到产生想要拥抱一位它爱的人的渴望。因此，未来我们应该推动人工智能向它所擅长的领域发展，同时做一些我们擅长的工作：创新、创造、社交沟通或者娱乐。

景芳是一个文武双全的才女。她既是一位优秀的科幻作家，同时也是社会政策研究者。清华大学博士毕业后，她就在中国发展研究基金会从事贫困地区儿童发展项目和政策研究。她还是一个3岁女孩的妈妈。工作带给她的前瞻性预测，和对女儿未来成长的忧患，最终促使她采取行动。今年，在新书创作之余，景芳跟我谈起她发起了一个创业项目——童行计划，找到有共同志愿的人，创造出面向未来的优质教育内容，再把这样的教育内容分享给更多的孩子，教孩子学会爱，具备情感沟通、综合看世界的能力，用科学的视角理解这个世界的种种存在，以培养其真实的个性和发自内心的创造力。

衷心祝愿景芳的新事业顺利，也祝愿每一个孩子，都能在成长中永远保持并不断激发好奇心、创造力、批判性思维和独特个性，在人工智能的时代获得基于人性的成长环境，活出自我的价值。

李开复博士

创新工场董事长兼CEO、创新工场人工智能工程院院长

前言

何为人之彼岸

这本集子都是关于人工智能的。

有六篇小说，两篇科普讨论。

六篇小说都是关于人工智能的可能性，从程序应用，到人形机器，再到超级智能。小说的安排顺序，大致上（虽然不一定完全）按照时代推移，按人工智能的发展可能性，由最近向最远推移。其中有推导，有想象，也有相当任意的设定。

其中，在《永生医院》中，我感兴趣的问题是人的身体和身份的关系；在《爱的问题》中，我讨论的话题是，用外界的指标衡量，人工智能能否理解一个人的内在情感；在《人之岛》中，我追问自己有关完美与自由之间的冲突问题。每个故事都是我的疑问。

两篇科普讨论，用比较简单的语言，给不太了解人工智能技术的人讲一讲人工智能，又加了一些我自己的思考和讨论。我并不想自诩为行业专家，也没有试图完全还原人工智能的发展史，而是尽量想用普通人能听懂的话，聊聊大家平时感兴趣的话题：人工智能会发展成什么样？它们是万能的吗？它们会毁灭我们吗？人工智能时代来临，我们该怎么办？我们的孩子应该怎么办？

为什么我对人工智能话题感兴趣呢？

分外在和内在原因。外在原因是这个话题近两年太火了，到处都有人议论，难免会听到、看到和参与各种探讨，也常有人找我写相关领域的故事，久而久之，就积累成了这本集子。

而内在原因是我对人类思想的兴趣。我从很久很久以前，或许是高三时，就对人的意识和人脑运作方式感兴趣。我一生的偶像是薛定谔，他对人脑思维运作的描述，至今仍然给我很多启发。从本科到现在，人类思想和意识的问题一直是我所有感兴趣的问题中的皇冠，我曾经说过它会是我写作的母题。但这个问题太大，又太难解，以我粗浅的知识，终此一生，可能仍只是在它的外缘兜兜转转，从不同侧面描述某个细节问题。AI（人工智能）问题是我对人类意识问题兴趣的延伸。因为对人有兴趣，所以对AI有兴趣。通过对AI的理解，从而更好地理解人类。

我们很多时候都需要有对照，才能理解我们自己。

这个话题和一般人的生活有什么关系呢？

可以说，我最感兴趣的就是人类思维和人工智能思维的差别。但我知道，这不是多数人对AI感兴趣的理由。

大多数人对AI感兴趣，多半是出于两种原因：一些有关AI的影视深入人心，例如曾经的经典电影《终结者》，或者这两年很火的美剧《西部世界》；另一个原因是AI的发展速度，这两年的围棋大战以及日常生活中AI的应用，让很多人惊呼人工智能时代到了。

无论是出于对影视剧的好奇，还是出于新闻热点，我想说的是，人工智能和我们生活的距离真的没有那么遥远。这个问题完全不像是哥德巴赫猜想，或是引力波探测，后者只是科学家追求的真理，与一般人生活无甚关系。人工智能问题，除了有很强的学理价值，更有很强的应用。目前人工智能科技公司如雨后春笋，无论是巨头，还是新兴创业公司，都在争分夺秒，想把自己研发的人工智能产品应用到市场上，也就是应用到每个人的生活里。

我们现在已经在面对无数人工智能。从导航软件，到产品的智能推荐，再到自动客服，人工智能在后台做了许多事情，让我们从前没想过的事情成为可能。我们生活在它们默默的服务中，在不知不觉间，可能周围的全部世界都已经被其环绕。

如此深入生活，怎能不有所了解。

对人工智能的讨论，最热的话题无疑是两个：人工智能会不会毁灭人类，以及人工智能会取代多少人的就业。

对于第一个问题，我在科普文章《离超级人工智能到来还有多远》中有一些讨论。总体而言，我觉得人工智能会变得非常强大，但这并不意味着它们会毁灭我们。它们的威胁性其实和原子弹一样：能毁灭所有人，但按钮掌握在人类手里。最有可能出现的不是它们毁灭我们，而是我们毁灭我们。

对于第二个问题，其实我在《北京折叠》中有所涉及。《北京折叠》是四年前的作品，讨论的是当机器大量取代工人，冗余的劳动力如何生活，小说给出的黑暗解法是：把多余的人们折叠进夜里。现实中我自然不希望看到这样的事，于是一直非常关注这方面的问题。

国际上有一些评估，好几项权威研究都得出大致相似的结论：在未来20年，现有工作的一半左右都会被人工智能取代。国内尚没有这样大型而完整的报告出炉，但据我了解，有几项研究正在开展，估计明年会陆陆续续公布评估结果。如果在短时期就有大量工作被替代，而被替代的工作者又不能快速找到新工作，那就有可能造成显著的社会冲击，无论对福利，还是对社会稳定，都是挑战。

对这个问题我在前言里不展开讲，在全书的最后一篇，《人工智能时代应如何学习》中会有所探讨。人工智能时代，对于每一个普通人来说，可能最重要的就是两点：了解它们，了解我们。只有了解它们才可能与之同行，只有了解我们自己，才能知道人类有什么优势。我们要回到对人本身的信仰，以人为理想，才能在未来拥有自己的空间。

我发起了一个儿童教育项目“童行计划”，就是想要对人工智能时代的教育做一些尝试。不是教人工智能编程，而是希望启发和促进孩子特有的智慧。我希望每个孩子长大的时候，都有充分的准备，与人工智能同行。童行计划也会做很多公益教育，让理念普惠推广，我们不想让任何一个孩子被折叠进黑夜。

“人之彼岸”的意涵其实很简单：

人在此岸，AI在彼岸，对彼岸的遥望让我们观照此岸。

科幻故事

你在哪里

1

任毅觉得，没有什么比在路演之前接到素素的电话更令人头疼的了。

他坐在会场外，心中纠结要不要接。会还有三分钟就开始了，据说姜总已经到楼下大堂，马上就乘电梯上来了，而他的商业计划书也已经反反复复过了很多遍，在