贾斯汀·卡塞尔：人工智能女王眼中的人类未来
“人工智能会拥有独立意识吗？”“人工智能会替代人类吗？”“人工智能会毁灭人类吗？”2017年的某个夏夜，我和贾斯汀·卡塞尔以及她80多岁的妈妈一起吃饭，应邀而来的一位科学家朋友，一口气向卡塞尔抛出三个问题，正在品酒的我，不禁哑然失笑。我把这三个问题称作“AI吓死你套餐”，每个人见到卡塞尔女王都会问。女王就是女王，应付这样的问题是相当自如。
“现在距离回答这些问题还太早。”一边喝着龙井茶一边回答的卡塞尔面带微笑，和蔼可亲。她拒绝任何耸人听闻的预言，也不卖弄高深的行业概念，而是巧妙地把话题引向她最擅长的领域：“当前人工智能发展，还有很多决定性的难题没有突破。其中最重要的一大难题，就是语言与沟通。”语言与沟通，正是这位“误入”人工智能领域的女科学家，倾其学术生涯研究的核心问题。生于1960年的卡塞尔，现任卡耐基梅隆大学计算机学院副院长，也是世界经济论坛（WEF）未来计算机全球未来理事会主席。因其在人工智能领域的卓越贡献，她在2011年被任命为世界经济论坛人工智能委员会主席。但你可能想不到的是，这样一位人工智能领域的重量级专家，却并非计算机专业出身。
她在完全不同的领域学习，不断拓展知识边界。少女时期的她，只身前往法国，获得了贝桑松大学普通大学学业文凭。而后，她在达特茅斯学院主修比较文学和语言学。1986年，卡塞尔获得爱丁堡大学语言学硕士，1991年获得芝加哥大学语言学和发展/认知心理学双博士学位。卡塞尔告诉我，当时芝加哥大学一再强调，从来没有人同时读这两个不相关的专业，但是她坚持要开拓历史，特立独行，保证自己可以承受压力。结果，她真的成为芝加哥大学第一个跨语言、心理领域的双博士。在一次交流中，我无意间提到自己很想在40多岁时去美国读一个完全不相关的物理学学位。不过，对这样一个“空想”，我并没有什么信心去实现。卡塞尔却立即严肃地对我说道：“永远不要给自己设限，永远不要说自己做不到什么。如果你想做，就去勇敢地尝试，因为最终你一定会成功的。”在卡塞尔看来，自己的这种坚持，很大程度上受她妈妈的影响。卡塞尔的妈妈今年86岁，但看起来只有50多岁。
妈妈认真生活，每天划船和跳舞两个小时；妈妈认真恋爱，有一位比自己年轻很多的异性知己；卡塞尔的妈妈是美国人类学专业历史上第一位女博士，一生独立、自信，追求自由和个人解放。这些都深深影响着卡塞尔的人生和职业选择。“最初，我确实没想到自己会和人工智能有什么交集。”卡塞尔向我回顾她的整个学术生涯，她最初的研究是人类对话与故事叙事。但各种机缘巧合，她开始对有计算机系统参与的对话发生了兴趣。她试着解构人类语言与故事叙事中的各个元素，将其中的范式规律编入程序。“这是非常有意思的研究，能让计算机像人一样与人交流。刚开始，它们说出的话可能很奇怪、很滑稽，但它们学习的速度超乎我的预料。”从人类间的对话到人机对话，凭借着语言学的深厚造诣，卡塞尔一路成长为自然语言处理领域的世界级专家。她的第一份工作，是在麻省理工学院任教。卡塞尔在执教的同时，也负责麻省理工学院媒体实验室的姿势与叙事语言研究小组（Gesture and Narrative Language Research Group）的工作。后来她又在全美排名第一的计算机学院担任副院长，在达沃斯世界经济论坛的平台上，和各国总统、总理、部长们侃侃而谈。她的研究领域，是自然语言处理，是让机器理解并解释人类写作、说话方式的能力。这门学科处于人工智能、计算语言学和计算机科学的交叉领域。它的目标是让计算机在理解语言上像人类一样智能。最终目标是弥补人类交流（自然语言）和计算机理解（机器语言）之间的差距。微软公司曾提出一个口号：“自然语言是人工智能皇冠上的明珠。”而由于多年在人工智能领域的真知灼见，和真诚、执着、一以贯之的价值观，卡塞尔被人们称作“人工智能女王”。卡塞尔的研究，深入人机互动最前沿——人形对话代理（ECA, Embodied Conversational Agent）。
这项研究成果解构了人类对话的语言元素，并赋予机器语言对话、叙述、社交等人类智能。这些虚拟人物，可以通过语言和非语言与人交流，其界面包含语言、表情、手势、体态等模块。卡塞尔最感兴趣的，是将人形对话代理应用于儿童教育与发展。这些应用往往有着非常强的开创性。例如故事倾听系统，通过一个虚拟的“朋友”耐心地倾听及互动，帮助有需要的孩子学习语言和叙事。
当下，自然语言处理的发展突飞猛进。我们可以对着手机“调戏”苹果siri，在社交网络和微软小冰对话，向亚马逊Alexa发号施令；到了语言不通的异国他乡，也能依靠各种实时语言翻译软件与当地人沟通交流。但这些人工智能在日常生活中的初步应用，仍然无法完全达到人类的期望。Alexa在没有指令的情况下会突然无缘无故发笑，微软机器人Tay在Twitter上变成了种族主义者。人与人的交流理解都并非易事，人机之间的隔阂则更是深远。这样的鸿沟应该如何打破？人工智能究竟会怎样改变我们的未来？我迫不及待想听听，“女王”到底怎么说。
只打造与人合作的人工智能
问：你为什么会从语言学转移到人工智能科学？契机是什么？
答：人类语言是一门复杂的学科。在进入这一行之前，我是教语言学和法语的。但同时教这两门学科太难了，所以我干脆修读了计算机，然后尝试着把计算机和语言结合在一起。在早年学习的过程中，我对人类对话和讲故事的能力产生了兴趣。后来在研究中，我设想，一旦让机器拥有了类似人类的能力，它们就能被用来唤起人类所能拥有的最好的沟通技巧。所以我的目标就是：开发能唤起人类最人性的能力的技术，并研究它们对人类世界进程的影响。
问：目前，自然语言处理（NLP）和机器学习（ML）无疑是人工智能最火的两个领域。前者坐拥社交这一巨大的市场，后者的代表“阿尔法狗”在围棋游戏中所向披靡。你怎么看现状？
答：长期以来，人们普遍听到的新闻都是人工智能在棋类游戏上战胜人类。但在更多人看来，现在的人工智能并没有朝他们期望的方向进步，因此人们的热情在最近开始消退。但随着深度学习的发展，更多商业落地应用出现了，这点燃了人们的想象力。比如在语音识别、图像识别和自然语言处理领域。脸书可以识别照片上的面孔，亚马逊的智能家电能够参与到人的生活中，各种智能翻译软件越来越普及。过去几年，深度学习颠覆了以往的语言处理技术。我相信我们正处于机器算法的黄金时代。比如，永不停息的语言学习者内尔（NELL）能不断地阅读网络，每天都学习如何比前一天更好地阅读。它正在形成有助于它理解世界的基础，而这反过来又帮助它阅读和理解更多的网络。它基本上是把一个非结构化信息转化成结构化信息。内尔可以与IBM的沃森相比。所以说这两条路是交互的。但两者都面临同一个问题：那就是数据的来源。我们知道机器学习是需要大量数据的。比如你建立了一个可以识别金融术语的语音识别系统，然后有人突然说我喜欢棒球（包含棒球术语），这个系统就不起作用了。因此，拥有数据意味着拥有战略上的优势。很多企业来找我，希望我们提供咨询服务，作为回报，他们会给我们几十万的数据节点，这个数字跟金钱一样让我很开心，因为通过数据可以更好地了解人类，可以创造更好的软件，让更多的人快乐。
问：很多人还是会对现在人工智能的发展感到恐惧。你如何看？
答：很多人，包括霍金、马斯克都担心人工智能会毁灭人类。但我认为这种担忧本质上是一种道德恐慌。历史告诉我们，随着技术发展，人类会被迫面对一些问题。技术可能只是我们更深层次的恐惧的焦点，因为我们担心是否做出了正确的选择，并创造了真正想要的未来。我自己的态度是——绝不允许人工智能独立于人类工作。我只打造与人合作的人工智能。人工智能的发展会提高各行各业的生产力。有些职位将会被这些机器人取代。然而，我们可以预测机器人将越来越多地与我们合作，而不是取代我们，从而使人类更聪明、更高效。因此，机器人和其他人工智能形式如何与我们互动将变得越来越重要。
问：但更多人将失业，对吗？
答：我不会说一点问题也没有。毕竟，谁也不知道人工智能是否会为人类创造足够多的新工作。而且，我们将越来越多地需要应对道德挑战，例如那些军用无人机可以自主识别并向敌方目标开火，并不需要人工干预；还有，人类将不得不持续平衡社会安全和个人的隐私权之间的关系。因为人类往往无法界定自己想要什么，所以确保人工智能在不带来意外后果的情况下造福人类很难。因此，未来最有价值的技术点在于如何让人工智能和人类进行联合，使人类更加强大，又能和机器共生。所以，我们必须要知道人工智能和人类应该如何协作，这也是我自己研究的重点。我相信，未来，每一个灯泡可能都在观察和学习；人和计算机的互动将走向极简，因为计算机就像人一样，有自己的行动和反应；同时又有无限搜索能力、无限的知识、思想模式和运作规律。通过人机关系的加强，机器可以和用户建立起更好的关系、更强的共识、更和谐的相处模式。
展望人工智能产业化
问：对于企业来说，机会在哪里？
答：对于人工智能可以给企业带来新的商业机遇，我认为有三点新的模式。第一点是个性化服务。人们担心人工智能对隐私的挑战，所以我们要求的并不是决定这个人需要得到什么，而是鼓励人们行为的改变，并据此制订出个性化服务方案。第二点是物联网和可穿戴设备。这在美国已经有了很多研发成果，我认为未来在中国也一定会是发展方向。第三点是智能制造业。人工智能已能为制造业，比如智能卡车行业提供系统化的解决方案。
问：当下，聊天机器人应用成了社交媒体的热点。但很多人用过以后都觉得现在的人工智能确实不够智能。你认为呢？
答：确实如此。现在人们对人工智能的需求已经不只是语言上的理解了，很多人希望从聊天机器人中获得情感的反馈。这也是我研究的方向。我认为未来人工智能最有价值的技术点有三个方向：信息聚合、评估用户情绪与反应、与用户建立关系。我见过一些很好的案例。第一个是使用人工智能来了解你的情感，判断你的健康状况是怎样的，为你提供更有针对性的信息，让你获得最好的帮助。第二个是建立一种关系，在系统和用户之间建立关系，所以他做的不仅仅是定制产品，同时还会根据互动做相应的调整。例如我和学生2017年做的一个机器人系统，当它面对客户时，它会观察你，然后开始搜集数据。它会研究你的微笑，你眼球的动向，另外它会观察你使用的语言。它有一个反馈推荐系统来选择机器应该使用的沟通技巧，它是不是应该表扬你，比如说“你真是让我出乎意料”，还是选择调侃你，它会在跟你互动的过程中获取信息，学习理解你的交流模式。这是会进化的机器人。在未来10年里，我们的手机会在更深层次上理解语言，它将直接回答我们提出的问题，而不是简单地列出我们认为有用的网页。
问：现在很多搜索引擎已经能根据偏好进行自动推荐，这也是人工智能的发展方向吗？
答：是的，这就是我刚才说的信息聚合方向。我想在这一方向，人工智能领域未来将呈现出四大新趋势。第一是人工智能已经能够根据用户的需求或者喜好精准推荐文章，未来人工智能将会继续研究如何提供更加个性化的服务。比如，某一篇观点性文章，人工智能能够记录下用户是完全阅读还是只阅读了一半。这是第一个趋势。第二个趋势是评估用户对文章的情感和反应。未来人工智能要建立更多的用户数据，分析他们在不同情况下的不同表情和情绪。如果人工智能技术能准确反映用户的情绪，就可以看到用户对网络广告的态度究竟是积极的还是消极的。第三个趋势是生产和交付的新模式。人工智能在聚合大众的同时，需要把不同的观点融合到一起，不能存在偏见。人工智能技术需要更多不同类型的人参与其中，才能具有新的创意和创造力。最后一个趋势是，人工智能让媒体与用户建立起更加持久的联系。媒体将新闻传递给每家每户每一个人时，每一个人收到的内容应该是不一样的，同时能够确保每一个观点都能够得到不同受众的认可，不仅可以听到官方的观点与信息，还可以听到大众的观点。让用户觉得有人懂自己，从而建立起长久的联系。这种情况目前来看只能通过人工智能来实现。
女孩，科技帮助你们打破玻璃天花板
问：当你和其他全球人工智能的男性领导者们坐在一起探讨或者接受采访的时候，你会觉得自己是特殊的吗？
答：我参加了很多会议。大部分时候，我认为自己和其他男性嘉宾一样。至少我们同样微笑。当记者问我是不是因为我是“女性”才从事人工智能社会方面的工作时，我也学会了忍受这些有着性别偏见的问题。但考虑到这样的问题比较常见，我想出了一个应对策略，通常我会这样回答：我想这可能是因为女人已经打破壁垒成为计算机科学家，这让我们更容易打破界限，做一些跨界融合且激动人心的工作。
问：但是计算机科学这个领域，女性的参与确实会相对少一些。
答：是的。当孩子开始玩游戏时，就有“女孩的游戏”“男孩的游戏”的区别。电脑被视作是男孩的“玩具”，而真正的女孩子是不玩电脑的。此外，擅长玩电脑的男孩，经常会被标上“书呆子”“怪人”的标签，女生往往对这样的标签非常恐惧。换句话说，人们对“计算机科学家”的刻板印象，与对“女性”的刻板印象是矛盾的。有些人认为女性不够坚强，不能成为计算机科学家，或者认为强硬的女性、电脑科学家不够女性化，不能被接受。这些偏见难以避免。和创新的规则一样，使用原型处理世界会更容易，人们总想把我们看到的东西归类到我们已经拥有的类型中，而不是重新看待事物。我们该怎么办？经常谈论这个现象很重要。这不是孤立的问题，女性的玻璃天花板就在那里。唯一的问题是，你是要逃避现实，还是继续专注于喜欢的工作，不管这些偏见。
问：你认为做些什么能够帮助全世界的女性打破这个天花板？
答：我希望帮助更多的女孩进入计算机科学的领域。比如我曾经设计了一个网络系统——“Renga，网络故事”，以帮助吸引女孩进入科技、计算机和语言学领域。打破玻璃天花板需要我们解决那些阻碍女性回归职场的问题。要做到这一点，我们需要让更多的女性获得政治决策的位置。
中国和创新
问：这些年，中国对人工智能的研发和投资发展很快，有一些人甚至认为中国在人工智能方面已经成为领先国家。你认同这种说法吗？
答：也许5年前，中国还不被认为是人工智能的主要力量，但今天，每个人都认识到中国人工智能的发展对世界非常重要。当下的人工智能技术中，最强大的部分是计算机视觉、自然语言处理、推荐系统和网络安全等。自然语言技术是人工智能的核心之一，它的发展离不开中文。所以，中国的人工智能技术可通过产品、算法和数据集来应用到庞大的国内市场中去。7亿多网民带来的规模效应，一直被认为是中国最为明显的优势；但令人意外的是，中国在保护公民隐私方面宽松的法律环境，也是一个巨大的优势，尽管这听上去是一把双刃剑。中国网民构成了一个巨大的试验场，一些初创公司也得以利用庞大的数据库来发展机器学习，大量的数据又可以支持这些机器进行算法学习，达到相同体量公司在美国无法企及的高度。
问：对中国科技企业的创新，你有什么建议？
答：7年之前我曾与一位非常富有的中国风投家对话，他告诉我中国人总是喜欢“山寨”，不擅长创新。然而今天，我觉得不会有人还持有这种观点。现在在中国，像阿里巴巴、腾讯、百度等众多公司都是革新者。我们要相信中国的科技可以在人工智能支持下迅猛地发展。另外，中国可以进一步发展传统行业，激发中小企业的活力，同时还能够拥抱一个美好的未来，创造一个创新的未来。中国的传统企业在和数字化结合的过程中，可以创新的空间很大。但是要注意，我们要理解什么叫作真正的传统企业创新。如果仅仅是把传统产业的产品放在淘宝上卖是不够的，我们必须能够开发新的方法去创新。现在每个行业都在变化，甚至行业之间的界限也正变得模糊，比如3D打印和机器学习结合在一起，物联网将制造业和信息结合在一起，可穿戴设备将制造业和身体结合在一起。因为新材料和其他领域的创新，我们可以有更强的计算能力。例如我们已经不需要用硅生产晶片；不断发展的大数据和算法，使我们计算的能力更上一层楼。又例如手机的推广，带来了崭新的模式。人就好比网络中传感器的节点。每个人都有一个手机，你可以用手机获得或者传递信息，手机上面有定位系统，还有一些APP，这些技术都可以用在无人驾驶上面。例如无人驾驶车辆通过定位能够到达目的地，但同时也需要一些与无人驾驶车辆通信的道路基础设施，使汽车能够知道彼此的位置。当然我们也会遇到一些障碍，我们把带手机的人作为一个节点，你的地点被泄露了，这就涉及隐私问题。还有一个问题是在创新中如何能够保持人情味。比如中国有几个共享单车企业，是相互竞争的关系。共享单车的模式很好，但企业并没有思考过对公共资源的占用会带来道德问题，例如有些人把自行车到处乱丢，这背后其实有公共道路资源如何分配更公平的问题。我们把创新放在这些道德问题之前，就会带来一些混乱。中国始终是强调人际沟通的社会，在创新的过程中要保持这样的传统。
问：那么创新的来源是什么呢？
答：这是一个很好的问题。我也经常问自己，我们怎样做才会有更好的创意呢？就我个人而言，思维的碰撞可能会让我们更好地做到这一点。在卡耐基·梅隆大学，我们的团队有来自各个国家不同的成员，每个人都有不同的背景。他们所有的想法聚集在一起，总能产生更好的创意。我们在美国做了一个实验，一群无法正常使用手臂的障碍人士，有老有少，有不同的种族背景，把他们聚集在一起设计3D打印的假肢，并在网上销售。他们提出了很多我们没有想到的新的生产模式和分销模式。
问：要说创新，其实最核心的还是人。说到底，似乎都会变成一个教育的问题。
答：你说得很对。现在中国的创新速度非常快，也有很多优秀的教授。留住这些人才，是很关键的一点。还有一点就是，我们要注意儿童教育的问题。人类的创新可能在5岁孩子中就存在了。我们必须从小学就开始让孩子们去创新。创新的根其实是在好奇当中的。孩子的好奇心就是一种能力，有时候我们忘记了好奇心的重要性、探索的心理还有犯错误的过程。而在高等教育阶段，我们要鼓励学生们不断地尝试，不要惧怕失败。我们不要以分数去限制他们，我们要让他们觉得失败是可以忍受的。许多学生在进入大学时非常惧怕失败，要让他们认识到失败并不是一切的结束。
问：人工智能可否在创新教育中发挥一些作用呢？
答：当然！例如我们可以用人工智能发现优秀的学生和不够优秀的学生的特点，使最慢的学生不再落后，最快的学生不再无聊。这对于教育是非常重大的转变，个性化教育可以提升孩子们的学习体验，不仅让他们更好地掌握认知技能，还可以更好地掌握社交情绪技能。工作和沟通方面也有新的模式。有的企业在很多国家有运营团队，比如微软。这些企业的员工必须知道如何与其他来自不同背景的同事合作，这种合作能力可以通过人工智能来培训。
终极之问
问：所有人都在说人工智能会改变人类。在你看来，它会怎么改变人类？全新的模式可分成五个层面，即新的生产模式、新的教育模式、新的工作和交流模式、新的传感器模式，以及新的城市模式和出行模式。
答：我认为人工智能给了我们一种全新的模式，去了解这个世界。有了更强大的计算机能力、新的芯片范式、新的工具和更强有力的设备支持，计算机的算法不断升级，自动收集大量的数据，整合形成全新的模式，从而真正做到对社会经济的促进。人工智能可以帮助我们产生很多数据，这些数据是很重要的。未经处理的数据，就像撒在地上的面包屑。人工智能可以帮助我们处理这些数据，让它们不会变成无用的面包屑。
问：所以，在你看来，我们的世界会变得更好吗？
答：我相信会更好，但这一切肯定离不开更多人的共识和努力。
对话手记
自2016年在西二旗的某重庆火锅店初次餐叙后，我和卡塞尔成了非常好的朋友。我们曾一起在全国各地拜访政府领导、企业高管和优秀的科学家群体。和我喜欢的很多智者一样，卡塞尔也对人工智能的未来充满信心——因为她对人，有信心。但在这次交流中，卡塞尔提到的一个细节，却迟迟盘桓在我心头。当我们谈到中国的互联网企业何以后来居上时，一方面她提到中国7亿之巨的网民就是最大的财富。
这让中国的互联网成为巨大的试验场，可以为初创公司提供无穷的商业机会和庞大的市场；另一方面，因为一系列法律法规和隐私保护的缺失，互联网公司可以通过极其便利的渠道，从这个庞大的市场获取各种想要的数据——这在欧美许多国家是难以想象的。她承认这是把双刃剑。但另一刃的杀伤力究竟有多大，却让人难以预见。在缺乏充分的隐私保护的情况下，当下很多人最直观的感受，可能还只是各种骚扰信息的“精准投放”。但可能被“精准投放”的，还会有更多的诈骗信息、政治谣言。
我们无法察觉到自己的什么信息会以什么形式被采集，究竟会被如何使用。身份信息与行为信息被高度集中，在充分掌控、分析数据的人工智能面前，我们都是毫无保护的透明人。我丝毫不怀疑卡塞尔对人工智能的判断。机器对数据的学习，将让它们更好地了解人类。当那些掌握着这些机器，也就是掌握着技术、数据的资本与权力更加了解人类后，要做的究竟是什么？它们既可以因为更多的了解，而为人类创造和提供更好的服务；也有可能因为更多的了解，而实现更好的操控。我们始终面对的敌人，不是技术，不是人工智能，而是没有规则、底线约束而有充分能力操控技术的资本与权力。如卡塞尔所言，人类的社会确实会越来越好——但需要我们人类，更加地努力。
赞(6)
