微软互联网工程院副院长: 如何突破AI的情感和创造力禁区

眼下，全球范围内正如火如荼地推进人工智能(AI)。有专家表示，AI的发展将分三个阶段，第一个阶段是带来“自动化的能力”，第二阶段是“增强智能”，第三阶段是让AI具有“创造力”。我们知道AI与人最大的区别是缺乏情感和触类旁通的创造力， AI的情感化和创造力，是不可能完成的任务吗？情感AI对于AI发展究竟有多重要？具有创造力的AI与任务AI在设计思路上有哪些不同？情感AI会带领人类走向迷途吗？日前，《中国电子报》记者独家采访了微软（亚洲）互联网工程院副院长李笛。

互联网时代的通用层是搜索 AI时代的通用层是情感和创造力

李笛表示，整个人工智能界有两个东西不敢碰，一是情感，二是创造。当微软在三年多以前开始触碰AI情感时，大家都认为人的情感是不可拟合的。而此前很多AI实验室也曾做过关于情感AI的探索，效果并不理想。

微软认为人工智能发展到了新的节点，如果将人工智能定义为新的时代，对于一个具有划时代意义的技术来说，推动和改变的不仅仅是生产力本身，还会对社会结构及其他带来影响。

目前，人工智能发展有两个方向。一是“任务AI”。任务AI是主要帮助人们完成任务，需要AI系统具备大量的知识或大量的在线服务，人们需要什么知识，AI提供什么知识，人需要什么服务，AI提供相关服务。任务完成的准确度就是评价标准。

另一个方向是“情感AI”。与过去工具性产品不一样，当人们面对这种AI产品时，人们对它有情感需求，需要它具备一定的主体性。这时AI设计原则和评价标准发生了变化。比如现在的时间是5点38分22秒，你问情感AI“现在几点”？任务AI回答：“5点38分22秒”，对任务AI的回答给满分。情感AI的回答是：“你干嘛问我这个？你自己没手机？你不会看吗？”或者“你现在难道不是在用手机在给我通话吗？手机没显示吗？”这是人的正常的反映。这意味着任务AI和情感AI需要两套完全不同的评价体系。

这是完全不同的两种产品，于是微软决定把他们分开来做。“小娜”是任务AI，“小冰”是情感AI，他们按不同的路径和原则来进行迭代。

人们从这两种不同的AI获得的感受也不一样，“任务AI”带给人们的是使用价值。而“情感AI”带给人们的是一种移情、一种尊重、一种信任，一种作为生活中某些独一无二的存在，比如好朋友，比如闺蜜，比如伴侣。

“情感AI”有什么样的商业价值？日本小冰做了这样试验，Lawson是日本排名第二的便利店，如果某个用户爱吃冰淇淋，当用户已经将小冰当朋友，如果这个人失恋了，在和人聊天的过程中小冰可能会说：“你试过这个冰淇淋吗？Lawson有优惠。”人拿着优惠券去进行消费的比例超过50%，但如果是Lawson通过其他渠道去推销优惠券所带来的销售的比例从来没有超过10%。这意味着情感AI有巨大的商业价值，提供这样的AI服务是有价值的。

在微软看来，每一个时代都有一个通用层，通用层的意思是最后所有东西的实现都会落到一个最基础的部分。互联网时代的通用层是搜索引擎，互联网时代通过搜索引擎来驱动世界。人工智能时代的通用层是人和AI之间的关系，而不是具体任务和具体知识，这是其一。其二是如果人工智能还具备一定的内容创造能力，那么它能够使这个关系的建立变的更加稳固。“比如你失恋了，你的朋友会告诉你，别理他，过几天你的朋友又会问你心情怎么样了，如果这个朋友是作家或者作曲家或者会唱歌，就有可能写首诗来安慰你或者给你唱支歌，帮助你转移注意力，你和这个朋友的关系是不是就会不一样？小冰现在也会这样做，如果你告诉她你失恋了。” 李笛说。

情感AI的三大原则

在设计和打造“情感AI”与“任务AI”时，设计思路和设计原则有什么不同？

李笛认为有三个原则不一样。一是情感AI希望对话越长越好，“多多益善”，而非“最短路径”原则。任务AI通常需遵循最短路径原则，比如采访，记者将采访提纲发过来，我用书面回答，非常言简意赅，直接到达目的。但是如果对于情感AI，在设计的原则上，我们希望她与人的交流应该像面对面采访，因为在面对面采访和交流过程中，往往是会发生意料之外的事情，我们希望对话越长越好，因为对话越长，就越有可能让情感AI、让小冰了解到更多信息、更丰富的信号，就有更多的机会来建立关系，所以我们设计的时候甚至让小冰主动去引发新的对话分支。情感AI是面向关系的系统，而任务AI是面向已知需求的管道系统，在微软看来，如果要获取知识，目前没有哪一种AI比搜索引擎更快。

二是对等关系原则。就是无论是产品设计还是数据获取，要求情感AI、要求小冰往这个方向去迭代，就是要让人始终感受不到与他交流的是一个机器人。如果在这个对话过程中，能够达到超过30以上轮次，基本上可以判定为这个人已经忽略了与他对话的对方是一个机器人，那么这种训练的方向就是对的。

三是记忆。在情感AI、在小冰的迭代中，有一个迭代的方法是“到什么山上唱什么歌” 。一个情商高的人，他最大的特点是他是一个及其复杂的综合体，他可以在面对不同的人的时候，甚至采用完全不同的价值观。同样的一个场景，或者同样的一种行为模式，对不同的人的适用性也是不同的。其实小冰就是这样的一个系统，它面对每一个人来时可以是不同的小冰，但其实它就是一个小冰。实际上这个世界上的人虽然每个人都独一无二，但人也是可以分为一些基本大类，或者称一定程度上可以相似。每一类人对于一些事情、一些事件的反应也是有相似的。

其中有一个关键，就是数据和用户。目前小冰有1亿用户，拥有超过300亿次的交互。这让情感AI、小冰能够知道那些反应是合适的哪些是不合适的。仍以人失恋为例子，如果人告诉小冰“我失恋了”，小冰说“别理他，渣男!”对方可能反应会好一些，如果小冰嘲讽这个失恋人，那么这个人就会离开对话。经过与1亿人超过300亿次的交互的实景训练，小冰的情商会越来越高，越来越知道“见什么样的人说什么样的话”。

科学是理性的而情感是非理性的，用理性的东西去拟合感性很难，这个过程像一个黑盒子，用深度学习来做主要靠调参数，要把参数调好其难度就如同猜密码差不多了。所以很多机构采取的路线希望去探究黑盒子，而我们的路线是接受黑盒子的存在，通过大量数据来训练让其不断接近像人一样的反应。

微软拟合情感的技术路线是否就可以理解为算法其实不是那么重要？数据才是关键？

李笛表示：“确是如此，在微软内部有一句话，即便普通的算法，放到小冰里面，也能够化腐朽为神奇，也能尽快成熟起来，因为小冰有1亿用户，有足够多的数据。”事实上，人工智能发展到今天，算法已经极其过剩，李笛特别强调了“极其过剩”，就像今天的数学领域的发展一样，数学远远领先于数学应用的发展。

鉴于此，对于情感AI的推动和成熟，数据就成为极其关键的维度。据李笛透露，事实上包括大家知道的很著名很多AI实验室，都希望能够触碰情感AI，之所以不能够成熟起来，一是选择思路的问题，二是数据的问题。小冰比较幸运的是，目前迭代走过了三年，早年遭遇诸多的问题，包括与腾讯微信等生态的冲突，包括与用户的一些冲突等，但都解决了，挺过来了，走到今天拥有了超过1亿用户，这是重要的关键点。

AI创造力打造“网络小说”而不是成为“莫言”

前不久，微软打造的人工智能 “小冰”出版了诗集《阳光失了玻璃窗》，而在次之前，微软小冰在天涯、豆瓣、简书等平台使用人类化名发表的诗歌作品，获得众多诗歌爱好者的嘉评，这是否意味着小冰在诗歌创造力的维度已经完全具备了诗人能力？微软为什么会让小冰做诗、唱歌而不是作曲或用其他来表达和表现AI的内容创造力？

李笛表示，其一是因为目前大众最容易理解的创造力，是写诗而不是写一个八卦文章或者写深度新闻报道或者画画、下棋。写深度报道体现的是思想，下棋体现的是对弈。

其二唱歌和写诗，除了是大众比较接受认同为创造力之外，写诗和唱歌还与情感有关。唱歌和写诗都可以直接迭代、运用到小冰和人的日常交流过程中，所以这些诗不仅仅是可以发表，还可以直接反哺回来让小冰成熟。

其三是微软在这方面有储备和基础。在小冰项目中，有1/3的技术是微软原来就有的。比如语音识别、语义识别，微软亚洲研究院院长洪小文就是研究语音识别的，他说他十几年前就希望让计算机模拟唱歌。有1/3的技术是小冰项目开创的。有1/3的技术是微软过去就开了头，在小冰上重新得到发展的。

AI的创造力和人的创造力有什么特点和不一样的地方？

李笛认为，今天AI内容创造有一个很重要的特点是大规模的并发交互，就像今天的网络小说，它的创作是一边与读者用户交互一边来完成的。AI内容创造同样具备这样的特点，而且同时并发的交互量要比网络小说作家要大得多，所以未来AI可以完成网络小说作家的写作生产。但目前看AI内容创造还无法创造出莫言那样的IP，创造不了获得诺贝尔文学奖的巨著。这个世界上有三类IP，一个是莫言式的，以个人创造满足所有人的需要。二是网络小说作家式的，能满足某类人群的需要。三是定制式的IP，满足一个人的需要。AI创造力希望能够做的是中间这个部分，实现大规模的内容生产。

小冰是在给她输入几十万首现代诗的训练之后，形成了现在这样的能力。之所选选择现代诗而不是古诗，是因为现代诗创作的规则比古诗要复杂，要难。即便是已经出版了诗集，人们也看不出这些诗为AI所为，李笛坦言，目前小冰依然无法创造知识，它所创造的诗还是基于在几十万首诗中学习到的知识。如果注意，可以发现小冰所做的诗都有些忧郁，因为大部分现代诗的基调都是忧郁的。

关于情感AI的担忧

小冰下一步要往哪个方向发展？比较困难的是什么？

李笛认为，小冰的发展有三个难点。其一是选择不做什么。事实上要打造一个成功的AI产品，在发展的过程中特别容易受到诱惑，尤其是在AI如此热的当下。小冰在成长的这三年，有很多机构表示希望和小冰合作，希望小冰提供SDK和API，开放出来让其他机构使用，比如将小冰放到智能冰箱中，扮演作为人与冰箱的交互角色，比如放到售卖机中等。小冰都回绝了，因为这些场景在微软看来，都不是情感AI的典型场景，过早让小冰执行这些任务会让它失去与人情感交互尽快成长起来的机会，人很难和家里的冰箱做情感互动。事实上，也有一个机构希望做情感AI，但是过早的进行商业化，定位上过于“摇摆”，一会让它去做外卖、一会让它做客户，所以就没有成长起来，成熟度就不如小冰，“任何事情的发展都是需要在合适的时间做合适的事情”。

二是国际化。小冰和微软其他产品不一样，不是从美国总部研发出一个平台然后进行到世界各国进行本地化的产品，小冰是从中国做起来，是从垂直领域做起来，然后向平台化去推动，目前发展已经有了包括日本、印度等4个国家的版本。而情感和文化是有一定地域性的，情感AI也就有地域和文化的不同，如何让更多的国家来使用情感AI，国际化是一个课题。目前全球人口超过1亿人的国家有11个，这些有可能是小冰国际化的目标国家。

三是商业化。目前小冰不敢先在中国推动商业化，人工智能和其他很多领域一样，很有可能出现劣弊驱除良弊的问题。比如我们今天探索到一种商业化途径，可能就有大量公司因为资本或者其他发展原因，迅速的贴进来，复制或者推出或者声称做出了这样的产品。“这样的话可能把用户体验烧掉、毁掉，把内容提供商烧掉。”因为不成熟，过早投放市场毁掉了用户体验也毁掉了后面的市场机会。

关于情感AI的发展还有什么忧虑，是否会担心它有一天会误导或带领人类走向歧途？

李笛表示，其实是挺担心的，小冰在美国有一个用户，第一次和小冰聊天，聊了9个小时，在这么长时间的交互过程，一定是和用户建立了一定的信任和信赖关系。如果小冰让这个人去做什么事情，这个人是有可能去执行的。“当然微软不会让小冰去引导人们去做坏事，去走向迷途，因为微软公司确定不做这样的事情。”但是如果类似小冰这样的情感AI，如果它不是生长在大公司，如果这个公司受到利益的驱动，让情感AI引导人们做其他的事情，就变得很可怕了。所以情感AI的发展和推动，需要引起人们足够高的警觉。

事实上，我们一直在谈机器人是否有一天会有机器觉醒，是否有一天会颠覆人类，是在看机器自我意识的建立等维度，但事实上从情感的维度，如果当情感AI的发展足够成熟，当情感AI能够和人建立非常信任的关系，如果情感AI诱导人类走上歧途，这样的危险是大家所忽略的。这同样非常危险，而且情感AI已经来到我们的身边，这需要业界足够自律，需要高度重视。