朱旭峰

清华大学公共管理学院教授、院长，清华大学科技发展与治理研究中心主任，清华大学人工智能国际治理研究院科技治理方向首席专家

  //  

【专访嘉宾】

清华大学公共管理学院院长  朱旭峰

【论道专访】

科技创新：改变世界的力量

《论道》：朱院长，欢迎您。我们今天的主题是科技的力量。您这次来到博鳌亚洲论坛有没有什么新的感受？有哪些关心的议题跟我们分享一下？

朱旭峰：今年是疫情放开以后，第一次在线下召开博鳌亚洲论坛，可以深刻地感受到全世界的各国政要、企业家、专家学者，都非常积极地来参加我们的博鳌亚洲论坛。可以看出我们中国非常需要世界，世界也非常需要中国，我们终于可以重新连接。我们这个世界是全球化的世界，多边主义的世界，这个历史潮流是不能阻挡的。

《论道》：说到科技赋能新的力量，当下最热的词可能就是人工智能了。您是怎么看待人工智能的新趋势的发展，它给我们催生出哪些新场景、新模式、新的发展机遇？

朱旭峰：当时在准备博鳌论坛的时候，正好这个时候OpenAI发布了ChatGPT、GPT-4出世，使得我们全社会都非常关注人工智能以及人工智能它可能造成的方方面面的影响，包括对产业、对社会以及对人类未来的影响。

我的观点是这样的，如果我们把视野拉到全人类的几个世纪的发展的脉络上面去看，每100年、每50年人类都会有比较大的颠覆性的技术创新。当年没有印刷术的时候，欧洲的《圣经》完全是由牧师来解读，所以它可以控制整个这一个地区。但是当印刷术的出现使得家家户户都有一本《圣经》，他们都可以自己阅读、自己理解圣经，所以最后使得欧洲的宗教体系瓦解，出现了新的宗教。印刷术的产生使得信息开放，知识的不对称性得到了瓦解以后，整个社会发生了巨大的变化。

我们再说工业革命，瓦特发明了蒸汽机，蒸汽机的发明对世界产生了多大的影响？从英国的国内来看，农民失地成为了产业工人，英国的资产阶级崛起成为了统治阶级。对国外来说，由于蒸汽机的发明，蒸汽轮船的发明，使得英国能够在全世界占领了很多殖民地，甚至于包括对中国的影响，鸦片战争的船坚炮利打开了中国的大门，最后大清王朝的解体。所以可以这么说，蒸汽机的发明对整个世界格局、社会政治结构等方方面面都产生了重大的影响。

如果从这个比较上面来看，我们现在人工智能的推进、人工智能的发展，似乎也没有达到蒸汽机的发明对人类社会造成很大的影响。我们可以说人工智能的出现，包括现在这种语言的ChatGPT、GPT-4的出现，会对我们人类的很多职业，很多社会生活产生影响。但是我们如果把整个人类历史的科技的发展和人类的进步来看，其实它的影响也就是一段时期内会产生一定的影响。

如果我们再说其他的例子，比如说电的发明，包括电信、电报、电话的发明，各种各样的发明都是颠覆性的，都对人类社会产生了非常大的影响，包括现在的互联网以及Iphone手机其实都一样，所以我们要比较平和地去看待人类发展过程中有一个重要的技术进步，对人类社会造成的影响。

《论道》：电的发明、手机的发明、互联网的发明都重塑了世界结构，那个时候人们是欢欣鼓舞的，觉得有新的工具，但人工智能确实让人很多的担忧，比如说马斯克近期就表示呼吁暂停对AI的训练，我看到了您也回应了说“如果他有这样的呼吁，我拒绝在上面签字。”为什么您不会在上面签字？

朱旭峰：不能说拒绝，是觉得没必要去签字，并不是说我不担心人工智能的发展可能会对社会产生一些负面的影响，但我觉得这些负面的影响，我们可以去乐观的观察它，乐观的去等待它的变化，人类会不断的去适应人工智能的时代。可以这么说，第一，从来没有说哪一个新技术的发展，大家都一开始就是正面地去看的，只是现在被淹没在历史的长河中了。当年蒸汽机的发明，当年汽车的发明，当年电的发明，都会造成很多人的忧虑，只是100年以后我们已经把它淡忘了。当年汽车的发明，马车车夫就抗议，他们说汽车的发明会让我们失业。后来怎么办？英国就颁布了一个法律，汽车的速度不能超过马车，但是现在我们来看这是一个很笑话的事儿。当年正因为有马车车夫他们的抗议，最后工业体系的重心从英国转移到了美国，美国不怕，美国就开始生产汽车，美国的汽车发展了。

其实我们现在的很多担忧，如果再过50年、100年看，其实也没有什么特别担忧的。当然对于我们现在的每个人来说，可能是要重塑自己的能力。我们对很多人工智能的出现，我们有很多职业肯定会受影响，但是你要想想，20年前互联网的出现对很多人的职业也产生了影响。虽然有一些职业消失了，但是有更多的职业会重新建立、重新创造出来，大家都可以有新的职业、新的在人工智能时代能够创造出新的就业的机会，所以大家不用担心。

  //  

AI发展：加快还是放慢？

朱旭峰：我再说一下马斯克的问题，马斯克的担忧跟我们很多人的担忧都在于，人工智能的快速发展、人工智能的出现可能会对伦理、人类社会产生一定的负面影响。包括在博鳌论坛期间我们在讨论的时候，有位科学家说，“未来可能就是碳基生命和硅基生命的竞争”，这当然是非常严重的一个后果。但是我们要想到现在的科技发明、科技的进步已经不可能只是一两个科学家在自己的作坊里面、小的实验室里面就创造出来，就颠覆了世界，已经不太可能了。现在大量的这种大的新技术，都是由1000个科学家、10000个工程师集合起来去做的这样的一件事情，它是一个集体的行动，所以集体行动有集体的智慧。

马斯克他呼吁要放慢AI发展的节奏和步伐，因为马斯克本人也是科学家，这其实就是集体的科学家内部出现了一些反思。不要把马斯克这样的呼吁当做是中立的第三方，说这个世界不行了，所以我们要限制AI的发展，不是，它是在科学家内部的一些争论和讨论的体现。因此我们相信在任何的一个新的技术发展过程中，科学家本身就会思考科技发展的步伐，同时科技的发展对人类的进步到底产生什么影响？如果产生了一些负面影响，科学家的内部就会有一批人站出来降温，来对这些新的科技的发展方向进行思考。

《论道》：我很关心AI在我们中国的发展现在到了一种什么样的程度，是否有些超级应用可以赋能中国企业的发展，他们能够把握哪些机遇呢？

朱旭峰：早在2018年，我们学院薛澜老师的团队曾经发布过中国第一本《中国人工智能发展报告》。从这个报告的数据上面来看，中国的AI的专利论文数其实已经和美国并驾齐驱，但是我们可以反过来看，现在很多人都在问，为什么OpenAI、ChatGPT在美国而不是在中国出现？这里面涉及到两个问题，第一个问题就是有很多的研究创新的成果、专利、文章、论文是在哪个层面？有的科学家是在这种底层的大模型、底层的算法去研究，而中国更多的是在应用场合、应用领域、应用场景上面去应用AI，所以虽然可以说我们的论文发表专利其实并不少，但是对于那些颠覆性创新，可以说在美国还是领先的。

当然美国有它的创新环境，美国的创新环境差不多有四种模式：第一种就是研究性大学，像麻省理工这些科学家；第二种是联邦实验室，像贝尔实验室这样的，他们有大量的创新；第三种是美国的军方，像DARPA这样的，他们会检验哪些政策哪些创新市场可以做，市场可以做，他们就不做，但是他们要投资一些底层的基础研究；第四个其实就是硅谷模式，硅谷旁边斯坦福大学的青年人有一个好的想法，然后怎么办？找风险投资，慢慢地培育孵化出来一个小的产品，然后变成一个小的公司，再去上市再融资，最后风险投资能够收回回报。这种创新生态使得美国的很多科技型企业，它是在一个比较好的创新环境上得到了成长。

我们中国前三种模式其实还是比较强的，我们的科研院所，我们的高校，我们国家的举国体制都没问题，所以我们可以产生出两弹一星。但是咱们现在比较结合市场的那部分创新的产品，在世界上其实并没有占到什么优势，这是因为美国的第四种模式——硅谷模式在中国其实发展得并不是那么强大。当然也不是说没有，我们有很多平台企业其实都是属于硅谷模式，都是拿到了风投，然后慢慢发展起来才在美国上市。

所以这种情况下我们中国怎么办？中国一方面仍然可以说是世界上第二大科技强国，到目前至少在AI范围内，我们毕竟有很多专利和美国并驾齐驱，但是由于在底层的基础研究以及市场的创新生态没有这么发育，所以我们中国有不少的技术产品没有办法和美国竞争。但即便如此，中国也是比较能够坐稳世界第二的经济和技术强国。

可以看到GPT-4发布的第二天，马上百度就非常快速的、稍有些匆忙的去发布了“文心一言”，这是我们中国企业和中国企业家的勇气，就说我们可能没那么成熟的一个产品，但是我们有勇气跟你一争高下，对，但至少我们有了，你看其他西方国家，整个欧洲日本到现在什么都没有。所以从这个角度上来看，虽然美国的创新生态、创新实力仍然是世界第一大国，但中国也仍然是紧紧的跟在后头。

《论道》：所以说它确实会重塑整个社会结构，甚至是国际秩序。在社会结构这块，它确实也赋能了智慧医疗、智慧教育、智慧科技等等各个方面，您觉得中国在智慧医疗这些方面当中，未来发展趋势是什么样的？我们可以看到哪些新希望？

朱旭峰：首先所有的科技进步都是为了提高效率，无论是刚才我们说的印刷术，还是蒸汽机，还是电力、汽车，包括现在的人工智能，对不对？所以我们的世界会变化得越来越快，我们的学习能力，每一个新技术的迭代和生产，整个过程会非常快。

在医疗方面，现在已经发展到可以通过人工智能去开发药品，它可以通过人工智能方法去计算蛋白质的结构，去用几万种有机化合物去计算病毒蛋白质和哪个化合物互相之间配合了以后可以抑制病毒的复制，所以它就可以通过人工智能非常有效率的去设计出新的药。仅仅从这件事情来讲，人类技术进步的效率会比过去快得很多。过去是大海捞针，很多科学家去猜蛋白质长什么样，然后他去找一些化合物再去做实验，现在电脑上直接就可以算出来。过去需要一万种药、一万种有机物去做试验，现在通过人工智能它只需要试验三四种，八九不离十，大大提高了的效率。

我们再看其他的工业机器人的出现，我们互联网的很多平台现在都用了人工智能，这些其实大大的提高了效率。当然很多人会担心，提高了效率，会不会有人失业？这就是我刚才说的有了新技术的产生，使得效率提高，确实有些工作不再需要人们来做了，但是不要忘了有一件事情，无论是中国也好，还是世界也好，现在大的局面是劳动力短缺。我们现在特别在担心，我们新生人口减少，年轻人越来越少，老年人越来越多，我们大量的其实是缺少劳动力。无论哪个企业，它在决定使用人力还是人工智能，其实都是在做成本的核算。当劳动力特别多，劳动力的成本特别低的时候，其实理论上也不会去用人工智能，人工智能毕竟也是要花钱的。但反过来讲，如果劳动力特别短缺，劳动力的成本特别高的时候，它就会使用人工智能。所以人工智能的出现，它并不是去替代劳动力，而是解决了劳动力短缺的社会问题。

我再举个例子，现在老龄化了，我们年轻人都没有时间照顾老人了，那未来是不是家庭服务的机器人可以出现？部分的解决一些老年人照顾的问题。这其实就是解决了我们劳动力短缺这个社会结构上的问题，人工智能其实替代了部分我们短缺的劳动力。

  //  

人工智能的治理规则全世界会趋同

《论道》：我们现在对ChatGPT的这种担心，比如担心未来人机大战，从管理的角度来讲，这种未来可能会影响到公共利益、社会利益的这样一些制度，我们该怎么样来规范它？

朱旭峰：我们具体到来看ChatGPT这种交互式的文本的人工智能技术，当然人工智能技术有好多种，这只是一种。现在这种技术通过图灵测试，已经基本上可以达到人类的智力水平，甚至于超过很多人，所以大家会比较担心。

到底担心什么？它可能产生什么样的一些问题？第一个问题，其实就是它的内容。它人工智能跑出来的文字，因为它大量的这种应用场景已经开始使用ChatGPT所生成的这些脚本和文字来应用到它自己的产业领域。那这些脚本内部会不会有问题，这是一个风险。比如说现在已经有人让它来做编程，我告诉它一个目的，我告诉它一个任务，它自己几秒钟它就出来了一段程序。同时人工智能它还能去检测人工智能有没有问题，但问题是它黑箱里面转出来的东西，我们能不能相信它？它这个程序做出来里面有没有加一些小的漏洞，让它人工智能能够有个后门？我们人类不知道，因为如果这是一个大程序，几百万条程序，人类根本就看不出来。而且如果不是人类编出来，它一下子自动生成了，我们根本就识别不了。在这个过程中，人工智能它可以产生程序，产生算法，这些算法会不会造成一些社会的危害？这是一个风险。

第二个风险，其实这些产生大大提高了人类的效率，大大提高了人类的工作效率以后，会不会让很多人失业？现在有很多人其实还是比较乐观，比如说以后我就写稿子省力了。但是作为企业的老板，他会说既然现在1个人可以干10个人的事，那9个人他就不用再聘用了，当然这是一个问题，大家很担心。但是反过来想，会不会有一些新产生的岗位？那些不在工作岗位上的人能不能去创造出一些新的就业机会？我觉得到目前为止仍然可以理解，倒不用担心，而且现在总的来说人工智能的产生其实是解决了劳动力的缺失的问题。

《论道》：具体而言我们在伦理方面应该如何监管它，让它得到一个有效的发展，而不是让人盲目的恐慌？

朱旭峰：第一个问题，什么叫伦理？伦理其实就是价值观。什么是对什么是错？比如说人有一些底层的伦理，这是世界上任何国家任何时代的任何人都是遵从的，但是有些情况下伦理根据它的文化、根据它时代的进步，它会有变化。

第二个问题，就是谁的伦理？因为任何一个技术的发展，包括我们刚才说的过去早期的一些历史上的技术方案，都会对有些人有利、有些人有害。如果我们站在世界的全人类的角度上看，可能有些技术其实是总体来说是有利的，但是对个别人群、个别阶层可能是有害的。我们如何去平衡全体人类的进步和个体的损失？这个问题就是一个价值观以及伦理的权衡问题。有一些技术的进步，它可能对某些行业肯定是有好处的，很多人担心的其实是某些特别领域，比如说隐私、社会公平等方面的伦理问题，我们就要根据具体情况具体来看。

人工智能最发达的国家，它往往是人工智能治理最前沿的国家。为什么呢？是因为人工智能发展得最快，它就会遇到别的国家遇不到的问题。遇到了这些问题，它就要想办法去解决，所以它就创造出来一些治理的机制、治理的规则，美国显然在这方面是领先的。当然在中国，由于中国也是特别大的人工智能的市场，在各个应用领域都有各种各样的人工智能出现的治理的问题，所以中国其实也不断地在推进人工智能以及数据方面的治理规则，比如说《数据安全法》和人工智能的条例等等，这些方面中国都在积极推动。同时美国也好，中国也好，这些政策一旦发出来，那就是全世界的公共物品，其他国家都在学习，国家间就会有互相参考。我们现在在制定一个政策的时候，肯定会看美国怎么做的、欧洲怎么做的？欧洲、美国也一样，他们也会看中国怎么做的？所以国家间的这种互相学习，就会使得人工智能的治理规则在全世界可能会趋同。

《论道》：全球化问题，这是全世界共同的问题。

朱旭峰：对，因为人工智能没有边界，ChatGPT你可以在任何一个国家使用，但同时使用者可能没有国界的概念，这种跨境的数据的流动，不同的人在不同的国家使用同一种技术，你不能说在这个国家是合法的，在那个国家非法，最后的结果由于这种国际化全球化的、特别是技术没有国界性，导致了很多技术的全球治理规则，其实也是在全球要通用。

抽象的来说，科技发展和科技治理到底是为什么？我觉得可以至少有4个方面的：第一个目的就是要解决短期的一些困难和困境，比如说新冠疫情，立刻我们就要想到有疫苗，这个疫苗其实就是要解决短期的问题；第二个问题是解决长期的人类发展的问题，比如说气候变化，人类的发展等等，通过技术的进步来解决，比如说能源危机，未来我们可能有可控核聚变这样技术的出现，可能会彻底解决人类的能源短缺问题，这是解决长期的问题；第三个就是科技造福人类，造福每个人，普通人能否享受科技的好处？第四个其实是国际的科技竞争，就是科技的发展背后其实是国家的力量，国家在整个世界上面其实是就面临着很多竞争，但科技的发展其实来推动这个国家的力量和国家实力的提升，我想至少有这4个方面的问题。

科技治理是为什么？第一科技治理是要解决伦理的问题，毕竟很多科技不能野蛮生长，它不能破坏人的基本价值观。所以反过来讲，我们的科技治理是服务于科技发展，更好的科技发展，让我们的科技发展更加健康。同时在全世界的舞台上面能够正当的进行科技的发展，通过国际的对话，通过科技治理界的互相学习，让中国的科技治理的一些规则和叙事，能够让西方让全世界能够了解。

因为刚才我也说了，因为中国在人工智能科技其实还有部分是领先的地方，所以我们的科技治理的一些规则在世界上也是领先的，因为我们遇到了新的问题，在这种过程中我们能够加强科技治理，其实也是讲好我们中国故事，让全世界能够了解中国在科技治理方面的努力。

  //  

0—1的创新才是市场的第一块蛋糕

《论道》：在今年的博鳌亚洲论坛这段时间里面，您看到那么多分论坛，这些分论坛里面，您认为未来中国的发展趋势或者是世界的一个发展趋势是什么？这种趋势能够给予我们广大的企业家哪些启示？

朱旭峰：这是一个非常大的问题，已经脱离了技术进步这个问题，因为这里面涉及到中国整个改革开放的步伐，中国的政府对待企业家态度以及整个营商环境，这是这一方面。同时我们从微观上面来讲，中国的企业仍然应该大力的投入研发，加强技术的投入。总的来说，目前中国的企业在应用层面的技术研发上面其实投入的不少，因为应用层面它能比较快速的短期就能看到回报，但是更加底层的基础研究，其实我们的企业相对来说没有那么大的投入，为什么？是因为基础研究短期内看不到直接的回报。正因为如此，所以我们可以看到像美国有很多颠覆性的创新是从0—1的创新，但中国其实比较缺的是0—1的创新，中国比较多的是1—2、2—N的创新，为什么？中国跟进得快，一旦有一个想法以后，我们自己可以有些人才就直接就可以加入到这样的一个产业。

但是0—1的创新才是市场的第一块蛋糕，它最大的一块切掉了以后，剩下的是很多企业跟进。当然背后的逻辑和原因，是因为中国的发展还没多少年，美国也不是说从一开始他们就知道这个基础创新能够有巨大的收益，也是有个别的企业投入了基础的创新以后，它最后成功了，获得了巨大的回报，它尝到了甜头以后，他企业的文化就形成了。但反过来讲，我们中国其实只有少数企业，像华为这样的企业，它会投入很多力量去做非常基础的比如数学研究，毕竟华为它的经济实力还是有，它已经发展到足够大了以后，可以做一些基础的研发。但是我们一些比较中型的大型的企业，它可能还没有能力去投入非常基础的领域去做一些研发。但是我觉得企业一方面是国内非常重要的经济单元，同时也是国际上科技竞争的一个重要参与者。

如果我们的企业能够花更大的力气去推动一些基础研究，10年20年以后，我们就会成长出一批掌握了0—1这些创新的企业。

《论道》：所以您的表达是非常乐观的一种状态，与此同时呼吁更多的企业，不管是超大企业还是中小企业，要能够去投入更多的资金去做基础科学的研究，这样能够帮助中国跑得更快。

朱旭峰：对，多一些从0—1的这些创新。

《论道》：好的，谢谢朱院长，非常感谢！