清华学生抛出2000个问题，刘云浩教授万字回复：GPT-3、国产芯片……你想了解

时间：2023-08-16

　　萧箫贾浩楠鱼羊发自凹非寺

　　量子位报道 | 公众号 QbitAI

　　你想了解的有关“人工智能”的各种问题答案，都在这里了。

　　清华大学软件学院的刘云浩教授花费了几十个小时，将同学们关于人工智能的2000个问题整合成92个问题后，写了3万字长文，给出这些问题的答案。

　　无论是GPT-3，还是脑机接口，又或者是中美关系对计算机产业的影响，这些问题，刘云浩教授都给出了自己的观点。

　　作为中国最早定义“物联网”的学者，刘云浩教授也是国家杰青、长江学者。

　　此外，刘云浩教授还是ACM中国理事会荣誉主席、ACM中国图灵大会主席，在人工智能领域也颇有钻研。

　　他的这次解读，可谓好评如潮：

　　对于各领域的学生理解人工智能都有帮助，非常专业、深入：

　　即使是非专业领域的人，也能搞懂“人工智能”现在发展的情况：

　　所以对于这份不可多得的“科普”，我们提取编辑了其中核心部分内容，也不乏当下科技界最关心的话题，希望对关心人工智能、关心前沿科技，关心科技产业变革的你有帮助。

　　Q：中国软件行业的现状如何？应如何在美国施压下发展计算机产业？

　　刘云浩：在应用软件特别是面向消费者的应用软件方面，我国是处在世界一流水平的，有些移动应用（如TikTok）已经处于世界领先水平。

　　但是在工业软件（如电子设计自动化EDA软件）和基础软件（如类似Windows的操作系统）方面，我国与世界一流水平还有较大的差距。

　　在这些领域，国际合作是十分重要的，因为不是每一项技术我们都能在短时间内掌握，但这绝不意味着我们要放弃自主研发。

　　面对世界局势的变化，采购不能解决所有问题，甚至合法的商业活动也会面临来自外部的干扰。广泛结交朋友，拥抱开放理念，加强自主研发，逐步达到世界领先水平，这需要包括你我在内的几代人不断努力才能实现。

　　Q：如何看待Intel的数据库泄露？会对中国国内的相关行业有好影响吗？

　　刘云浩：泄露的资料只是Intel部分客户资料，对我国的芯片设计价值不大。

　　在芯片设计领域，我国有很大进步，无论是嵌入式微处理器，还是中高端的片上系统、服务器处理器，一批国产企业都已经发展壮大起来，在一些领域如神经网络处理器（NPU），我国企业的设计能力已经处于世界一流。

　　但光有设计能力是远远不够的，在高端芯片领域，中国缺乏更精细制程（例如10nm或更低）的生产制造能力。这也正是目前卡脖子的核心问题之一。

　　芯片制造过程核心的步骤是在晶圆（硅片）上把设计好的线路刻出来，这需要光刻机和光刻胶。目前，高端光刻机和光刻胶技术分别掌握在荷兰和日本手中。

　　另一方面，即使拥有设备，也还需要与之配套的工艺流程，好的工艺需要时间的打磨，这同样需要一代又一代人的共同努力。

　　Q：如何看待GPT-3系统在人工智能发展中的地位？神经网络数据量、参数、训练成本甚至推理成本都在不断提高的趋势？这会是一个正确的趋势吗？

　　刘云浩：GPT-3一发布就引起了业内的广泛关注，人们惊奇地发现，当给模型足够多的参数并用足量的数据训练后，人工智能不仅可以写文章、编故事、搞翻译，甚至可以写代码、做数学运算、画表格、生成复杂格式的数据等等，几乎是在文本方面为所欲为了，说GPT-3是NLP（自然语言处理）的王者毫不为过。

　　GPT-3在一定程度上意味着深度学习还没有完全走到极致，继续增加资源投入还存在取得更好效果的空间。

　　丰富的数据使GPT-3在答题、写文章、翻译甚至生成代码方面的效果都非常好。和其他深度学习技术一样，GPT-3也可能针对“错误”的输入给出错误的预测，例如你问它“我的脚有多少只眼睛？”，它会回答“你的脚有两只眼睛。”

　　这类问题对GPT-3这样的系统并不容易解决，所以GPT-3这样的系统会不会是深度学习的尽头还有待历史检验。

　　GPT-3耗费巨资训练模型很难被一般的科研团队效仿，所以很难说这会不会成为一个趋势，倘若这真的成为趋势，那此类人工智能算法将形成一定规模的技术垄断。

　　Q：计算机的算力会不会有极限，如果有极限或者提升瓶颈，这对于深度学习的效果会不会有影响？

　　刘云浩：计算机的算力可以从两方面来理解。一个是它本身的运算速度，另一个是数学层面的计算复杂度。

　　计算机本身的运算能力在相当长的一段时间里，主要都是受工艺的影响，也正因此，随着工艺的不断进步，基于神经网络的深度学习一直到最近10年才有爆发式的增长。而这种增长是受到物理规律限制的。

　　另一方面，算法也是有极限的，例如很多问题我们还提不出或是无法提出较优的算法，这个极限也很难甚至无法突破。

　　Q：AI在文学、艺术等更具创造力的领域会有多大作为？

　　刘云浩：目前AI在艺术领域已经进行了一些尝试，在2018年，一幅AI创作的肖像画拍出了432500美元的高价，这幅画叫Edmond de Belamy。

　　在文学创作上，OpenAI公司的GPT-3可以写出一些有趣的短文；在音乐创作上，来自于清华的DeepMusic团队尝试用AI作曲。

　　但是，AI在艺术领域的进展远远比不上它在图像处理等领域的成就。

　　机器的创作与人的创作有本质的不同，基于现有的技术，我们很难说AI真的理解艺术中的美感与表达的情感。课上我们简单讨论过，人的创作需要灵感，寻找灵感的过程有时就像大海捞针，王羲之就曾说过，《兰亭集序》如果让他再写一次，没有了当时的灵感与情感迸发，他很难再写出那个水平。

　　以作曲为例，AI可以通过算法穷举音符的各种组合，通过一些规则过滤掉其中明显刺耳的那些，再基于历史数据最终挑选出可能符合人们审美的旋律，这很难说是基于灵感和情感的艺术创造。今后我们很可能会看到很多机器产生的“作品”，但我认为它们不能取代人类。

　　AI的创作或许可以视作一种对艺术新形式的探索，究竟有什么样的艺术价值需要后人来判断，你看名画名曲不也是往往在后世才出名么？技术突破很难预测，或许在这个过程中，科学家会发现一些人类审美的奥秘。

　　Q：人工智能可以下围棋、写诗等等，甚至比人类做得更好，那这到底算不算是“机器会思考”？

　　刘云浩：这取决于我们如何定义思考。如果可以和人对话或完成一些与人互动的基本任务叫具备思考能力，那么很多语音助手、AlphaGo等AI就已经具备特别初级的思考能力了。

　　而更高级的思考，人们也还在努力研究。但会思考并不等同于有意识，目前技术条件下的AI与人类智能仍然存在较大差距。

　　Q：现在的AI距离自主推理研究科学有多远？人类认知有极限，机器认知有极限吗？

　　刘云浩：科学研究并不只是推理这么简单，大量学科都极其依赖实验，因此想单纯靠AI研究科学是绝对不够的。

　　现阶段，机器证明已经有一些很好的成果，你可以了解一下吴文俊院士的工作。另一方面，现在的AI都是人类发明的产物，并不能突破人类对于自然世界的认知。

　　因此，在人类对自动推理有更成熟方案前，AI并不能比人类做得更好，在这个前提下，机器的认知自然是有极限的。

　　Q：人类已经经过了蒸汽机时代，内燃机时代，计算机时代，而未来能不能真正出现AI时代？

　　刘云浩：什么时代基本上都是后人总结的。当前我们正处于AI普遍发展的一个时代，人工智能作为一项关键技术也被纳入“第四次工业革命”中。随着人工智能的突飞猛进，人类的生活方式和生活质量都得到了也必将进一步显著提升，传统价值观念亦可能发生改变。

　　从宏观上看，我认为人工智能会促进人类的科技发展：

　　首先人工智能的发展本身就是科技发展的一部分；

　　另外，人工智能作为一种工具可以辅助其他领域的科研工作；

　　最后，正如前面所说的，人工智能可以将人们从机械性劳动中解放出来，提高社会的生产力，从而使更多的人有更多的时间从事科研、艺术等工作，这也会加快人类的科技发展。

　　如果具体到AI技术本身在短期内的发展，AI技术已经经历过两次“寒冬”了，至于这次的热潮之后，AI究竟会加速发展还是稳步前进，抑或是走向第三次寒冬，目前还难以判断。

　　Q：人工智能传统上是自动化专业的一个方向，现在是否反而更接近计算机专业了？

　　刘云浩：从定义上说，自动化是关于人工与自然系统自动、智能、自主、高效和安全运行的科学与技术，是信息科学的重要组成部分，以“系统论、控制论、信息论”为核心。

　　自动化技术广泛应用于工业、农业、能源、交通、金融、军事等各个领域。大家熟知的机器人、载人飞船、高铁、智能交通等各种复杂工程系统的核心都是自动控制系统。

　　以计算机与软件工程、自动化、电子工程等信息类等专业，是当前研究人工智能的主力，这主要是因为无论从信息论还是控制论出发，现阶段人工智能研究的核心主要是算法。

　　但是人工智能并不是自动化系或是计算机系独有的，甚至不是信息学院所独有的。我们也说过，现在人文社科急需加入到人工智能研究工作中。

　　如果你不能体会，你想想，我们上大学那个年代，主要就是计算机自动化系学编程，今天有多少专业的研究都需要学编程序？

　　人工智能涉及的社会伦理问题单靠技术无法解决，需要各学科、尤其是人文学科的共同努力。

　　中外很多机构也都在关注人工智能的伦理问题，例如联合国在2017年发布了《世界科学知识与技术伦理委员会关于机器人技术伦理的报告》，欧盟在去年发布了人工智能伦理准则。

　　小说写得好的人，很多不是中文系毕业的，来自于生活。同理，AI 的发展不能都是这些理工科的人，必须跨学科合作。

　　文科生能做的事情有很多。你可以给机器学习专家贡献你的专业知识，也可以从人文关怀的角度去研究人工智能法律、伦理和哲学问题等等，而且这些方法也是避免技术产生弊端的途径之一。

　　随着无人驾驶技术的逐步应用，有很多法律问题亟待解决。举个通俗的例子，无人驾驶车辆撞了人，车辆生产者、车辆销售者、车辆所有人、车辆驾驶者等多方主体，分别该负多少责任呢？这是一个法律难题。包括无人驾驶在内的人工智能带来的新问题，也已经成为法学研究的新热点。

　　Q：人工智能环境下，什么职业可能被取代？

　　刘云浩：正如前面所回答的，我觉得一些机械性重复性的工作更有可能被人工智能取代，而像建筑设计师这种需要创作的职业就更难被取代。技术的发展在促进社会进步的同时，不可避免地会暂时引发相关行业失业率增加的问题，但同样会在其他场景创造出新的工作岗位。

　　对个人来说，要担心的不是人工智能抢饭碗的事情，更多应该担心自己的知识和能力储备不够，被别人抢饭碗的问题。我相信人类的能力一定会适应社会的新变化。

　　Q：AI在参与社会管理时，是否难以协调人文关怀和效率最大化的问题？

　　刘云浩：技术的最终目的是服务于人。我们希望利用人工智能突破人类各种限制，帮助人类更好地生活，这才是根本目的。如果AI远离了人文关怀，甚至造成了诸如性别歧视、种族偏见等问题，纵使算法的效率再高，也会失去意义。因此人工智能的发展一定不能忘记人文关怀，以此为基础才能谈论效率优化等性能问题。

　　Q：在这次的抗击新冠肺炎疫情的过程中，中医药学做出了很大的贡献，那么，人工智能在与中医药学及中国传统文化的结合中会碰撞出怎样的火花？

　　刘云浩：近年来，将中医与人工智能结合的案例有不少，从诊疗辅助设备到开药方，都有企业、高校在做研究和实践，甚至还有一些人工智能概念中医诊所已经在线下开设了。

　　中国传统儒家思想可分为“理学”和“心学”两派。12世纪中期时“理学”代表人物宋代儒学家朱熹提出“格物致知”，同时期“心学”代表人物宋代儒学家陆九渊强调了人“心”在认知中的主导地位，所观察到的事物只是认知的具体表现形式。

　　15世纪到16世纪明代思想家王阳明在对朱熹和陆九渊的思辨进行了实践和应用的基础上，提出了“阳明心学”对后世影响深远，王阳明强调要“知行合一”、“致良知”，既强调了“心学”在认知过程的重要地位，又重视应根据事物的具体表现和观察来灵活地应用自身的认知，两者是有机的结合。

　　将中国传统哲学思想与人工智能做对比，神经网络的设计思想和“理学”相似，而如果能借鉴“心学”，也许能推动人工智能走向下一阶段。

　　Q：人工智能在加密安全性方向的应用如何？

　　刘云浩：AI的隐私保护和安全性问题，需要通过数据加密、分布式计算、边缘计算等多种技术手段综合解决。近年来较为流行的联邦学习（Federated Learning）就是一种加密的分布式机器学习技术。

　　Q：人工智能法官是否会出现，应用情况如何？

　　刘云浩：现实中类似的AI已经出现，2019年6月搜狗与北京互联网法院联合发布了全球首个“AI虚拟法官”，能够实时在线为用户提供“智能导诉”服务，引导用户更流畅地使用网络诉讼平台。相信在不远的未来，类似的AI将得到推广和升级，从而为大众提供更加全面、便捷、高效的线上诉讼服务。

　　Q：在建筑领域，人工智能的应用情况如何？

　　刘云浩：人工智能在建筑领域的潜在应用是巨大的。

　　例如，从实施过程来看，人工智能在施工中给管理者和工人提供数据分析、过程管理等服务，可以增加施工的安全性，提高施工效率。从整个工程信息平台、建筑管理平台来看，应用人工智能技术在节能、建筑安全方面都有不少价值。

　　Q：中科院自动化研究所在做猴脑模拟机，想请问刘老师是如何看待脑模拟机这一个方向，这个技术的壁垒和前景如何？

　　刘云浩：你说的猴脑模拟机的研究是指自动化所的类脑智能研究吧。这项研究处在神经科学和计算科学的交叉领域，它致力于搞清楚非人灵长类动物的大脑结构和神经系统工作原理，然后基于对生物大脑工作原理的模拟，在计算机中实现人工智能。

　　类脑智能研究期望学习人脑的思维模式，从仿生角度寻求人工智能的突破。国际学术界公认这一方向前景广阔，但同时也面临很多难题，首要的，大脑的工作原理还是一个非常困难的课题。

　　类脑计算的研究在国内外都开展的如火如荼，例如Intel、欧盟的Human Brain Project，国内的清华大学类脑计算研究中心等。我不是这个方向的，我的所知甚浅。但是我个人也非常期待这个方向上能取得突破。

　　Q：将生物元素（如发达的神经系统等）融入人工智能或计算机技术是否可行？

　　刘云浩：你的想法是完全可行的，例如今年2月，《自然》旗下的《科学报告》刊载了一篇来自欧洲多国研究人员共同发表的成果：Memristive synapses connect brain and silicon spiking neurons，在芯片上连接了大鼠神经元和人工神经元。

　　Q：现在人工智能发展到现在，离通过图灵测试的距离还有多少？

　　刘云浩：2014年，名为Eugene Goostman的聊天机器人“通过”了图灵测试，但这一结果备受争议。换言之，还没有机器通过图灵测试，但是我相信不遥远了。

　　但我们谈论图灵测试，其实是想从人的智能的角度来判断机器是否具备人类的智能，这个标准其实是比较主观的。

　　目前的人工智能不具备自我意识，按照目前的技术，人类无法创造出有自我意识的人工智能。

　　图灵提出了著名的图灵测试来判断机器是否具有“智能”，而关于机器是否具有“意识”，目前尚没有相关的判断标准或思想实验。

　　关于人类自身的意识究竟是什么，是如何产生的，这是生命科学也尚未能解决的难题。

　　所以现阶段，当我们谈论人工智能的思考，其实都是在谈论人类设计的算法。未来可能创造出意识吗？很可能可以非常接近，但是不能真正创造出来。当然，这也许是个好消息。

　　按目前人工智能的技术发展来看，不谈图灵测试，在可预见的未来还看不到机器和人类具有同样智能的可能。

　　其实许多同学对AI的认知，其实来自于科幻小说。

　　对于他们「天马行空」的想象，刘教授也耐心地做出了解答。

　　比如：“《三体》中的智子，是人工智能吗？”

　　刘云浩：“智子”是小说中的“物体”，本身并不是科学，很多特点也违背了物理规律。如果目前的半导体工艺、电池技术没有突破瓶颈，我们是不可能造出“智子”这样的东西的。

　　我们课上主要希望大家能理解的，就是哪些是我们的文学想象，哪些是目前科学实践。

　　想象能否成真？不能说都不能。但是我们作为具备科技思维能力的人，不能随便被“忽悠”。

　　哈佛大学校长德鲁·吉尔平·福斯特（Catharine Drew Glipin）曾在新生欢迎会上说过：高等教育最重要目标，就是确保毕业生能够辨别“有人在胡说八道”（ the most important goal of higher education is to ensure that graduates can recognize when “someone is talking rot ”）。

　　又比如：“《哈利波特》里的魔法，能用AI实现吗？”

　　刘云浩：霍格沃茨在新生的开学典礼上用分院帽为每位小魔法师分配院系，我觉得这个或许可以用AI实现，小说中的分院帽能读出每个人的心中所想，这个AI目前还做不到（简单判断人类情绪的AI目前是有的，例如DeepMoji），不过AI可以根据以往各个学院学生的历史数据，训练一个模型，根据每个新生的性格和能力等特征为每个学生分配合适的院系。