大模型时代思考：自动驾驶、机器人和空间计算结合是下一个转折点

　　

　　陆奇是中国AI领域的布道者之一，曾在全球知名科技公司担任要职，如IBM、雅虎、微软和百度，是华人在美国科技公司中最有权威的高层人士之一。他勤奋工作，曾每天早上4点起床跑步5英里，6点准时到办公室，但最近他表示已经跟不上大模型时代的速度了。在最近的分享会上，他分享了对大模型时代的宏观思考，包括拐点的内在动因、技术演进、创业公司的结构性机会点，以及给创业者的建议。他还回顾了自己与OpenAI CEO Sam Altman的认识经历，指出奇绩创坛的前身是YC中国，他也是YC全球研究院的院长。

　　新范式的新拐点

　　陆奇认为任何体系都由信息系统、模型系统和行动系统三部分组成，数字化系统和人也是如此。现今的数字化产品和公司本质上都是信息搬运的公司，但即使如此，它们已经改变了世界。陆奇强调了信息搬运这一点，称这些大公司都只是移动字节而已。他以Google的诞生为例，阐述了获取信息的边际成本从变成固定成本所带来的结构性改变，指出模型成本从边际走向固定也是一样的道理。他认为模型和人有内在的关系，每个人都是认知模型、任务模型和领域模型三种模型的组合，而大模型能够逐渐学会这些模型的能力。因此，人唯一的价值就是拥有多大的见解。

　　新范式的历史环境

　　陆奇强调下一个转折点将是自动驾驶、机器人技术和空间计算的结合，这将使行动无处不在，降低人类在物理空间中移动的成本。模型的成本将从边际成本转向固定成本，使自动化和自治成为无处不在的。最终目标是通过紧急性、代理性、可负担性和具身化的出现实现人工通用智能（AGI）。OpenAI 目前在这个领域处于领先地位，其关键技术包括 GPT 模型，如 GPT-1、GPT-2、GPT-3 和 GPT-4。OpenAI 的融资结构旨在避免将回报与控制混淆，公司的投资者没有控制权。相反，他们的协议是以债务形式结构化的，一旦 OpenAI 赚取 200 亿美元，它将成为一个回馈社会的非营利组织。

　　新范式的社会环境

　　在人工智能领域，bigness is betterness，即模型越大、数据越多越好。转型的范式需要一个能够不断前进、持续产生价值的引擎，而这个引擎就是由transformer和GPT模型体系构成的。GPT模型可以高效压缩信息并表达世界的信息，持续提高模型能力，在子概念空间中进行泛化。OpenAI将在未来两到三年的时间里，努力让模型更稀疏、扩展attention window，增强递归因果关系的推理能力，并提供更多的模态、token空间、稳定性、计算、基础架构工具等等。

　　举报/反馈