陈海波：当机器能够“思考”——人工智能、开源鸿蒙与未来 | 在宋庆龄讲坛的报告

陈海波：

开源鸿蒙项目群技术指导委员会主席，上海交通大学特聘教授

在信息技术飞速发展的今天，“人工智能（AI）”早已不再是一个抽象的概念。从日常使用的对话模型到能听懂指令、执行复杂动作的机器人，从单一终端设备使用，到万物互联的智能世界，技术正在深刻改变我们的生活。

此次分享的主题，源于图灵在1950年的经典论文《计算机器与智能》中提出的一个问题：机器能否思考？

这看似是一个简单的问题，背后却包含两个深刻的追问：什么是思考？什么是机器？过去几十年，这两个问题不断推动着全球信息产业的发展。

本文主要围绕这两个追问展开：

首先，什么是思考，厘清人工智能的演进脉络；

其次，什么是机器，支撑并控制AI的操作系统是什么；

最后，探讨在AI时代，我们如何用好AI，更好地驾驭它。

一、 从“机器能否思考”说起：图灵测试与图灵机

如何回答“机器能否思考”？图灵没有陷入抽象的哲学定义，而是用极具工程智慧的方式回答了它们，也因此奠定了两条划时代的发展线索：

1.1、什么是思考？

既然难以直接给“思考”下定义，图灵设计了一套可操作的替代判据：如果提问者在文字对话中无法可靠地区分人和机器，就可认为机器通过了测试。这就是后来著名的图灵测试（模仿游戏）。几十年来，它不断激发着人们对“智能”边界的探索。

1.2、什么是机器？

为了厘清机器的本质与计算的极限，图灵构造了图灵机这一抽象的自动化计算模型，严谨地定义了“什么是计算，什么可以计算”。这不仅回答了机器如何工作，更为后来的计算机科学与操作系统发展奠定了根基。

这两条线索——“机器能否思考”推动了人工智能的发展；“什么是计算、什么可以计算”推动了计算机科学的发展。二者在过去几十年的演进中相互支撑、交织前行。

二、人工智能怎样走到今天：从识别一只猫到通用推理

“人工智能”一词已见于1955年的达特茅斯夏季研究项目提案；1956年夏举行的达特茅斯会议通常被视为这一学科诞生的重要标志。不过，有了这个名称并不意味着图灵提出的问题就被彻底回答了。直到今天，人们仍在讨论它的定义。

人工智能的发展经历过几次高潮和低谷。从早期专家系统，到后来深度学习与大模型，每一阶段都解决了一些新问题，也有自身的局限。2016年前后，AlphaGo的表现让围棋成为社会广泛关注人工智能的一个窗口。再到近年的大模型和智能体，人工智能逐渐走进了日常生活。

2.1、从识别一只猫，理解“模型”

我们可以说猫有两只耳朵、两只眼睛、一张嘴，但仅靠这些描述，机器就能可靠地认出猫吗？实际情况要复杂得多：光照会变化，姿态会变化，外观也会变化。早期的人工智能面对某些图片能够识别，换一种情况就可能认不出来。这种识别错误有时会产生严重后果，比如自动驾驶系统如果把卡车的一部分误认成车后的天空，就可能做出错误判断。

“模型”究竟是什么？ 抽象地说，可以把它理解为一个函数：给它输入，它产生输出。训练就是利用数据和反馈，不断调整这个函数。2012年前后，AlexNet这样的深度学习网络在视觉识别任务中取得突破，让业界认识到大量数据与大量计算相结合能够带来很好的效果。

2.2、从专用能力到更通用的能力

2017年出现的Transformer和2022年推出的ChatGPT，推动人工智能从早期处理单一任务的专用模型，迈向了具备通用理解与推理能力的大模型时代。我们可以用“鹦鹉学舌”和“乌鸦喝水”来对比这种能力的跃升：

鹦鹉学舌：能重复人说的话，但不一定知道意思，类似于早期的模式识别；

乌鸦喝水：把石子放进水中使水位上升从而喝到水，体现的是对动作与结果之间关系的理解，也就是因果推断。

从完成某一类专门任务，到具备更通用的理解和因果推理能力，是人工智能发展的一个关键跨越。

2.3、注意力机制与模型训练

模型之所以能够展现出更通用的能力，离不开底层架构与训练方法的演化。

Transformer背后的核心概念叫注意力机制（Attention）。正如老师上课时提醒“请注意黑板上的内容”来引导大家聚焦关键信息一样，模型在计算时，会先作相应的投影和匹配，再进行归一化与加权平均，让不同的信息根据它们之间的逻辑关联发挥不同程度的作用。

以部分指令和对话式大语言模型为例，常见的训练与对齐方法可以与人的学习过程作类比，具体组合因模型和任务而异：

1.预训练：吸收海量知识，培养一个“通才”；

2.监督微调：结合具体场景，从通才走向“专才”；

3.强化与反馈学习：根据评价不断自我纠错，提高推理与答题质量；

4.价值观对齐：引导人工智能向善，符合人类的价值要求。

3、从处理数字到理解变化的世界

过去很多模型主要处理数字或数据。如果希望模型真正帮助我们在现实世界中行动，一个重要问题是：它是否理解这个世界，以及动作与世界变化之间的联系？

这也是世界模型通常重点关注的问题。这类模型不仅要理解当前状态，还要理解采取一个动作之后，世界的状态会怎样改变。比如，我一拳打向墙面，不可能毫无阻碍地穿墙而过——必须符合相应的物理过程。模型需要客观地理解这些关系。

三、从操作员到操作系统：机器是什么，AI时代为何更需要操作系统？

人工智能从识别出猫到能与人对话，从专用模型到世界模型，正在不断增强各种各样能力。但所有这些能力，最终都要运行在某种“机器”上。这就引出了图灵的第二个问题：机器究竟是什么？它怎样工作，又怎样被管理？

3.1、从Operator到Operating System

在没有操作系统的时候，计算机是怎样工作的？

1946年，早期重要的通用电子数字计算机ENIAC在宾夕法尼亚大学公开亮相。它占地约170平方米，需要多人操作和维护：电子管坏了要更换，线路有问题要排查；在最初的接线编程方式下，更换计算任务还要重新插接电缆并设置开关。

能不能把操作员（Operator）承担的一部分工作交给程序，让它自动安排任务、协调运行？这就是从操作员到操作系统的思路。1956年前后，早期的操作系统出现了。这类系统用程序自动完成原先由操作员承担的部分工作，减少人工干预。

回顾操作系统的发展，从大型计算机到个人计算机，再到智能手机，我们正迈入万物智联的时代。如果只是重复别人已经做过的事情，很难取得突破。我们认为，万物智能是一个重要机会，它驱动操作系统呈现出四个清晰的趋势：

1.泛在化：支撑设备种类日益丰富（如水杯、耳机、牙刷等），可按需组合；

2.场景化：从服务单一设备走向服务特定场景（如用餐、住宿），实现多设备协同；

3.低熵化：在硬件性能限制增加的背景下，通过软硬协同进一步提升效能、减少开销；

4.智能化：让AI成为操作系统本身的能力，理解用户需求并管理执行权限。

3.2、为什么人工智能需要操作系统？

人工智能有三个重要要素：算法、算力和数据，缺一不可。过去十几年的进步，与算力和数据的进步密切相关。现在，很多人工智能能力还被装进机器人里。但大家也可以思考：为什么机器人能力的进步，并没有完全跟上自然语言和文本处理能力的发展速度？

这里有一个很重要的问题：怎样把算法、算力、数据，以及各种硬件真正融合起来？这就需要操作系统来协调。

举一个简单的例子：我想让机器人给我拿一瓶水。看起来只是“递一瓶水”，实际上机器人要先听懂我的要求，再找到水，判断怎样拿到它，规划并执行动作。它还要感知我在哪里，以合适的方式把水递过来——不能想让我喝水，结果却给我洗了头。

怎样让这些环节协同工作？需要一个系统进行协调。在这个过程中：

应用和AI：负责理解需求、规划任务；

操作系统：负责协调计算资源、设备访问、通信和权限；

硬件：承担感知、计算和执行。

摄像头要看，处理器要计算，机械臂上的电机和多个关节要配合运动。一个具有多个自由度的机械臂，要靠各个部分协同，才能完成动作。操作系统向下管理相机、机械臂和计算资源，向上为应用提供抓取等操作所需的支持。这样，上层任务才能真正落实到物理世界中。

四、 AI + 操作系统：开源鸿蒙的思考与实践

操作系统是融合算法、算力与硬件的桥梁，也是连接概率性AI与确定性系统的纽带，那么在万物智联时代，我们应该怎样付诸实践？

4.1、开源鸿蒙——万物智联带来的新机会

我们开展鸿蒙操作系统相关工作时，正是看到了万物智联时代大门开启的机会。

有人问为什么取“鸿蒙”这个名字？我们希望它体现中国文化，也呼应万物生成、相互联系的理念。《道德经》讲：“道生一，一生二，二生三，三生万物。”我们希望用“一生万物”来表达：从共同的基础出发，支撑各种各样的设备。但光“一生万物”还不够，还需要“万物归一”——设备很多，如果彼此无法沟通、不能互通，就无法真正协同，形成了各种孤立的“烟囱”。

通过开源鸿蒙这样的公共开源基础，我们希望不仅支撑华为的设备，也支撑日常生活及不同行业中的多种设备。不同的设备基于共同的基础构建，再共同建设应用生态，就能够更好地走向互联互通。

4.2、操作系统与具身智能

操作系统与AI结合的一个重要方向是机器人。机器人既有“大脑”也有“小脑”，还有本体和各个关节。它本身就体现了多个部分协同的万物智能特征。怎样有效支撑这些部分，我们需要构建相应的具身智能体系。

开源鸿蒙社区也启动了具身智能项目，协同企业、高校等共同构建具身智能操作系统。此外，AI与操作系统的结合还在带来新的产品体验：智能穿戴设备与实时交互相结合，可以让我们通过手部动作控制机械臂，把数字世界与物理世界联系起来。

4.3、从自动生成，到自主实验室

除了常说的代码自动生成与软件开发辅助，AI+操作系统的结合正在深入到更复杂的科学与产业场景。

一个典型方向是具身智能与科学实验相结合。上海交通大学研发的AutoDNA，是面向核酸科学的AI原生自主实验室，可协调移液器、热循环仪、荧光计、测序仪等多类仪器，支持端到端自主实验和多用户实验请求的并发调度，展现了AI与自动化技术在科学研究领域的潜力。

五、 用好AI，但不能把思考也交出去

新技术出现时，人们常常会有担忧。就像当年计算器刚出现时，也曾引发过“要不要禁止学生使用”的激烈争论。但今天，我们已经普遍接受计算器作为计算工具。面对人工智能，我们也应该积极拥抱技术，并思考怎样驾驭好它。

现在有一个说法叫Vibe Coding（通常译为氛围编程），我把它叫做“许愿编程”：我说出想要什么，它帮我生成程序。可以这样使用工具，但不能顺手把自己的思考也交给它。练基本功时，先独立思考；卡住了，请AI给提示；然后自己再做一遍。具体使用时，可以尝试这样提问：“先别给我答案，给我一个思路或提示。”

人加上AI，要远大于AI本身。你与AI合作之后，应当创造出超越单独使用AI 的价值。

此外，我想强调，人工智能和操作系统还有很多问题需要解决。大模型具有概率性，会犯错误。即使它很多时候表现很好，也不能因此认为它总是正确。怎样把概率性的AI与需要确定性保障的系统结合起来，是一个重要的研究问题。

在系统设计中，我们始终坚持一个原则：“从不可靠的组件中构造可靠的系统”。操作系统需要在此过程中提供安全隔离、确定性调度、容错与权限管控，把概率性的AI安全地装进可靠的系统里，让智能体真正“能说会干”且安全受控。

结语

回到开头的问题：机器能否思考？

图灵在1950年提出这个问题时，或许没有预料到今天的人工智能已经能够对话、识别、推理甚至控制物理世界。但“思考”的定义本身仍在演进。

我们能确定的是：人工智能与操作系统，一个是“大脑”，一个是“神经系统”，两者结合才能支撑起万物智联的未来。而驾驭这一切的关键，始终是人——是我们在深刻理解技术之后，做出的每一个判断和选择。

审核编辑 黄宇

继续浏览有关 人工智能开源中国 的文章