编者

现在人工智能（AI）可以说是全民热议的话题，从普通百姓用AI写文案、做图片，到企业布局大模型，大家对AI的期待越来越高。那么，AI是万能的吗？普通人用AI，又该如何规避风险呢？日前，围绕AI的安全与发展等热门话题，本刊采访了计算机安全专家王克先生。王克先生长期从事网络安全、人工智能安全研究，曾参与多项国家级计算机安全标准的制定。

王克

王克，清华大学博士，终身享受政府特殊津贴，原军队某研究所所长。从事密码工程、信息安全研究40年，工信部、公安部、科技部、军队等专家库成员。

访谈者：郑挺颖（《中国科技信息》执行主编）

受访者：王克（中关村网信联盟TCOSCA主任）

03

AI发展历程：

技术浪潮的轮回与演进

提问

您刚才提到AI经历了三次热潮，能

不能详细讲讲这几次浪潮的特点？

回答

这是一个很好的问题，我们通过回顾AI的发展历程，能更理性地看待当前的技术热潮。

第一次热潮是1956年到20世纪60年代末，核心是“逻辑推理”——当时的AI研究主要集中在符号主义学派，认为智能的核心是逻辑推理，通过构建符号系统来模拟人类的思维过程。比如1956年达特茅斯会议（编者：达特茅斯会议于1956年6月18日至8月17日在美国达特茅斯学院举行，会议聚集了来自数学、计算机科学等领域的30余位研究者，会上首次正式提出“人工智能”术语，标志着该学科的诞生）上，人工智能创始人之一、美国认知科学家马文·明斯基等人开发的“逻辑理论家”程序，能够证明数学定理，这在当时引起了轰动。但由于当时的计算机的算力极低，只能处理简单的逻辑推理，无法应对复杂的现实问题，加上缺乏海量数据的支撑，到20世纪60年代末，AI研究陷入了第一次寒冬。

第二次热潮是20世纪80年代到90年代末，核心是“专家系统”——这一阶段的AI研究转向了实用化，试图将特定领域的专家知识整理成规则库，通过逻辑推理解决实际问题。比如医疗领域的“MYCIN”系统，能够根据患者的症状诊断细菌感染，并给出治疗建议。专家系统在特定场景下确实发挥了作用，但存在两个致命缺陷：一是规则库的构建成本极高，需要大量专家参与，而且维护难度大——一旦领域知识更新，整个规则库都需要重新调整；二是适应性太差，只能处理规则库中包含的问题，遇到新情况就无法应对。到20世纪90年代末，随着互联网的兴起，专家系统逐渐被更灵活的搜索引擎和数据库技术取代，AI进入第二次寒冬。

提问

现在的大模型与之前的专家系统相

比，又有哪些进步？

回答

现在的大模型与之前的专家系统相比，进步主要体现在三个方面。

一是数据处理能力更强，能够处理万亿级的海量数据，覆盖更多的领域；

二是适应性更好，不需要人工构建规则库，能够自动学习新的知识；

三是交互方式更自然，支持语音、文本、图像等多种输入方式，输出结果也更符合人类的语言习惯。

但局限也同样明显：首先，大模型缺乏“常识推理”能力——它能处理有数据支撑的问题，但对于需要常识判断的场景，往往会出现荒谬的错误，比如认为“猫可以游泳穿过太平洋”；其次，模型的“黑箱问题”严重——深度学习模型的决策过程是不可解释的，我们不知道它为什么会生成这样的结果，一旦出现错误，很难追溯原因；最后，模型的鲁棒性（编者：鲁棒性是“robustness”的音译，在中文中常常也被表达为健壮性和强壮性，总体来说其可以用于反映一个系统在面临着内部结构或外部环境的改变时也能够维持其功能稳定运行的能力）不足——对输入的微小变化可能会产生完全不同的输出，比如在提示词中加入一个无关的词语，AI的回复可能会完全偏离主题。

从图灵机角度看，专家系统和AI大模型本质是一样的，都是用户提问，计算机进行数据+规则计算，生成结果给用户，只不过专家系统的数据是由行业专家建立，大模型的数据由深度学习算法统计建立，前者靠的是知识和经验，后者靠的是算力统计。

提问

您刚才提到未来AI的发展方向是

“物理大模型”，能不能详细解一

下这个概念？它和现在的大模型

有什么本质区别？

回答

物理大模型是美国人工智能学者李飞飞、Yann LeCun（杨立昆）提出的概念，是当前AI研究的一个重要方向，旨在克服现有大模型局限性。现在的大模型主要处理的是“符号世界”的问题，比如文本、图像、声音等抽象信息，而物理大模型的核心是处理“物理世界”的问题，建立物理世界的规律模型。

物理大模型与现在的大模型的本质区别还在于：现在的大模型是“统计驱动”的，依赖数据中的概率关联，而物理大模型是“规律驱动”的，依赖物理世界的客观规律。这种区别让物理大模型能解决现有大模型无法处理的许多问题，比如机器人操作、工业仿真等需要与物理世界交互的场景。未来，物理大模型是否会成为AI的核心形态，实现信息世界与物理世界的深度融合，我们拭目以待。

04

AI对就业的影响：

效率革命与职业重构

提问

现在很多人担心AI会取代大量的工

作岗位，比如程序员、文案、设计

师、甚至医生、律师等专业人士，

您怎么看待这个问题？AI对就业市

场的冲击到底有多大？

回答

这个问题是大家最关心、最容易引发焦虑的。我的观点是：AI会重构就业市场，但不会导致大规模失业。它会取代部分重复性、规则化的工作，但会创造更多新的就业机会。

首先，我们要明确AI的能力边界：AI擅长处理“结构化、重复性、规则明确”的任务，而不擅长处理“非结构化、创造性、需要情感交互”的任务。比如程序员的工作中，编写基础代码、修复常见漏洞、优化简单算法等任务，确实可以被AI替代——现在已经有很多AI编程工具，能够根据需求自动生成代码，效率比人工高很多。但程序员的核心工作，比如架构设计、需求分析、技术创新等，AI是无法替代的，这些工作需要对业务场景的深刻理解、对技术趋势的判断，以及创造性的思维能力。

从目前的AI大模型应用来看，能够有效使用AI大模型的人首先要具备相应的专业知识和技能。例如，使用AI编程首先要会编程，使用AI诊断首先要会诊断，使用AI生成法律文书首先要熟悉法律条款，所以从这个角度说，程序员、医生、律师等职业不会被取代。

从历史经验来看，技术进步从未导致大规模失业，而是推动就业结构的升级。工业革命时期，蒸汽机取代了手工劳动，很多手工业者失业，但同时创造了工人、工程师等新的就业岗位；计算机革命时期，打字员、记账员等岗位减少，但创造了程序员、数据分析师等新的岗位。这次AI革命也一样，它会淘汰一些低技能、重复性的岗位，但会创造更多需要高技能、创造性的岗位。

从社会整体来看，AI的普及会让整个社会的生产效率大幅提升，进而推动经济增长，创造更多的就业机会。比如手机的普及让摄影行业发生了变革，专业摄影师的数量并没有减少，反而因为全民摄影的兴起，催生了更多与摄影相关的岗位，比如自媒体摄影师、短视频创作者等。AI也是一样，它会让更多人能够从事创造性的工作，推动社会向更高质量的方向发展。

提问

您认为当前资本市场对AI的炒作是

否存在泡沫？现在很多企业一窝蜂

杀入AI赛道，会不会带来不好的后

果？

回答

AI目前确实存在一定的泡沫，这是新技术发展过程中的必然现象。每一次技术革命都会引发资本市场的狂热追捧，从互联网泡沫到区块链泡沫，再到现在的AI泡沫，本质上都是一样的——资本对新技术的未来预期过高，导致大量资金涌入，甚至一些没有核心技术、没有应用场景的企业也跟风炒作AI概念，这必将造成资源的浪费。

但是，我们判断一个技术是否存在泡沫，关键看它是否有真实的应用场景和商业价值。现在资本市场上的AI泡沫主要集中在“纯概念炒作”的企业——这些企业没有自己的核心技术，只是把AI作为一个噱头，没有实际产品和服务，最终必然会被市场淘汰。但对于那些拥有核心技术、有明确应用场景的企业来说，AI带来的是真实的发展机遇。比如在医疗领域，AI辅助诊断技术能够提高诊断准确率，降低医疗成本；在工业领域，AI质量检测技术能够提高产品合格率，提升生产效率；在教育领域，AI个性化学习平台能够根据学生的学习情况制定专属学习计划，提高学习效率。这些应用场景都有明确的商业价值和社会价值，不能随便给它们贴上泡沫的标签。

从历史来看，泡沫的破裂也是技术成熟的过程。2000年互联网泡沫破裂后，中美两国都有大量没有核心技术的互联网企业倒闭，但谷歌、亚马逊等真正有价值的企业存活了下来，并成为行业巨头。AI泡沫也是一样，随着市场的理性回归，那些盲目跟风的企业会被淘汰，而拥有核心技术和应用场景的企业会脱颖而出，推动AI技术向更务实的方向发展。

对于企业来说，是否杀入AI赛道仍然需要理性，不能盲目跟风。企业在决定布局AI之前，应该先明确自身的业务需求和核心痛点，判断AI是否能解决这些问题；然后评估自身的技术能力和资源条件，选择适合自己的AI发展路径——对于大多数企业来说，不需要自己研发大模型，通过接入成熟的AI服务、与AI技术公司合作，就能实现业务升级；只有那些有足够技术实力和资金支持的大型企业，才适合投入研发自己的大模型。

编辑：柯欣

审核：王汝霖