肖仰华 复旦大学计算与智能创新学院教授、博导,上海科学智能研究院AI科学家,上海市数据科学重点实验室主任
【精彩观点】
1.技术进步历来伴随人的某些能力退化,这不是今天才出现的问题。AI同时引发了升智和降智。
2.在消费端:内容极大丰富后,人很难直接消费,将转为“终级消费者”。由个人的AI代理先做筛选与分级消费,给人“二次精选”。未来还会出现“面向AI代理的生产与营销”。
3.能力外包可能“反噬主体”:当你尚未具备某种专业能力,就把它交给AI,你反而失去了发展该能力的机会。
5.未来的人类社会将开启新的大航海时代,类似于马斯克探索宇宙,走向深空。这将有助于避免人类在地球上的内卷式消耗。
6.必须正视“闲置劳动力”的安置。工业时代已是二八定律,AI时代可能走向“2%和98%”——极少数人完成绝大部分生产。
7.AI不仅解放时间,更可能让人“全面自由”:身体与头脑的大量工作都被替代,人变成纯粹自由的人。这种自由不是所有人都能妥善安置,很多人会堕落与放纵。必须重视AI实现全面自由后的伦理与人文问题,避免人在自由中沉沦。
8.我们现在做AI,本质是在“仿人”。关于人的一切学科(认知科学、神经科学、语言学、心理学、社会学、文化学、文学等)对发展AI都至关重要。我常说“AI发展的尽头是人文”。计算机是实现手段,人文社科提供原则、标准、目标与边界。把文科一削了之,是短视;应大力发展“新文科”。
9.AI时代,高校与学术界若要保有价值,就应引领对世界“整体性认知”的重建,回应机器闯入社会后涌现的全新任务与难题。
10.短期看,AI在许多高阶认知上会“无限接近”人,但仍难以逾越某些核心:比如高阶心智(揣摩他人之心、情感共鸣、自我动机、自知之明、复杂目标与规划等)。AI可以逼真模仿,却缺乏人类那种由自我意识及内在心理驱动所支撑的“内在动机”。
11.从知识、技能到智慧:会背、会算、会写这些“执行性能力”在AI面前价值递减。更重要的是“何时用何知识解决何问题”的能力,即“智慧”,本质是判断力、批判力、品鉴力。
12.我们要借鉴中国古代“向内追求”的传统,不把自己当工具,能在观瀑、品茶、听雨中得安顿,内心强大的人在AI时代会更从容。要么向内修为,要么向外探索(深空、海洋、历史),开启新的“大航海”,二者皆可构成AI时代人的意义坐标。
降智风险确实存在,
降智与升智是一体两面
我在生成式AI刚出来时就写过“人的衰退”的文章。技术进步历来伴随人的某些能力退化,这不是今天才出现的问题。麦克卢汉在《理解媒介》中强调,技术是人的能力延伸,但在延伸的同时常常导致相应人类能力的倒退:比如汽车让我们减少行走,不运动就退化;键盘普及后很多人提笔忘字。这些倒退已然发生。
但AI与以往技术有本质不同。AI不只是放大人的感知和行动能力,更在无限放大人的心智与智力。这触及“人之为人”的核心:反思、思考、归纳总结、自我意识等心智能力。身体的退化还能靠锻炼弥补,心智的退化却会伤及人的本质,从而从根本上冲击人类文明的发展。《人猿星球》等影视作品多次描述了人类智力退化的情景。事实上,具备人类心智水平的先进技术滥用是可能引发人的智力退化,导致人失去作为人的本质。
技术是中性的,取决于使用方式。短期看,AI普遍带来“升智”:拉平多数人的能力分布,显著提升生产力,普通人也能借AI解决远超自己智识水平的复杂问题,科学家则可以使用AI进一步提升科研的质量与效率。
同时也存在“降智”的另一面:滥用、依赖、把思维训练外包给AI,会削弱人的自主思考,导致心智倒退。AI能力越强,这两种可能性的张力越大。最坏的可能是把人拉回猿类水平,最好的可能是让人接近“超人”,甚至在认知上无限接近全知全能。关键在于我们如何作为。
AI已能生产内容与思想,很快也会参与知识的生产、传播与消费。由此带来三点深变:生产端:人从“直接生产者”转为“生产监督者”,不再事必躬亲,而是监理知识与内容生产的流程与结果。在消费端:内容极大丰富后,人很难直接消费,将转为“终级消费者”。由个人的AI代理先做筛选与分级消费,给人“二次精选”。未来还会出现“面向AI代理的生产与营销”。这将引发深远的生态影响,例如对平台型内容和知识生态冲击巨大,也孕育面向AI代理的全新经济机会。
难以拒绝诱惑:
AI能力外包的边界与“反噬”风险
从人性讲,人很难拒绝能满足欲望、提高舒适度与效率的诱惑。圣经“亚当夏娃与苹果”的开篇隐喻了这一点。我自己做PPT也明知AI有缺陷,仍愿等待它生成,而不愿从头做起。可以预期,AI将全面侵入社会的各个毛细血管,我们会经历一个震荡与阵痛期,出现大量AI代替人进而引发人之能力倒退的现象。
在一些社会里,这类退化已现端倪。比如美国的信息化普及很早,计算器与电子设备在教育中的广泛使用,某种程度影响了美国基础教育学生培养的数理化平均水平。AI时代,这样的倒退会在更大范围出现。
但人也有反思与对抗的能力。圣经的提醒就是要对“技术的诱惑”保持清醒。或许,部分人类个体因为难以抵抗技术诱惑而出现放纵与沉沦,但我相信作为一个整体的人类不会倒退。少数具有强烈主体性的个人与群体会发挥引领作用,推动人类总体升级。
从社会层面看,必须正视“闲置劳动力”的安置。工业时代已是二八定律,AI时代可能走向“2%和98%”——极少数人完成绝大部分生产。社会可能需要新机制(比如类似“给每人发钱”或某种“社会稳定币”等方案)来维持消费的繁荣与秩序的稳定,因为供给会成倍增长,而人的消费能力(一天只有24小时、低生育、寿命延长导致享乐满足后消费意愿下降)难以同步扩大,这将引发一系列结构性矛盾。
AI不仅解放时间,更可能让人“全面自由”:身体与头脑的大量工作都被替代,人变成纯粹自由的人。这种自由不是所有人都能妥善安置,很多人反而会堕落与放纵(漫画世界中的很多英雄人物由于超能力而获得人身自由之后,反而向暗黑世界堕落。)必须重视AI实现全面自由后的伦理与人文问题,避免人在自由中沉沦。
人机能力边界:
三个必要条件才能促成AI“自我意识”
短期看,AI在许多高阶认知上会“无限接近”人,但仍难以逾越某些核心:比如高阶心智(揣摩他人之心、情感共鸣、自我动机、自知之明、复杂目标与规划等)。AI可以逼真模仿,却缺乏人类那种由自我意识及内在心理驱动所支撑的“内在动机”。
从实现角度看,要复现看似表面的高阶功能,背后往往层层前置能力“堆栈”。把这条链条一直追到最底层,其源头极可能是“自我意识”。没有解决自我意识,堆栈就难以闭合。今天的大模型看起来“会思考、会共情”,但并无与人类相当的意识层级来支撑,因而存在本质差异。
关于人类水平意识的生成,我有三个直觉性的必要条件:
一是身体:没有会毁灭的身体,就难以理解有限与无限、时间与永恒,从而缺乏存在感的激发。若寿命无限,很多“珍惜当下、积极有为”的内驱力会消失,文明反而可能停滞甚至毁灭。AI for Science若把寿命极大延长、意识上传、身体再造,未必带来进步,可能消解人类进取心,这个伦理风险应严肃对待。
二是群体:需要足够大规模的群体以支撑变异与进化。单体无法产生有效的“概率事件”来触发质变。
三是进化环境:要有严苛而合理的环境挑战(时间的有限性、空间与资源的不稳定性、其他物种的威胁等),长期实践与选择压力才能推动高阶心智与意识的涌现。
人文学科的不可替代性:
AI的尽头是人文
我们现在做AI,本质是在“仿人”。关于人的一切学科(认知科学、神经科学、语言学、心理学、社会学、文化学、文学等)对发展AI都至关重要。把文科一削了之,是短视;应大力发展“新文科”。
因此,我们不仅不应该压制甚至取消文科,更要坚定的呼唤新文科和新社科。其发展过程至少有两点要义:
第一是交叉:人文社科学者要具备基本的计算机与AI素养。理想状态是:先系统学习AI的实现原理,再从机器智能的视角重新审视人文传统问题。当机器越来越像人“人”,当机器日益闯入人类社会,一切人文社会问题都需要重新审视。
第二是综合:过去两千年我们擅长“选视角、切片化”的还原式研究,但世界本质是整体性的。AI(尤其大模型)是一个“综合性知识体”,像“超级亚里士多德”,天然支持跨学科的综合研究。前提是使用者具备跨学科视角与框架构建能力。
AI时代,高校与学术界若要保有价值,就应引领对世界“整体性认知”的重建,回应机器闯入社会后涌现的全新任务与难题。社会学也要重写:未来的社会关系不只“人—人”,还要纳入“人—机”与“机—机”(代理与代理)关系,社会组成的基本要素已经变化。
年轻人与教育:
未来更应培养机器不擅长、
人更有优势的能力
从知识/技能到智慧:会背、会算、会写这些“执行性能力”在AI面前价值递减。更重要的是“何时用何知识解决何问题”的能力,即“智慧”,本质是判断力、批判力、品鉴力。
构框架而非卷细节:框架—结构—提纲能力比细节执行更重要。AI可以填充与打磨细节,人应负责搭建结构与提出好问题。我上学时常“逛图书馆看目录与摘要”,就是在搭学科与问题的框架。
高阶认知:审美、批判、品鉴、综合与抽象等。中小学教育也已要求从“知识技能导向”转向“高阶认知导向”。
责任与品格:凡是要“敲章与签字”的岗位,本质是“要为结果负责”。但凡需要人去负责人的岗位都是机器难以染指的,除非有一天我们赋予机器以主体责任。在可预见的几十年里,机器很难替代人的“主体责任”。责任心、严谨、同理心、合作等“软品质”都更显珍贵。
向内修为:借鉴中国古代“向内追求”的传统,不把自己当工具,能在观瀑、品茶、听雨中得安顿,内心强大的人在AI时代会更从容。要么向内修为,要么向外探索(深空、海洋、历史),二者皆可构成人的意义坐标。
结语:
以“向内修为”与“向外拓展”应对AI时代
AI带来了“降智”的真实风险,也带来了“升智”的重大机遇。关键在于:
2.以人文为锚,发展新文科,重建整体性认知与社会学框架;
3.为多数人开辟“未知疆域”的用武之地;
4.在教育与个人成长中,着力高阶认知、框架构思与内在品格;
5.以责任与修为,承受AI带来的“全面自由”。
6.要么向内追求,要么向外探索;处理好人与机器的“委托—代理”关系,人就不会在AI时代降到“猿”的水平,而会在新的价值与意义体系中升级。
AI时代发展之进程本质上是机器“努力”把人从低阶的物质与精神劳作中解放出来,使人成为“自由人”的过程。这种自由虽然带来堕落的风险,但古希腊的“自由人”也创造了人类文明最杰出的雕塑、建筑与思想。这提示我们:AI所带来的人的自由是完全可能将人类导向更高追求,前提是机器闯入人类社会带来风险的深刻认识与有力控制。欧洲在封闭体系内资源有限、互相征伐,发现美洲新大陆后转向共同繁荣。类比当下,我们需要开启新的“大航海”时代:深空、海洋、乃至历史(大量空白领域亟待填补)的探索。一切未知领域都有能彰显人的开创性工作价值,一切常规性工作交给AI。只要为几十亿人开辟足够多“开疆拓土”的机会,人就有用武之地,就不会倒退。