中意资讯网 中意资讯网

当前位置: 首页 » 前沿资讯 »

警惕“AI思维”侵蚀人类创造力

转自:瞭望东方周刊

本文刊载于《瞭望东方周刊》(2025年第6期,总第929期),原题为《警惕“AI思维”侵蚀人类创造力》。

文丨肖仰华 编辑顾佳贇

当人类开始用机器的解释框架反哺自身思维时,可能引发机器对人类的“认知奴役”。

2024年7月4日,世界人工智能大会开幕式上的《人工智能全球治理上海宣言》发布现场(方喆/摄)

当DeepSeek系列大模型实现了低成本机器自主反思能力时,我们正在见证一个划时代的转折点:理性思维,这项人类曾藉以凌驾于万物之上的专有能力,这项某种程度上并非人人都拥有的稀缺能力,正在经历前所未有的大众化进程。

人人都可以借助大模型实现专业性思维,进而获得更加优质的决策与服务,这样的场景日益成为现实。AI的“思维工业化”正在将认知劳动的生产效率推向指数级增长。这种颠覆性变革不仅意味着全社会总体思维效率与品质的提升,同时也在逼问人类思维的价值所在。

反思是人类思维的本质。人类理性的集中体现就在于其反思能力——对思考本身的思考。这种自我指涉(self-reference,是一个逻辑学概念。通俗来说,一个主体在描述自己,叫做自我指涉)的认知结构构成了文明进步的基石:从柏拉图洞穴隐喻到笛卡尔的“我思故我在”,从科学范式的转换到技术革命的突破,每个关键跃迁都伴随着对既有思维框架的深度反思。正是这种不断自我质疑、自我修正的能力,使人类突破生物本能局限,构建出复杂社会系统与先进文明。

当AI开始展现类似的反思特性时,我们实际上是可能在创造一种具备人类理性思维水平、能够持续突破认知边界的新型智能体,这种突破将重新校准人类在宇宙文明中的位置。

当AI学会反思

近期生成式AI的最新进展OpenAI o1以及Deepseek-R1(以下简称o1和R1)本质上实现了机器主动反思能力,且达到甚至超越了部分行业人类专家思维的水平。尤其是在理工科的数学与代码等领域,AI的思维水平已经接近甚至超越了人类中顶尖专家水平。相较于此前生成式AI的系列进展,o1与R1的进展是又一次革命性的突破。人类的大多数智力活动,不仅仅是无意识的生成,更多的是有意识思考后的生成。

此前的大模型虽然也能一定程度上模拟人类的思维能力,但仍以被动思维为主——由人类将某项任务的思维过程以思维链的形式明确地提示给大模型以指导其生成过程。经过思维链增强的大模型生成过程一定程度上实现了约翰·杜威笔下的机械性思维,也就是不假思索的直觉式、机械式思考。

但这种水平的思维在柏拉图眼里看来只是一种工匠水平的思考。对一个技艺娴熟的工匠而言,只需瞄上一眼原料,就能以近乎直觉的方式形成相应的打磨方案。与工匠的思维方式相对立的是人类的反思性思维,是人类中的大师思维方式。大师和工匠的根本区别在于大师能够借助人类语言进行有意识的、反思性的思考并且能清晰表达其思维过程,从而在人类文明传承过程中扮演着传播文明火种的角色。

因此,人类思维的难能可贵之处恰恰在于反思性思维。约翰·杜威甚至认为培养儿童的反思性思维正是人类教育的根本所在。当AI实现了反思性思维,也就意味着AI向人类中的“精英”“大师”靠近了一步。

DeepSeek助推AI普惠应用

深度反思并非随机发散的心理活动,而是遵循特定认知架构的精密过程。人类的反思具有复杂结构。针对不同的问题,人类往往需要借助不同的思维结构,比如决策树、语义网络、逻辑规则,并在这些思维结构上进行思维的遍历、跳转、循环或分枝操作,对最优方案进行搜索、评估、选择,对探索过程进行剪枝、合并、压缩,对历史经验进行归纳、总结、提炼与升华。

此前的大模型只具备人类的直觉生成能力,而o1与R1在大模型生成能力基础之上进一步植入了人类水平的结构化思维能力。结构化思维(或者说反思)的核心是评估,也就是评估当前生成是否正确,是否需要尝试新的思考路径,可能方案中哪一个才是最为经济有效的,诸如此类等等。

我们看到R1已经能够做到对问题进行充分反思与评估以形成解题思路(或者回答策略),之后再行生成。这个过程中的关键之处都在于如何合理评估,对当前生成内容的质量评估,对R1思维过程的评估。

如果反思很昂贵,这种能力就只能束之高阁,而R1则将机器的反思能力平民化。o1虽然率先实现了生成过程中的反思,但受限于高昂的算力成本,其产品价格昂贵,总体上只有极少数人能够窥得机器反思能力的真实表现。R1则借助技术突破实现了AI反思的平民化,R1的API调用费用是o1的近1/30,DeepSeek基础模型则完全开源。

我们曾担心先进AI技术成为新型数字鸿沟,更担心AI技术霸权的出现。DeepSeek先进大模型的开源无疑是对以商业闭源为主的技术模式的有力一击;最为先进AI思维能力的平民化与普惠应用,无疑对消弭AI时代的数字鸿沟产生巨大贡献。这就不难解释Deepseek短时间就引起全球关注,引发海啸般的讨论,并注定会对我国乃至全球AI产业发展进程产生深远影响。

人类思想生产能力爆发

先进生产力的本质是先进劳动力,而先进劳动力的关键是先进的思维能力。人与人之间的差异从根本上来讲取决人的思维水平的差距,所谓“劳心者治人”就是道出古人对强大思维能力的追求。从古代神话思维到古希腊的逻辑思维,再到现代各种纷繁的科学思维,人类思维水平的提升是推动社会发展的重要动力。

从结绳记事,到文字发明,再到算盘,本质上都是人类思维工具的进步。如今,AI成为了人类思维的新工具,AI本身直接就成为数字劳动力的大脑。所谓人类的进步,何尝不是人类思维能力与思维工具的进步。所谓文明的繁荣,本质就是思维产物——人类思想的繁荣。如果说ChatGPT成就了人类内容生产能力的爆发,那么R1则可能成就人类思想生产能力的爆发。

现代社会是建立在专业性思维基础之上的。随着社会分工的细化,随着科技发展与深化,再也没有亚里士多德似的通才人物。现代社会早就是个代理型社会。儿童教育不再是私塾,而是从小学到大学门类众多、分工明确的庞大教育体系。我们的身体需要来自不同专科医生的诊断与建议。法律、金融、保险,甚至日常生活中的健身、美容、旅游都要各类专业代理忙碌在我们身边。每一位专业代理凭借其出色的专业思维能力为我们提供专业的咨询与服务。

如今,AI有望实现各行业的专业思维,或者说将专业思维这个较高的门槛拉低。每个人都可以拥有各行业的专业AI顾问。通过R1我们可以廉价地获取各类专业咨询与信息服务。已经有越来越多的人在使用R1给出的个性化健康建议。R1对于千行百业的意义正在于实现各行业专家的专业思维,从而成为具备专业思维能力的AI智能代理。这为缓解专家资源稀缺带来全新机遇。

2025年2月24日,全国人大代表、广汽集团董事长冯兴亚(右一)在广州向广汽第三代具身智能人形机器人团队工程师了解该型机器人的AI自主控制技术突破和应用场景创新情况(刘大伟/摄)

“对,我就是像AI这样想的”

当思考变得透明,我们得以窥见那些原本只在脑海深处悄然运行的推理链条。人类的思维大部分隐藏在无意识之中,无数神经元在瞬间通过脑神经机制所发生连接传递着信息、运转着思索。灵感往往就在于神经突触的一次电光火石般的偶然链接。人类无数伟大发明都有着相似的顿悟瞬间。人类思维本质上是一种“直觉优先+后天解释”的思考。一个有经验的专家往往是在看到案例的瞬间,基于长期的经验与潜意识就已经完成了决策,再从记忆中索取相关理论、框架、约束、案例,对决策结果进行理性的、反思性的、细致而缓慢的求证、解释与验证。在其做出直觉决策的瞬间,即便思考者本人,也难以完整追溯自己的思维路径。

人类数千年的文化与哲学中,都曾无数次讨论过“思维的隐秘性”与“灵魂的独特性”。而当R1的逻辑流程可以完整展现时,这种隐秘的魅力与神秘感似乎瞬间被剥离得一干二净。当思维变得透明,人类社会发展的一系列重大问题迎来新机遇。人类的很多努力与尝试其实都是在应对思维的隐性过程而带来的麻烦。

如今,人与人之间的沟通与理解、人类文明的传承,都将因为AI将人类思维过程显性化而受到深远影响。借助AI所生成的思维过程,我们有机会进一步认清人类的认知与决策过程。“对,我就是像AI这样想的”,可能会成为未来人与人交流复杂问题求解思路的常态。

警惕“认知奴役”

思维的透明性也会给人类带来巨大挑战。机器的思维是一种“解释优先”的形式,是一种“先思后行”的形式。而人类更多的则是反思,是对已经做出的决策与行为的反思。所谓“知行合一”的前提就是对于“行”的持续性反思,是基于持续的实践反馈而进行的思维持续提升。

我们需要清醒认识到机器生成的思维过程可能与人类的真实思维过程相去甚远。人类的思维过程远比机器当前做到思维形式更复杂且隐秘。我们要小心,不要将机器的思维过程强加于人类。比如未来将机器思维应用在法律审判辅助系统中,AI所提供的“透明思维”可能会掩盖人类法官对文化、情感、伦理等隐性维度的考量。

更危险的是,当人类开始用机器的解释框架反哺自身思维时,可能引发机器对人类的“认知奴役”。我们要小心“AI思维”对直觉思维中所体现出的创造力的侵蚀。人类思维中的灵光乍现才是真正难能可贵的。

机器思维有着过度思考的倾向,不加节制的AI思考能力滥用只会带来过度的理性社会。当我们随意一句提问“今晚吃什么”,机器则可能从营养学、个人健康状况、本地生鲜市场、用餐场景、情感诉求生成包含十多个维度的决策矩阵。而事实上个人的本意可能只是螺蛳粉与方便面之间的简单二元选择。

当过度思考成为常态,理性与逻辑的严苛要求不期然地侵入了每个日常场景。大多数时候,人们只需要一种带有个体偏见、片段信息但又透露出某种独特味道的回答。这样的回答虽然并不完美,却正是人类复杂情感、文化背景和主观经验的结晶,构成了所谓的“缺陷之美”。正是日常生活中那种散乱而富有温度的思考,承载着个体经验的真实与鲜活。

当R1系统被要求续写《红楼梦》后四十回时,其生成的文本虽然符合叙事逻辑与人物设定,却终究缺少“寒塘渡鹤影,冷月葬花魂”的诗意留白。机器思维完美无瑕的严谨性在某种意义上却剥夺了人们对那种“瑕疵美”的期待。它不再是那个因偶然错误、片段遗落而显得独特而可亲的思考,而是成为一种机械、过于完美的“透明化”存在。

是绝对理性还是诗意生活,人类再次面临关键抉择。或许人机协同、优势互补才是可取之道。人类可以继续保留那种带有偏见与不完美的思考方式,赋予情感和温度;而AI则能在关键时刻以全局视角、无遗漏的信息整合来补充我们的短板,实现更加精准和深邃的判断。绝对理性不应该是人类未来,情感与温度才是人性内在的根本需求。

需要重塑价值体系

如果AI生成只是内容完美,大多数人只会惊叹其结果。但是当R1将生成背后的思考过程也完美展示,则恐会强烈刺激人类的自信。AI内容生成早已真假难辨,思维过程加强下的生成更是增加了其可信性。R1生成内容已经到了很多专家自叹不如的地步。从其生成结果中识别问题与错误也越加困难。这种困难只会随着AI的进步而与日俱增。相反,人类的评价与鉴赏能力即便在AI助力下也没有得到显著的进步。AI日益专业、全面、深入、严谨的思维,只会使人类更多地陷入自我怀疑的漩涡。久而久之,不假思索地采纳机器决策似乎会变成常态。这种常态注定蕴含着巨大风险。我们必须预防此种风险,我们必须提防在关键场景向AI让渡人类自主决策权的危险倾向。

AI的能力突飞猛进,人类如何在AI面前保持对人类能力的自信,而不是堕入日益沉重的“卑微”中呢?如果进一步深入R1的实现细节,可能会发现一些“细思恐极”的真相。R1有一个版本叫做R1-zero,它摆脱了有监督微调范式,而仅使用强化学习策略,仅根据生成结果是否最终正确等微弱的反馈信号,就能从自发枚举生成的解题方案与回答策略中评估并选择出最优方案与策略。从R1所展示出的思维过程来看,这些思维过程是超越普通人甚至人类专家水平的。如果AI的思维能力依赖人类的监督或者说指导,我们尚可维持居高临下的从容——终究是人类在把控AI的方向盘。但是,R1技术路线证明一个强大的基础模型只需要强化学习策略就能实现AI强思维能力所需的自主评估与反思。似乎人类的监督与指导越少,AI所习得的思维能力越是强大。要不了多久,AI有可能发现更多的新颖解题思路,越来越多的“神之一手”与“惊讶时刻”(即R1自主发现的所谓的aha moment)会在未来发生。

难道人类的全部意义只是在于启动AGI(通用人工智能)这个注定到来的超级智能形态?AI技术越是发展、AI应用越是普及,类似的困惑只会越加强烈。

当AI学会了人类的思维,人的发展将日益凸显而成为人类文明延续与发展的根本问题。迎接AI挑战的关键在于重塑人类的心理学与教育学。唯有重建人类内在强大的心理能力,才能应对AI发展所带来的巨大挑战。所谓内圣才能外王、根深才能叶茂,只有内心世界的笃定与强大,才能抵御未来AI所营造的纷繁复杂的外部世界所带来的不安与躁动。人类需要重塑价值体系,要为人重新定位其存在价值,要为人类文明重新校准其宇宙时间长河中的使命。或许就像AI所生成的,AI时代人类独特价值应该重新定位在“不完美之美”(缺陷创造可能性)、“必死之悟”(有限性催生意义)、“困惑之智”(不确定性孕育洞察)以及“无为之境”(留白蕴含无限),人类应该认知升维,而不是与AI竞速竞效。

2024年9月20日,天津大学人工智能学院教授胡清华在授课(李然/摄)

精心呵护“不可计算的心智特性”

未来,我们要重塑为工业时代而生的传统教育体系,我们需要培养“驾驭AI”“超越AI”的人才,要精心呵护人类所独具的“不可计算的心智特性”,要培养能够在AI时代保持独立思考、创造力和人性光辉的新人类,要培养能够在AI的狂飙突进中依然保持优雅挺立姿态的新人类。我们要密切关注人的发展问题。随着AI在教育中应用的深入,人的学习效率前所未有的提升,每个个体都有了继承全部人类过往知识与技艺的可能。

未来无处不在的AI势必会改变传统的需要独立思考才能获取答案的学习与成长环境。太过廉价的AI思考能力以及AI在教育中的盲目滥用,很可能导致学习者对AI思维与认知能力的依赖,从而阻碍个体独立思考甚至整个心智能力的发展。或许在AI教育应用中我们应该坚持AI的最少干预原则,也就是在充分发挥AI在教育中提质提效的正面作用的前提下,尽可能少地改变青少年的学习与成长环境。

如果说学校环境我们还可以通过立法或者行政手段进行有意控制,那么个体发展所依赖的社会环境被全面AI化似乎是个无法改变的趋势。社会环境的核心内涵是家庭与社会关系。同样,AI的社会应用也应该坚持最少干预原则,在提升社会生产力的同时,尽可能少地干预家庭生活与社会事务,以维持旧日的家庭与社会关系,也为社会包括教育的缓慢转型与适应留下充足时间。

机器能够低成本地思考,注定是人类文明发展进程中的重大历史事件之一,其影响必将伴随着AI应用的日益广泛而在社会生产生活的方方面面逐渐释放。或许正像DeepSeek对本文的总结:机器思考的廉价化不是文明终章的前奏,而是人类认知的第二次直立行走。

(作者肖仰华系复旦大学计算机科学技术学院教授、博导,上海市数据科学重点实验室主任)

中国AI大潮起》专题系列稿件

深探DeepSeek

下个“爆点”在哪?

城市发展要抓住AI契机

中国为全球AI生态注入新变量

警惕“AI思维”侵蚀人类创造力

未经允许不得转载: 中意资讯网 » 警惕“AI思维”侵蚀人类创造力