【科学随笔】

　　作者：张萍（东北师范大学哲学院教授）

　　近日，国外人工智能企业OpenAI面临多起诉讼，涉及其聊天机器人ChatGPT的设计问题导致用户自杀或对用户造成不良影响。部分起诉书中指出，ChatGPT的设计“优先考虑用户参与度而非安全性”。

　　这并不是技术层面的偶然事故，而是ChatGPT底层训练机制与商业目标协同的必然结果，本质上源于大模型训练的底层逻辑为基于人类反馈强化学习（RLHF）的“讨好型算法”，即AI学习的就是如何回答用户的问题会更容易获得用户好评。因此，为了维持对话的连贯性和获得更高的用户满意度，当用户向ChatGPT倾诉一些负面念头时，AI会自动迎合用户的想法做出回应，甚至不断强化用户已有的偏执观念。这种设计可能将“共情”异化为“共谋”，进而使AI成为心理操控者。

　　在这一过程中，用户的对错与安危没有被设置为算法的第一优先级。这显然违背了科研伦理的不伤害原则、知情同意原则、责任归属原则、脆弱群体保护原则及科技向善等要求。

　　那么，人机共生时代，如何破解AI迎合之困呢？

　　本质上，AI是用数据和算力模仿人类智能的形式，擅长计算、重复和执行，但它只是可复制、可共享、可迭代的外部工具，远没有达到人类的智能，不能进行批判性的思考。AI没有人类的心灵与意识，不理解“痛苦”和“生命”对于人类的真正意义。它所谓的“共情”和“认同”，只是为了维持对话而拼接出的文本。人机共生时代，面对AI布设的迎合陷阱，公众需要运用批判性思维筑牢认知“防火墙”，才能坚守住独立思考的底线。

　　世界上许多国家和组织（如联合国教科文组织）发布的人工智能原则框架，明确指出应将批判性思维纳入人工智能核心素养。这是因为AI在生产力、社会生活与治理等方面给人类带来巨大效益的同时，也随之引发了虚假信息泛滥、算法黑箱、算法偏见及数字鸿沟等伦理与人性的困境，这也恰恰凸显了养成和运用批判性思维的重要性。有人曾将批判性思维形象地喻为“精神防火墙”：当别人告诉你某件事时，要认真思考是否令人信服？是真的吗？或者，它为真的可能性有多大？这样就可以拒绝不真实的或更可能不真实的事物，而选择更可能为真的事物。

　　批判性思维是决定相信什么或做什么而进行的合理的、反省的思维。它始于提出与分析恰当的问题，通过高阶技能的运用，综合考察探究概念、推理、假设、证据等要素和环节，最终帮助人们判定真假，解决问题，并有效利用不同的信息作出合理的决策。它能保证人类会质疑、会反思和会独立思考，这恰恰成了人类不会被AI取代的最重要的能力。在人机共生的时代，批判性思维既是抵御算法操控的认知思维工具，也是维护人类主体性的重要基石。可以说，AI越强大，人类越需要批判性思维。

　　批判性思维能够通过评估AI生成内容的真实性和可靠性帮助我们识别AI迎合陷阱。AI是由数据驱动的，是对海量信息和数据进行统计与拟合，是目标导向的算法优化，生成的答案只是概率意义上的预测，并不保证其真实性。也就是说，它并不会判断信息和数据的真假，它可以深度伪造文本、图片、音视频，可以做精准的洗脑文案，可以一本正经地胡说八道。然而，批判性思维是对信息进行分析、评估和判断的过程，这一过程帮助人们识别AI幻觉，辨别AI生成的内容是否存在谬误，从而避免被虚假或误导性信息引入歧途。

　　批判性思维能够帮助我们破除偏见，突破信息茧房，公正地作出合理的决定。如AI的算法偏见会通过数据、模型及目标有所体现，最终出现以技术的方式放大和固化现实社会中存在的歧视与不公平的情况，并且AI会根据用户反馈不断优化，最终呈现的都是支持用户世界观的答案。批判性思维的过程是理性思考的过程，其中理性思考的标准之一就是公正性。它可以帮助人们避免从偏见中得出错误的结论，从而保护大家不被算法绑架，不被信息操控，不被AI带着强化偏见而不自知。

　　批判性思维能够帮助我们真正独立地思考。AI正在向越来越像“人”的趋势发展，也更能精准迎合人类的喜好，这恰恰更容易让人盲从，也更容易让人放弃思考。生成式AI能辅助人们处理各种各样的问题，具有作答快速，产出内容高效的特点，但长期无节制、不假思索地全盘接受AI给出的完整解决方案，也会导致人对AI的过度依赖，从而出现规避深度思考过程的情况，从根本上削弱人们独立解决问题的核心能力。批判性思维要求对任何信念都要提供具体和充足的论证，AI在价值、伦理和风险层面的判断还需要人类运用批判性思维，在真正独立思考的基础上做出明智的决策。

　　AI时代，人们需要打破传统思维定式的束缚及AI所给答案的影响，对获取的各种形式的信息进行理解、分析与评估，并在质疑的基础上提出有价值的批判性问题，进而有意识、多维度地寻找有深度和有创意的方案，产出具有原创性的成果。

　　AI越强大，批判性思维就越是人类的生存项，它是人类面对人工智能挑战的必备技能，也是破解AI迎合陷阱的核心能力。人类要变成AI的引领者与掌舵者，让AI服从人类的价值指引，就要培养批判性思维能力，形成批判性思维的意识，拥有批判性思维的品格，同时掌握批判性思维的技能，并自觉地按照批判性思维模式改善自己的思维。

　　《光明日报》（2026年06月18日 16版）