【光明学术笔谈】

　　作者：方红庆（上海财经大学哲学系教授）

　　当前，以人工智能为代表的新一轮科技革命和产业变革加速突破，人类正在迈向智能社会。习近平总书记在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上深刻指出，“人工智能应当成为人类的可信工具”，“要始终用人类智慧和国际共识引领人工智能发展，使其真正成为增进全人类福祉、推动人类文明进步的强大正能量”。“可信工具”这一重要提法精准抓住了人工智能发展的一个根本问题：我们不能只问人工智能是不是更聪明、更高效、更强大，还要追问它是否真正可信。

　　从智能制造、医疗诊断到自动驾驶、金融决策，从教育科研到公共治理，人工智能正迅速且全面地深入经济社会生活的各个方面。特别是大模型和智能体的发展，使人工智能越来越能够自主分析信息、识别环境、作出判断并完成复杂任务。人工智能越是深入社会实践，可信问题就越重要。

　　那么，什么样的人工智能才算可信呢？人类需要什么样的人工智能？长期以来，人们习惯把可信人工智能理解为一组要求，例如安全、可靠、公平、透明、解释、隐私和问责等。这些要求当然重要，但如果只是把它们排列成一张清单，我们仍然没有解释：为什么这些属性能够使人工智能可信，它们彼此之间又有什么内在联系？

　　从根本上说，可信首先意味着有能力把事情做对、做好。因此，人工智能可信性的第一个基础是胜任力。所谓胜任力，就是在一定领域和条件下稳定、可靠地完成特定任务的能力。一套医疗人工智能如果经常误诊，一套自动驾驶系统如果无法稳定识别道路环境，都很难真正获得信任。胜任力当然包含可靠性，但并不止于可靠性。任何能力都有具体对象、适用条件和边界。一个系统可能擅长影像识别，却不具备完整的临床诊断能力。判断人工智能是否可信，不能只问它强不强，还要问它究竟在哪些方面胜任、胜任到什么程度、在什么条件下胜任。越是高风险的应用领域，越需要通过持续测试、评估和校准，使能力范围更加清楚可控。

　　但有能力把事情做好，还不足以构成完整意义上的可信。技术能力本身回答不了：这种能力究竟应该被用来做什么？这一能力究竟是为什么目的服务？因此，可信性不仅涉及胜任力，还涉及承诺。人工智能本身并不像人一样会形成道德意图，但任何人工智能系统从设计之初就嵌入了人的目的、价值选择和规范要求——这种嵌入既可能是显性的，也可能是隐性的，甚至是非意图的。自动驾驶系统包含安全驾驶的承诺，医疗人工智能包含提高诊断质量、保护患者权益的承诺，大语言模型面向公众提供信息，也包含有用性、无害性和不误导用户的基本要求。这些“承诺”不是机器自身作出的意向承诺，而是由设计、开发、部署和社会角色赋予它的规范期待。真正可信的人工智能，应当使承诺与胜任力相互匹配：承诺不能超出胜任力，胜任力也不能脱离正当的承诺。

　　一个系统宣称能够完成某项任务，却实际上没有相应能力，它就是不可信的；反过来，一个系统即使技术上能够完成某件事，如果这种应用违背基本伦理规范，也不能因此就认为它可信。可信性要求“能够做什么”与“应该做什么”相互协调。这也是可信人工智能不能被“可靠人工智能”简单取代的原因。可靠性主要评价一个系统能否稳定实现某种功能，可信性还要评价这种功能是否值得实现，是否符合公平、安全、隐私、福祉和责任等规范要求。可信人工智能因此同时具有知识论和伦理学两个维度：既要保证能力可靠，又要保证能力的运用受到规范约束。发展和治理不是彼此对立的两个目标，可信性正是连接二者的关键。

　　人工智能越强大，确认其可信性就越重要，因为它已经开始改变传统的人机关系。过去的工具主要扩展人的身体能力和操作能力，而人工智能正在进入人的认知领域，能够识别、预测、推理、判断乃至作出决策。人工智能不仅是人创造和使用的技术，同时也是人类实践的积极参与者，可以被理解为一种准行动者：它不是完整的道德行动者，却能够依靠自身的胜任力相对独立地完成某些行为。因此，人与人工智能之间形成了一种新的合作结构。当医生把部分影像识别任务交给人工智能，当驾驶者把部分环境判断和操作交给自动驾驶系统，当科研人员借助大模型处理文献和数据时，人实际上是在把人工智能的能力纳入自己的行动计划和过程。人工智能的胜任力替代了人的部分胜任力，又被重新整合进人的整体行动。也就是说，人工智能实际上是人类能动性的一种延伸。这也说明，信任人工智能不只是表达一种心理态度。当一个系统经过充分检验，表现出稳定能力以后，我们不可能每次使用时都重新检查它的全部工作，而会直接把某些任务托付给它。信任因此意味着一种能动性整合：人工智能的胜任力进入了人的计划、判断和行动之中。

　　人工智能信任可以被理解为一种关系模式，它不仅描述人的主观态度，也代表一种正在形成的人机关系基本形态：人提供目的、理由和规范约束，人工智能依靠自身胜任力承担人类赋予它的任务，二者共同完成行动。这种关系越深入，责任问题就越凸显。人工智能虽可以替代人的部分胜任力，却不能因此自动获得完整的道德主体地位。医生可以把影像识别交给人工智能，但不能把诊断责任也一并交给机器；公共机构可以利用算法辅助决策，却不能以“算法决定”为由逃避公共责任。与此同时，责任也不能简单压到最后一个使用者身上。开发者设计、训练和测试系统，企业决定如何部署，专业人员决定怎样使用，监管者进行制度性风险判断。责任应当与真实的能力分工相匹配。这就为人工智能治理提出了一项重要任务：不仅要提高治理技术，而且要明晰治理能力的托付关系。谁有资格把任务交给人工智能？系统必须达到什么能力水平才能进入特定领域？使用者需要保留哪些判断能力？什么情况下必须重新由人介入？一旦发生损害，开发、部署、使用和监管主体分别承担什么责任？这些问题需要依据实际的能力分工建立更加精细的制度安排。

　　由此，人工智能的可信性不只是产品属性，更是社会技术属性。一个模型本身可能具备优秀的性能，但如果被部署到并不适合的场景中，同样不可信；一个系统即使技术上可靠，如果能力边界含混、责任关系不清，也难以形成稳定的社会信任。判断人工智能是否真正可信，必须把技术胜任力、价值承诺、使用场景和责任结构放在一起来评价。

　　这种可信性要求同样适用于全球人工智能治理。习近平总书记指出，“加强人工智能发展战略、治理规则、技术标准的对接协调，早日形成具有广泛共识的全球治理框架，让这一前沿技术更好造福人类社会”。人工智能的发展天然跨越国界，它带来的收益和风险也不会止步于一国，因此全球人工智能治理同样需要建立可信关系，而全球人工智能治理的可信性也建立在胜任力与承诺的匹配之上。一方面，要加强全球人工智能能力建设，帮助更多国家特别是发展中国家获得技术、人才和应用创新能力，缩小全球数字鸿沟；另一方面，也要形成共同的规范承诺，反对技术垄断、滥用恶用和安全概念的泛化使用，使人工智能真正成为能够惠及更多国家和人民的公共产品。只有既有能力提供公共产品，又持续兑现智能向善、普惠包容、安全可控的治理承诺，全球人工智能治理才能形成稳定的信任基础。

　　综上所述，人工智能最终能否造福人类，并不单纯取决于它能否达到高超的智能水平，更取决于我们能否建立与其能力相匹配的可信结构。未来的竞争不仅是模型、算力和产业规模的竞争，也会越来越成为信任的竞争。建设可信人工智能，不是给技术发展增加一道外在限制，而是在为人工智能真正进入人类社会创造条件。只有使人工智能“可信”，技术能力才能转化为增进人类福祉、推动文明进步的力量。

　　《光明日报》（2026年10月19日 15版）