作者：李志祥（南京师范大学公共管理学院教授）

　　近年来，人工智能技术在诸多领域不断取得重大突破，其发展速度之快、影响程度之深前所未有，在给现代生活带来极大便利的同时，也留下了一些可能危及人类生存的重大风险。如何能够在充分享受科技发展带来的巨大红利的同时有效防范其潜在风险，已经成为人工智能发展面临的关键问题。为此，我国先后出台了《新一代人工智能治理原则——发展负责任的人工智能》（2019年）、《新一代人工智能伦理规范》（2021年）、《关于加强科技伦理治理的意见》（2022年）和《科技伦理审查办法（试行）》（2023年），力图通过人工智能与伦理的有机结合，引导人工智能走上“科技向善”的健康发展道路。人工智能与伦理的有机结合，可以从伦理辩护、伦理治理和伦理创新三个维度展开。

　　发展人工智能需要理性的伦理辩护

　　在进入现实生活前，人工智能就以“机器人”形象活跃于文学作品之中。无论在舞台剧、科幻小说还是科幻电影中，人工智能都曾被赋予一种由人类创造但反过来伤害人类的异化性质。这种将人工智能妖魔化的文学想象，体现了人类对于人工智能的深层忧虑。究其原因，乃在于人工智能可能拥有比人类更为强大的力量，进而出现反过来伤害人类的巨大风险。在现实生活中，人工智能阿尔法狗战胜世界围棋冠军，工业机器人抢占人类劳动岗位，大语言模型不断生成媲美人类专家的行业作品，进一步加剧了人类对人工智能的担忧，甚至引发了一些抵制人工智能的行为。过度担忧和盲目抵制，可能会阻碍人工智能的正常发展，影响人类充分享受现代科技进步带来的生活便利。要消除这些不必要的担忧，就需要对人工智能进行理性的伦理辩护，确定人工智能的伦理正当性。

　　人工智能的伦理正当性在于它能够造福人类，能够提升劳动生产力以创造人类的幸福生活。与其他科技产物相比，人工智能具有非常独特的功能，它能够模拟人类的智能，既可以进行智能式的计算，也可以完成智能式的动作，其部分体力能力（如力量和速度）与智力能力（如记忆和计算）甚至可以远远超过人类。模拟意味着替代，能够被人工智能模拟的人类活动也就有可能被替代。因此，人工智能可以作为人类劳动的协助者或替代者，广泛进入各个生产和生活领域，这样既可以节省大量的劳动时间，为人类提供更多的自由时间，又可以创造更高的劳动效率，为人类提供丰富的劳动产品和便利的社会服务。概而言之，能够提高劳动生产力以造福人类，是人工智能获取伦理正当性的现实基础。

　　但可能性并不意味着现实性，人工智能能否实现自己的伦理正当性，并不取决于人工智能自身，而是取决于人工智能的现实发展是否真正指向其正当性目的。人工智能既有可能实现合目的性发展，提升人类的幸福生活；也有可能步入异化发展道路，破坏人类的根本利益。如果只看到人工智能的进步性，以超人类主义姿态欢呼“超级智能”，要求毫无约束地发展人工智能技术，就有可能危及整个人类的生存和发展。反之，如果只看到人工智能的危险性，坚持拒斥“科技怪物”式的反智主义，要求严格禁止人工智能技术的发展，则有可能导致人类科技创新的停滞。因此，理性的伦理辩护应该是辩证的，既要看到人工智能的合目的性，欢迎人工智能发展创造的人类福利；也要看到人工智能的盲目性，警惕人工智能可能带来的潜在风险。

　　发展人工智能需要有效的伦理治理

　　人工智能是人类创造出来的、为人类服务的技术物，它具有强大的技术力量，但并不必然为人类服务。人工智能既可能造福人类，也可能伤害人类，正如无人轰炸机既可能阻止战争也可能杀伤平民一样。从目前可预见的情况看，人工智能有可能引发四类主要问题。第一是安全问题，即人工智能的强大力量既可能改善人类生活，也可能危及社会发展和人类安全。第二是正义问题，即人工智能在能够提供充裕财富和便利服务的同时，有可能加剧分配不公和群体歧视等社会正义问题。第三是人的发展问题，即人工智能对人类劳动的取代以及对人类能力的延伸增强，有可能阻碍人类能力的全面发展。第四是自由自主问题，即人工智能替代人类进行决策和行动，在减轻人类负担的同时也压缩了人类的自由自主空间。要防范这些风险，必须对人工智能进行严格的规治和约束，使之符合人类现有的伦理规范、道德观念和价值取向。

　　对人工智能进行伦理治理，就是要让人工智能技术在研发和使用过程中贯彻服务人类这一根本宗旨，以最大限度地造福人类。也就是说，人工智能的发展必须以人类的根本利益为中心，必须以人类现有的伦理规范和价值取向为标准。离开了这个中心和标准，人工智能的发展就可能误入歧途。人类基本价值共识主要包括三个方面：一是尊重个体的生命安全与自由发展，二是追求人际的公平正义与仁爱友善，三是强调群体的和平稳定与繁荣发展。对人工智能进行伦理治理，就是要让人工智能的发展服从人类公认的伦理规范，促进人类基本价值的广泛实现。

　　对人工智能进行伦理治理，关键在于人工智能背后的人而不是人工智能本身。人工智能无论拥有多强大的功能，在本质上仍然只是一种技术物，是由人类创造出来并且受人类支配的技术物。人工智能的自主智能能力并非自然生成，能够具有什么样的能力，具有多大的能力，由人类而非人工智能决定。从创造者与受造物的责任关系来看，人类必须对自己的创造物负责，必须对人工智能的功能负责，必须对人工智能引发的一切后果负责。也就是说，伦理治理需要坚持这样一种核心理念：人工智能引发的社会问题首先是“人”的问题，而不是“物”的问题。对人工智能进行伦理治理，首先要增强人工智能相关人员的责任意识。

　　对人工智能进行有效的伦理治理，既要防止强调自由放任的技术至上主义思想，也要防止追逐私人利益的技术中立主义思想。让人工智能不受任何约束地自由发展，有可能使人工智能走上盲目发展道路，导致人造物奴役人类的异化局面。让人工智能服从个人私利和私人意志，可能使人工智能走上片面发展道路，导致人工智能沦为部分人的牟利工具。真正合乎伦理的、负责任的人工智能，只能是为整个人类谋福利的人工智能。

　　发展人工智能需要合理的伦理创新

　　人工智能的问世会在一定程度上改变人类的伦理生活，冲击现有的道德观念。一方面，人工智能作为一种超级计算软件与非生物硬件相结合的存在物，既不同于人类这种具有生物身体的理性存在物，也不同于动物这种具有感受能力的非理性存在物。一旦进入道德世界，这种新型存在物具有什么样的道德意义，应该享有何种道德地位，这是现有的伦理学理论未曾碰到过的新问题，需要进行严肃认真的思考。另一方面，人工智能全面进入生产生活领域，必然会影响现有的劳动模式和交往方式，甚至会形成一些具有全新伦理性质的社会关系。一旦这些变化超出了现有伦理学理论的解释范围，就需要创新发展伦理学理论以给予合理解释。从这个意义上说，要想充分理解人工智能的道德意义，合理应对人工智能带来的伦理变化，就需要进行一定的伦理创新，发展与人工智能相适应的伦理理论和道德观念。

　　基于人工智能发展的伦理创新首先需要立足人工智能这一独特的技术物。人工智能不同于其他的人造技术物，它具有一定的智能能力和自主能力。尽管人工智能并不具有自己的自由意志，只能以设计者、生产者和使用者等人类的意志作为意志，但在诸多人类意志的控制之下，人工智能仍然拥有一个相对狭小的选择空间，需要其进行自主的行为选择。这种相对狭小的自主选择空间和相对弱小的自主选择能力，有可能赋予人工智能行动以一定的道德意义。因此，人工智能能否被视为一种道德主体，是否需要承担一定的道德责任，可否享有一定的道德权利，都开始成为需要严肃对待的问题，这或许会指向一种真正面向人工智能开放的伦理学理论。这同时意味着，我们需要以人工智能作为一个全新的参照物，反思现有的道德主体理论、道德责任理论、道德行为理论、道德评价理论以及道德赏罚理论等，将人类对道德本身的理解推向一个新高度，这样才能真正把握人工智能的道德意义。

　　基于人工智能发展的伦理创新还需要面对人工智能带来的生活变化。人工智能的广泛应用可能从三个方面改变人类的生活。第一，人工智能可以作为人类器官的替代者或者增强者，提升人类的生命能力。这就从一个全新角度重新提出了人的特质问题：面对人工智能，人之为人的特质到底是什么？生命能力增强后的人类能否获得自我同一性？第二，人工智能可以作为人类劳动的替代者或协助者，推动机器劳动大规模取代人类劳动，这又从一个全新角度重新提出了劳动本质问题：劳动对于人类的真正意义到底是什么？由自动化机器生产的劳动产品应该如何分配？第三，人工智能大规模进入生产生活领域，与人类形成各种错综复杂的关系，这就提出了一个全新的人机关系问题：人类到底应该如何看待和处理与人工智能的关系？要回答这些问题，就需要对现有的伦理学理论进行深入反思，或许需要将伦理学理论的根基从现有的人—人关系扩展至新兴的人—机关系。

　　基于人工智能发展的伦理创新，既要警惕理论上的僵化主义，也要警惕理论上的机会主义。理论上的僵化主义者完全固守现有的伦理学理论，看不到人工智能带来的发展机遇，不愿意做出任何本质上的理论改变。这有可能导致伦理学理论与实践发展脱节，进而弱化伦理学理论指导人工智能实践发展的功能。理论上的机会主义者完全无视现有的伦理学原则，放弃人类长期珍视的基本价值，只追随实践发展的现实需要。这有可能导致伦理学理论丧失其价值根基，同样会弱化伦理学理论指导实践发展的功能。合理的伦理创新，必须坚守人类基本价值共识，根据人工智能的发展实际，不断创造能够理解、包容和指导人工智能发展的新伦理学理论。

　　无论从人工智能的健康发展来看，还是从人类社会的持续发展来看，人工智能都必须与伦理结合起来。没有理性的伦理辩护，人类难以保持对人工智能发展的正确态度。没有有效的伦理治理，人类难以合理引导人工智能的强大力量。没有合理的伦理创新，人类难以跟上人工智能的发展步伐。只有将伦理辩护、伦理治理与伦理创新结合起来，才能真正确保人工智能向上向善发展，形成科技健康发展与社会持续进步的双赢局面。

　　《光明日报》（2024年02月19日 15版）