理想的自动驾驶电车应如同人类一般作出智能化的道德决策 。 当然 , 我们不能过于乐观地期望, 人工智能能够无条件地完美解决人类都无法突破的道德困境 。 从宽泛的意义上而言 , 一种行动是道德的, 意味着这种行为能增进社会的 “ 善 ” 而抵制社会的 “ 恶 ”。 康德规定普遍的法权法则 , 即“如此外在地行动 , 使你的任性的自由应用能够与任何人根据一个普遍法则的自由共存 ” ① , 可视为在共同体内定义了一种以普遍自由为根据的善, 当进入大家都遵循法权义务的法权状态 , 个人内在地可自主追求德性完善, 外在地可合法谋取生活幸福 。 AI 科学家斯图尔特 · 罗素 (Stuart Russell) 提出在充分开发人工智能之前, 先搭建人工智能治理结构 , 通过构建 AI 与人类之间的价值同盟 , 确保这项技术为人类的利益服务。 人类为人工智能设定价值航标 ,“ 如果我们把错误的目标输入比我们更智能的机器里, 机器就会实现目标 , 但我们也就失败了 ” ② 。 人工智能不具有内生价值 , 人工智能与人类之间的价值同盟只能是一种起源于人类的价值。 智能与理性行动有关 ,“ 是智能的 ” 意味着智能体能够在一个情景中作出判断并采取可能最好的行为。 这一最好当然包含伦理规定的最好 ,即有助于促进社会的善。 行动具有道德价值 , 道德价值的判断标准应对所有理性行为有效 , 其中既包括人类的理性行为, 又包括智能化的理性行为 , 如自动驾驶 。

康德的义务论是延伸至人工智能领域的三种主要伦理范式之一 。 在功利主义 、 义务论与美德论之间, 究竟何种伦理更适合延伸为人工智能伦理 , 需要从可计算化 、 确定性 、 一致性 、 可普遍化等多方面考量。 从技术上而言 , 功利主义具有直观的可计算化特征 , 在问卷调查中 , 也得到更多人的认同, 但何谓功利缺乏普遍与统一的判断标准 。 在人工智能伦理领域 , 美德论被认为最有前景 , 通过学习算法, 道德榜样的美德可期完美模拟 , 但何谓美德并不是一个边界清晰的概念 , 机器学习依然需要被监督, 以便有根据地判断什么样的美德值得学习 , 如果这种根据只是来自多数人的经验认同, 依然缺乏坚实的理性基础 。 康德义务论建立在道德的普遍性法则之上 , 以定言命令为根据确保义务的一致性, 既为人工智能伦理提供统一的理论支持 , 也能扩展为人机共享的伦理规范 , 从而有助于构建通用人工智能的伦理框架。

在康德看来 , 义务起源于实践理性的自我立法 。 鲍威尔 (Thomas M. Powers) 在 《 康德机器的前景》 中试图论证机器生成实践理性的可能性 , 以此确保机器可以形成与人类类同的义务规定 。 鲍威尔指出, 康德的道德形而上学体系为康德机器奠定了三个方面的理论基础 : 一是由绝对命令保证的普遍性与一致性; 二是可用缺省逻辑表达的常识伦理知识 ; 三是通过机器学习确保伦理知识体系的连续性③ 。 鲍威尔的构想并没有把康德的人性法则纳入其中 , 因为系统缺乏目标导引 , 所以康德机器不得不面对义务的非完全决定性以及初始道德法则的任意性假定。 常识伦理知识作为背景知识引入机器数据库, 并不会自动生成康德所言的人性法则 , 只有理性的自我定义与自我反思才会确保人把自身作为目的而不作为手段。 机器是否能够模拟人类理性自我反思与自我立法的能力 ? 对一问题的肯定回答与否定回答涉及两种不同的机器伦理图景,在科幻电影中都有表达,一种如《机 械公敌》, 一种如 《 黑客帝国 》。 《 机械公敌 》 中的 “ 维奇 ” 遵循人类给机器人制定的三大定律 , 以最大限度地保护人类为目标, 最终导致机器人利用人类制定的规则来规训人类 , 限制人类自由 ① 。 《 黑客帝国》 中 , 机器世界拥有自己的法则与意志 , 最终导向机器人意志与人类意志在战争与和平之间的不断循环, 直至走向人类意志与机器人意志更高层次上的统一 。 当人工智能具有自我立法的能力 ,也就对人工智能伦理提出了更高的要求, 如果人工智能偏离人类的法权法则 , 生成独立的生存意志, 则可能造成灾难性的后果 。 当然 , 从技术层面而言 , 这并不是当前迫切需要解决的问题 。