人工智能会通过削弱和集中化的力量削弱人类自主性吗？

我将论证，最健全的人工智能哲学方法是将广泛的亚里士多德伦理策略——一种定义并捍卫（规范性地）植根于古典思想的人类活力观念——与对自由自由和制度的重新捍卫，特别是人类自主性，结合起来。 

所谓“人类自主性”，我指的是在思想和行动上自由的状态——一方面推动内在自由，另一方面保护个体免受外部强制。为什么自由主义需要亚里士多德的修正？最紧迫的是，防止其滑向一种集中化的伦理，将人类削弱为无力的、被剥夺权力的代理人，他们的生活以在监护国家下的被动存在或算法驱动的偏好满足为特征。 

而为什么亚里士多德需要自由主义的修正？尽管亚里士多德和我们的主办方智慧非凡，但他们错误地描述了一种市场秩序，这种秩序为繁荣提供了巨大的工具和支持。它使个人免于强制、匮乏、苦役、疾病和死亡。它促成了现代医学、近乎无限的创意作品访问以及休闲的巨大增长。这种休闲可以用于许多事情，但也可以用于政治或沉思。 

虽然亚里士多德认为美德秩序需要由法律或法规体现和执行的目的层次结构，但这种描述在解释现代奇迹——这些繁荣的工具——如何实现时是不完整的。我们必须保留并扩展这些自由主义的禀赋，同时回归亚里士多德，帮助自由主义构建一种人类活力和自主性的观念，以抵抗面对技术时的悲观或被动。 

这是我对人工智能及其治理的主要担忧：20世纪的最大邪恶是硬性专制。21世纪的定义性威胁是否会是软性专制——通过削弱和集中化的力量削弱人类自主性？ 

在19世纪30年代，亚历克西斯·德·托克维尔在《论美国的民主》中写到了与人工智能融合的趋势，包括“软性专制”的风险。 

人工智能作为一种智能工具

Ober教授和Tasioulas教授称人工智能为“智能工具”，亚里士多德也会同意。亚里士多德告诉我们，虽然工具不能赋予我们美好的人类生活，但美好的人类生活依赖于工具，而这其中存在风险。让我解释一下。 

《尼各马可伦理学》将善分为两类：我们为其自身而追求的善，和我们为其效用而追求的善，通常作为第一类善的手段。我们人类自发地、几乎不假思索地做出这些区分，并形成我们的目的-手段层次结构。我们首先从普通经验和共同意见中这样做。同样，亚里士多德的活力论不必依赖于“自然”目的论等形而上学概念，而是依赖于即时的、普通的经验及其“条件性必然性”的形式。 

对于亚里士多德来说，澄清正确的“目的-手段”关系对我们追求幸福极为有用。我们自然地以我们认为是因其自身而值得选择的善为导向。那么，这些善是什么？内在的善，即幸福的“节点”，包括那些因其自身而令人满足的活动和体验，包括那些锻炼使我们成为人类的社会、理性、诗性和身体能量的活动。这些是我们最需要的东西，以实现繁荣的生活。 

但不幸的是，人工智能不能简单地赋予我们这些东西。没有任何技术监督者或技术替代品能够做到。人工智能可以成为我们赋能的工具，但最终，取决于我们加强并运用我们个体能力的积极使用。我们需要提升并捍卫那些本质上善的活动（以及支撑它们的实质性和慷慨的自由领域）。 

但工具对于实现最低限度的需求，如安全、食物和住所，也是必不可少的。我们用来满足这些基本需求并从而支持我们更高追求的物质和结构机制也是工具。因此，亚里士多德承认，美好的人类生活既得益于工具，也依赖于工具。而这种工具依赖性带来了某些内在的风险和脆弱性。 

工具依赖的风险和脆弱性

出于多种原因，亚里士多德和柏拉图都对极端的技术乐观主义持谨慎态度（例如，参见亚里士多德在《政治学》中对希波达摩斯的批评），尤其是因为，正如我即将解释的那样，人类很容易将他们的希望寄托在技术上，从而扭曲其工具性特征。 

但说工具是手段，并不意味着它们的价值是中立的且依赖于使用者；远非如此。再次强调，使用工具会产生依赖性，而依赖性会带来脆弱性。正如柏拉图在《斐德罗》中所展示的，即使使用书写也必然带来权衡，如记忆力的减弱和理解的肤浅。自动冲水马桶也是如此，因为它移除了最微小的美德行为。 

这就是为什么柏拉图和亚里士多德认为创新应与传统相平衡，特别是那些城市或文明有机发展出来的传统，以管理与技术依赖性相关的目的-手段关系的权衡。在认识到以人类繁荣为导向的传统的价值时，柏拉图和亚里士多德隐含地承认了支持道德和智力卓越的自发秩序的重要性，这种秩序无法通过自上而下的立法法令或集中控制来实现。 

自由主义与古代思想的不同

与古代思想不同，自由主义从一开始就是一种支持科学、支持技术的政治哲学，缺乏某些可能让柏拉图和亚里士多德满意的保护措施。启蒙运动的乐观主义，特别是其对法治和平等自然权利的抽象理念的承诺，使个人能够自由表达亚当·斯密所说的我们“交易、交换和易货”的自然倾向，从而在科学和技术、知识的生成、传播和使用方面取得了惊人的进步，并为人类福祉的滋养和支持带来了前所未有的好处。 

将市场扁平化为单纯的“财富最大化者”、“偏好满足者”或“不公正获取”的出口，完全忽略了这些效果。但在我们当前的时刻，当技术和技术治理威胁到人类自主性并集中权力时，自由主义确实需要像古人提供的修正——特别是他们将技术工具的价值视为繁荣工具的主要正当性的观念。 

我们有可能忽视数字工具的工具性特征

在人工智能的案例中，保持人类繁荣的目的与技术工具性特征之间的区别比以往任何时候都更加困难。我们不仅生活在高度技术乌托邦主义的形式中（参见超人类主义或加速主义），而且即使是那些担心其风险的人也赋予了技术以自身的“意志”。而那些坚持技术工具性特征的人，尽管他们对其工具性的看法是正确的，但往往认为这意味着技术的中立性，这忽略了技术在多大程度上对用户具有内在的多重价值。 

在人工智能的案例中，我们以我们的形象打造了一套工具——这些工具“说话”、“思考”和“创造”像我们一样……很快，在某些情况下，比我们更好。我们今天极有可能忽视数字工具的工具性特征。事实上，今天有些人认为智能机器具有意识，能够感受到痛苦，具有个性，并应享有权利、保护等。 

关键在于，我们有可能陷入一种被动和宿命的技术依赖形式，这种依赖通过完全自动化的软性专制将人类转变为管理和控制的对象。捍卫和理解人类个体的独特性和尊严——定义厚实和内在自主性特征的卓越性——并将工具构建为繁荣的装备，因此成为人工智能时代最紧迫的必要性。