16、17世纪诞生的现代科学，在18世纪启蒙运动中以其科学世界观成为现代意识形态的基础，在19世纪全方位向技术转化，成为最强大的物质力量，左右了现代世界的发展走向。18世纪以蒸汽动力的广泛使用为代表产生了第一次技术革命，19世纪以电力和电讯的使用为代表产生了第二次技术革命，20世纪以电子计算机和互联网的使用为标志发生了第三次技术革命，21世纪刚开始的四分之一世纪则迎来了人工智能技术的大爆发，我们似乎正在迎来以人工智能为标志的第四次技术革命。
每一次技术革命，不仅改变了生产力和生产方式，也改变了上层建筑和意识形态。第一次技术革命催生了工业文明，生产、消费、市场、资本成为人类社会的主要发展指标。第二次技术革命进一步推进工业化的逻辑，日常生活更加便捷，电讯业催生了大众传媒时代，宣告世界市场形成和全球化时代到来；第三次技术革命全方位推进工业化逻辑，使工业文明进入数字化时代，文化交流加强，信息革命使沉默的大多数浮出水面，众声喧哗。
一般认为人工智能经历过四个发展阶段。第一阶段是20世纪50-60年代，解决逻辑推理和象棋游戏问题。第二阶段是20世纪70-80年代，创造了专家系统，利用复杂的规则库模拟人类专家的特定决策能力。第三阶段是20世纪90年代-21世纪初，创造了神经网络和基于数据的机器学习。第四阶段是2010年代至今，利用海量数据和大型算力，创造了深度学习，在对奕、图像识别、自然语言翻译等传统人工智能领域取得了突破性成就。这四个阶段还可以合并成两个阶段，头两个阶段的基本思路是符号主义和表征主义，后两个阶段的基本思路是统计学习。前者追求“本质主义”的“理解”，后者追求“黑箱主义”的“实用”。“人工”智能技术上的发展，也影响了人们对“人类”智能之“本质”的认识。表征主义的失败和统计学习的成功似乎表明，人类智能的“本质”是在“学习”中解决“问题”、完成“任务”，而不是有什么“先天本质”。
虽然人工智能只是在近十多年才异军突起、惊艳亮相，但它所产生的影响却颇为惊心动魄。在有些方面，它已经超越了人类智能，比如下棋、导航，甚至可以做出人类科学家做不出来的科学发现（比如AlphaFold精确预测蛋白质结构）；在有些方面已经接近人类智能，比如自然语言翻译、文本写作、驾驶汽车、管理决策等。可以想象，在不远的将来，人工智能还能做得更多、做得更好。飞速发展的人工智能技术会在哪些方面改变社会和人类呢？哪些改变需要我们提前做好准备呢？我认为有两个方面特别重要。
第一个方面是人工智能对人类自由可能的损害。人类技术的本质是对人类生理性缺陷的弥补和替代。每一次的弥补和替代因其有效而使人类固有的缺陷得到巩固和无法弥补。衣服使皮肤的感知力、耐受性和适应能力下降。机动车使人类的运动能力下降。计算机使人的计算能力下降。人工智能因其优秀的理性决策能力，也可能会使人类的自主决策能力下降，这是需要提前引起警惕的。
第二个方面是人工智能的广泛运用必定带来责任主体模糊和责任认定困难，从而带来治理困难。在许多场合，人类将与人工智能联合行动、共同决策，其责任主体不再清晰地归属于人，从而使追责产生困难，动摇社会道德秩序和法律秩序。比如自动驾驶汽车发生事故，责任应该归于算法设计缺陷，还是数据训练不足，还是用户操作不当？再比如AI诊疗系统发生事故，AI控制下的无人机军事行动中发生袭击平民事件，都会发生类似问题。这些都是需要提前研究考虑的问题。
作者介绍
吴国盛，清华大学科学史系系主任、清华大学科学博物馆馆长；研究领域为西方科学思想史、现象学科学哲学与技术哲学、科学传播。
代表作《什么是科学》《时间的观念》《希腊空间概念》《技术哲学讲演录》等。
本文为《新闻与写作》2024年第10期刊首语。