人文学院 人文学院

         2021年5月28日星期五下午14时，中国科学院大学人文学院2021年第10期“科学与人文讲座”在玉泉路校区人文楼教一阶举行。本次讲座特邀中国社会科学院哲学所段伟文教授作了题为“人工智能时代的智能折叠与伦理重构”的报告，中国科学院人文学院历史系苏湛副教授主持了本次讲座。

讲座开始，段老师简要介绍了当代高科技对我们提出的伦理挑战，主要包括基因技术、机器人技术、安乐死、人类增强以及人工智能等领域。其中，重要伦理问题主要有人格尊严、公众隐私以及人类福祉等。接下来，段老师通过呈现阿西莫夫提出的机器人三定律进入了讲座的主题：即随着数据驱动的人工智能的发展，我们已经逐步进入到人类智能与机器智能相互结合的智能折叠时代。这主要表现在如下方面：第一是人机共生的时代已经逐步到来，如智能机器在教育和医疗等领域的广泛应用、智能机器的泛主体化（如全自主的人形机器人以及赛博格等）、基于人类主体与智能机器相融合的超人类主义（包括建造具有自我意识和主体意识的智能机器以及通过脑机接口等技术实现人类智能的彻底改造等）；第二则是在网络社会的时代，作为“认知—干预”的社会计算成势。社会计算就是用计算机分析人的搜索、浏览和购物等线上活动的行为数据，发掘其中蕴含的规律和模式。随后，段老师对社会计算涉及的认识论问题进行了简要分析。

其次，段老师论述了数据智能与智能算法所带来的社会伦理问题。段老师指出，这个被数据智能统治的时代同时也是一个一切都被记录和分析的时代，内容算法的应用带来了推荐内容的重复以及负面诱导等问题。而且，广告驱动的算法具有价值上的狭隘性，这主要表现在内容推荐系统主要建立在对人的购买数据的推测之上，还有购买行为不能完整和准确地反映人的价值观和对生命意义的追求，因此算法的滥用日益成为一种“数学杀伤性武器”。此外，社会计算打破了“无知之幕”的挑战。由于社会计算的运用，个人身份、情绪、健康状况等将变得透明化，由此必将对“无知之幕”这一传统的维系社会公正的现实条件带来冲击。如何设置新的“无知之幕”以维系必要的社会公正，无疑带来了技术和伦理两个层面上的挑战。因此在加速发展的智能化技术社会中，人的脆弱性日益凸显。

最后，段老师讨论了走向共建性的人工智能伦理与治理问题。段老师认为人工智能伦理的短期问题主要涉及人的权利（如隐私），以及人在教育和就业方面的去技能化问题；长期问题则涉及超级人工智能风险和人类生存风险问题；而最根本的问题则是：人类智能在多大程度上将被机器智能所替代。段老师指出，要实现人类物种的自我拯救，我们应当构建以人类为中心的AI：这体现为负责任的AI；可信任的AI；可解释的AI；可追责的AI。新一代人工智能伦理规范的基本要求则体现为：增进人类福祉、促进公平公正、尊重个人隐私、确保人类可控、尊重个人隐私、强化责任担当、确保人类可控、提升伦理素养。在报告结尾阶段，段老师结合人脸识别的具体案例对人工智能时代的价值审度与伦理治理进行了分析。

报告完成后，胡志强讲授对之进行了简明扼要的点评，指出段老师的报告揭示了高科技对社会伦理带来一系列挑战的深刻问题，值得我们认真反思。接着，段老师解答了部分同学提出的相关问题。本次讲座在热烈的掌声中圆满结束。

【图/王帅翔，文/王帅翔】

【主讲人简介】

段伟文，中国社科院哲学所科技哲学研究室主任、研究员，博导。主要研究领域为科技哲学、科技伦理、信息与智能的哲学、伦理和社会研究。担任中国大数据专家委员会副主任委员，中科院学部科学规范与伦理研究支撑中心学术顾问等。近著有《信息文明的伦理基础》（2020）、《可接受的科学:当代科学基础的反思》（2014）等。