2023年12月15日下午1点30分，中国科学院大学人文学院2023年第22期“科学与人文”讲座在中国科学院大学玉泉路校区人文楼教一2教室举行。中国科学院大学人文学院李大光教授应邀做了题为“科学中的伦理与道德”的讲座，共包括八个部分：（1）冲击传统文化底线的近代科学；（2）科学伦理热点问题；（3）原子弹：感谢还是恐惧；（4）阿西洛马会议：关于DNA伦理问题的第一次学术讨论；（5）IGI生物伦理论坛；（6）科学伦理的哲学思考；（7）爱面子还是面对？（8）人类面临的挑战：喜？忧？
一、冲击传统文化底线的近代科学
讲座伊始，李大光介绍了三个较有争议的近代科学研究案例。首先是大型强子对撞机（Large Hadron Collider）的实验。大型强子对撞机通过粒子碰撞可能产生世界末日现象，包括产生稳定的微观黑洞，或产生被称为奇异子的假想粒子。尽管两项由欧洲核子研究委员会委托进行的安全审查给出了“没有危险，没有理由担心”这一结论，但目前该项实验还是存在较大争议。
第二个案例是对生命体的探究。科学家发现体积为0.009立方微米（微米等于1，000，000分之一米）的细菌，这是迄今为止发现的最小的生命体。科学家们认为，这些微小的生命大概仅仅存活了几十年，很有可能来自外星，由此也引起了对于外太空以及生命体的探索。2014年12月，日本猎鹰“隼鸟2号”太空探测器在距离地球3亿多公里（1.86亿英里）的一颗小行星上着陆，该探测器的任务是寻找生命起源的线索。2017年2月22美国宇航局在新闻发布会上宣布他们发现了7个围绕一颗恒星旋转的类地星球，其中三颗完全在宜居区内。而由史蒂芬·霍金和数十亿美元支持的探测计划也正在进行：我们也许会在一代人的时间内看到一个比地球还美妙的田园世界——半人马座阿尔法星。
第三个案例是科学怪人Craig Venter以及基因编辑事件。Craig Venter创新了基因测序的方式，并在此基础上“创造了生命”：他首先制造了4个DNA碱基，并合成数百万DNA的片段；其次，将这些片断组装成DNA链，形成完整的基因组；最后将合成的基因组注入剔除了遗传物质的细胞中，激活细胞，宣告了人造生命的诞生。该事件引发了众多干细胞移植与治疗及基因编辑事件。在中国有两起事件值得关注。2014年，中国科学家首次完成人类历史上对人类基因组的修饰。黄军就（Junjiu Huang）的小组成功地将28个胚胎中“成功地拼接”的“一小部分”引入DNA。他们还发现了“惊人数量”的“脱靶”突变。虽然具有争议，但是重写DNA仍然获得“2015年突破奖”。2018年，中国深圳的科学家贺建奎通过对双胞胎的基因进行更改，使她们出生后即能天然抵抗艾滋病，引发全球热议。这项研究涉及伦理担忧， DNA的改变可能会损害其他基因，并传递给下一代，从而造成无法预料的问题。
二、科学与伦理的十大热点问题
李大光教授用十个提问引发我们对当下科学与伦理的热点事件进行思考。我们应该给动物权利吗？我们应该编辑我们孩子的基因组吗？我们应该让每个人都“正常”吗？我们应该放弃网络隐私吗？我们应该给机器人杀人的权利吗？我们应该让合成生命形态自由存在吗？我们应该对地球进行地球工程吗？我们应该实行人口控制吗？我们应该移居其他星球吗？我们应该停止做科学吗？
这些热点问题目前仍存在较大争议。比如，在隐私问题上，本杰明•富兰克林（Benjamin Franklin）曾说过:“那些愿意放弃基本自由、去换取一点暂时安全的人，既不值得拥有自由，也不值得拥有安全。”但如果富兰克林今天还活着，他会在哪里划定界限呢?发送加密文本消息的自由至关重要吗?那么保护浏览历史隐私的权利呢?我们想要独处，又想要阻止潜在罪犯进行秘密交流，这两者之间的最佳平衡点是什么?又比如在合成生命自由形态问题上，生物学家乔治·丘奇（George Church）正在创造一种永远不会自然出现的生命形式。他和他的团队正在改变用于制药的大肠杆菌的遗传密码，使它们对所有的病毒都具有免疫力:这是制药行业向前迈出的一大步。但是，如果这些细菌最终进入我们的身体，那么为我们提供良好服务的免疫系统可能会回来“咬”我们。李大光教授认为这些争议的原因和所带来的问题值得我们思考。
三、原子弹：解救人类还是灭绝人类
在该部分，李大光教授向我们介绍了奥本海默和爱因斯坦的故事。1943年奥本海默被任命为担任制造第一批原子弹的“曼哈顿计划”的负责人，于1945年制造出第一颗原子弹，而就在制造成功的不久之后，这颗原子弹被投掷到了日本广岛，造成超20万人死亡。John Hersey 的作品《广岛》对这一景象进行了详细描述。爱因斯坦曾说“我相信Hersey先生已经为（原子弹的）可怕后果描绘了一幅真实的图景。”1955年，在英国著名数学家罗素的号召下，爱因斯泰与罗素联合世界各国的知名科学家一起，发表了《罗素-爱因斯坦宣言》。宣言中包含了如下决议：“鉴于未来任何世界大战必将使用核武器，而这种武器威胁着人类的继续生存，我们敦促世界各国政府认识到并且公开承认，它们的目的绝不能通过世界大战来达到，因此，我们也敦促它们寻求和平的办法来解决它们之间的一切争端。”1955年的迈瑙宣言（Mainau Declaration）也表示：“我们惊恐地看到，正是这种科学给了人类毁灭自己的手段。如果将当今可行的武器全部用于军事用途，地球可能会受到放射性污染，整个民族都可能被毁灭...所有国家都必须作出放弃武力作为最后手段的决定。如果他们不准备这样做，他们将不复存在。”
四、阿西洛马会议：重组DNA与安全首次进入公众视野
1975年2月，由保罗·伯格组织的关于重组DNA的阿西洛马会议（Asilomar Conference）在阿西洛马海滩（Asilomar State Beach）的一个会议中心举行，该会议讨论了潜在的生物危害和生物技术的监管。大约140名专业人士（主要是生物学家，但也包括律师和医生）参加了这次会议，制定自愿遵守准则，以确保重组DNA技术的安全性。这次会议还将科学研究更多地纳入公共领域，其意义可以看作是试图将一种预防措施应用于公众监督。
五、生物伦理论坛IGI（Innovative Genomics Institute）
2015年1月24日，IGI召集了一个由基因组编辑领域的杰出研究人员和思想领袖组成的小型精英小组，从生物伦理学和法律角度来讨论基因组工程领域的当前问题和启示，以及新CRISPR–Cas9技术对研究和工业产生的重要影响。目前，世界各地关于编辑人类生殖细胞的法律差别很大，也并非只有专业人士才能破解基因组，不少商业集团及其领袖比如盖茨、谷歌和杜邦也都希望参与到基因编辑行动中来。因此，人类胚胎的基因改造始终是一个有争议的话题。该小组对此展开了探讨，并将建议的摘要发表在Science杂志上。
六、科学伦理的哲学思考
事实上，伦理已经是科学界默认的准则。伦理是在我们的行为和决定中定义对与错的一套道德义务。许多职业都有一套正式的职业道德体系来指导该领域的专业人员。例如，医生通常会遵守希波克拉底誓言(Hippocratic Oath)，该誓言规定医生“不伤害”病人。工程师遵循一种道德准则，即他们“将公众的安全、健康和福利置于首位”。在这些专业领域，以及在科学领域，这些原则变得如此根深蒂固，以至于实践者很少需要考虑遵守这些伦理——这是他们实践方式的一部分。
科学中的许多伦理原则都与不带偏见的科学知识的产生有关。当其他人试图建立或扩展研究成果时，遵守科学伦理是至关重要的。科学伦理所要求的数据公开发布、同行评议、复制和合作，有助于通过对研究结果的确认或质疑来保持科学的前进。
科学伦理要求在科学实践的所有阶段都要诚实和正直，从不偏不倚地报告结果到正确地确定合作者的身份。这一伦理体系指导着科学实践从数据收集到出版的各个方面。与其他职业一样，科学伦理深深融入了科学家的工作方式，他们意识到，他们的工作和科学知识的可靠性一般取决于坚守这一伦理。
我们要避免科学伦理的错误。李大光教授指出，我们需要注意科学数据报告中的诚信问题；认真誊写和分析科学结果，避免错误；根据数据而非外部来源的影响对结果进行独立分析和解释；通过出版和展示公开分享方法、数据和解释；通过复制和与同行合作对结果进行充分的验证；对信息、数据和思想来源的适当信任；对社会的道德义务，以及在某些学科中，权衡人类和动物的权利方面的责任。
七、爱面子还是勇于面对？
2023年3月中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》。这是2019年国家科技伦理委员会成立之后，我国科技伦理治理的又一标志性事件。2022年3月23日上午，科技部召开新闻发布会，来自相关部门的领导和专家就《意见》进行了解读。近年来，中国科技创新快速发展，越来越多的前沿探索闯入“无人区”，面临的科技伦理挑战也日益增多。科技部副部长、党组成员相里斌表示：“我们也要看到，我国科技伦理治理工作总体上起步较晚，体制机制不健全、制度不完善、领域发展不均衡等问题仍比较突出，对科技伦理治理提出了更高要求。”“遵循增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明”是本次意见明确的五个基本原则，而“伦理先行、依法依规、敏捷治理、自足国情、开放合作”则是《意见》中确立的五个科技伦理治理要求。李大光教授认为，该意见是针对国外对中国的科技伦理问题讨论的改善措施。
八、人类面临的挑战：喜？忧？
从艾文·图灵论文中对“机器能思考吗”的疑问，到1997年深蓝打败象棋大师加里·卡斯帕罗夫，人工智能的发展速度十分迅猛。2014年，美国范德堡大学（Vanderbilt University ）发明用于治疗脑部手术的机器人；2017年，由科大讯飞和清华大学联合制作的机器人通过了全国医学考试；2017年Facebook发现人工智能开发了自己的非人类语言；2022年，对话模型Chatgpt横空出世。人工智能的发展引起了人们的震惊与关注。
阿姆斯特丹大学心理学家Van Dis和Bockting在今年早些时候提出，迫切需要制定一套“活的”指导方针，来管理如何使用和开发人工智能和GPT-4等工具。他们担心，任何关于人工智能技术的立法都将难以跟上发展的步伐。他们于2023年4月11日在阿姆斯特丹大学召开峰会，讨论这些问题。与会代表包括联合国教科文组织科学伦理委员会、联合国科学和文化机构、经济合作与发展组织和世界经济论坛。
针对于探究人工智能等科学技术对于公众的影响的问题，李大光教授认为我们可以学习《微粒社会》一书的理念。在大数据时代我们应该从科学文化角度研究公众对科学技术的理解和态度，仅仅从单维角度探究公众的科学素养或公众对科学技术的理解，不仅不会得出真正的结果，而且可能会误入歧途。
【主讲人简介】
李大光，中国科学院大学人文学院教授，国际科学素养促进中心研究员，国际纵向青少年研究中心筹备委员会委员，美国西北大学生物医学传播研究中心特聘研究员。2002年获科技部、中宣部、中国科协联合颁发的“全国科普先进工作者奖”，2010-2011学年传播学A课程获中国科学院大学“校级优秀课程奖”。译作《魔鬼出没的世界》获首届（2002年）“吴大猷海峡两岸科学普及著作奖”；著作《科学传播简史》获2017年“文津奖”12本科普书第二名，2021年“全国科普日”推荐8本好书第二名。
