新兴科技伦理治理的问题及其对策

　　近年来，人工智能、大数据、合成生物学等新兴技术的迅猛发展引发了一系列的伦理争议，使传统科技治理模式因缺乏科技伦理的维度而难以应对，这就需要在科技治理中增加科技伦理的维度，由此形成了科技伦理治理的新概念，即以治理推动科技伦理和以伦理保障科技治理。本文以此为理论出发点，剖析当前科技伦理治理过程中存在的治理对象不明确、治理原则不统一、治理意识不强、治理机制不完善等实际问题。与之对应，从明确科技伦理治理的对象、凝练科技伦理治理的核心思想、提升科技伦理治理的意识、完善科技伦理治理的机制四个方面提出应对措施。

　　近年来，人工智能、大数据、合成生物学、区块链等新兴技术的迅猛发展引发了一系列伦理争议，传统科技治理模式因缺乏科技伦理的维度而难以应对这些争议，由此推动了科技治理向科技伦理治理的转变。

　　20世纪90年代，治理（governance）的概念兴起于公共管理领域。在当代话语体系中，“治理”往往有特定的修饰词，如国家治理、社会治理、公共治理、环境治理等，这也蕴含着治理的不同内涵。

　　科技治理作为其中的一个分支，可以看作是治理理论在科技领域的延伸。因此，按照治理理论的创始人之一詹姆斯·罗西瑙（James N. Rosenau）对治理的界定，可以将科技治理理解为政府、公众、社会组织、科学共同体等多元主体共同参与，通过平等的合作、协商、对话等方式解决科技问题的持续互动过程。

　　科技治理的模式主要体现为多中心治理和多层级治理两种模式。多中心治理强调以单一国家或多国联盟为治理模式，其治理中心有机并存于科技治理整体模式中，主要体现在区域共同体或多国联盟进行科技治理的过程中，例如欧盟成员国在纳米技术治理、转基因技术治理等新兴技术的治理过程中往往采用多中心治理的模式。多层级治理模式强调治理的层次性，是一种适用于单一国家内部不同行政主体针对科技治理问题的治理模式。多层级治理涉及府际关系，如国际组织、中央政府、地方政府之间的互动，例如法国的科技治理采取就是这种多层级治理模式。

　　科技治理的主要特点体现为中央和地方政府间纵向和横向科技活动的复杂结合，这样的结合又可以分为协同、依赖、导向以及耦合等四种科技治理关系。从科技治理工具上看，国际间的科技治理工具主要包括7种，分别是：超国家法律、嵌套性规则、监管式自治、集水区规则、规则转移、联合规则、相互认可与调试。而主权国家内部的科技治理可以采用结构式强制工具、合同式诱导工具、互动式影响工具等。

　　总体看来，传统科技治理的核心关注点就是科技、社会和政府之间的关系，既包括自上而下的科技管理和科技立法，也包括自下而上的基层治理与协商治理，是政府与社会治理主体共同治理与科技相关问题的过程。

　　科技伦理是指为实现科技目标，科技活动应当遵循的价值观和行为准则。科技伦理的状况标志着社会的文明程度，也将决定科技与人类未来的走向。

　　科技伦理的萌芽可以追溯到古代。古希腊时期的希波克拉底誓言提出了“为病人服务”的伦理规范，阐明了处理医患关系的道德规范和医德修养的目标要求，这是当时科技伦理思想的典型代表。中国古代的科技伦理思想主要体现为“以道驭术”，即技术行为和技术应用要受伦理道德规范的驾驭和制约，这是科技伦理思想的东方萌芽。

　　近代以来，科技伦理逐渐形成体系。近代科学的出现，动摇了中世纪神学的统治。科学探索开始崇尚诚实、严谨、忠于事实的求实精神和善于分析、细心求证、多元包容的理性精神。随着科学研究的职业化和组织化，科学家从其他社会角色中分化出来，成为一种特定的社会角色，形成科学共同体，并由此形成了特定的职业伦理或学术团体的道德准则。

　　科技伦理研究的建制化大致始于20世纪60年代，一方面是受到STS及应用伦理学等的影响，另一方面主要源于当时一系列社会运动引发的伦理反思。

　　20世纪60年代，STS研究兴起并从社会建构的角度反思科学与技术，成为科技伦理思想的一个重要来源。1963年，法国技术哲学家雅克·埃吕尔（Jacques Ellul）发表了“技术秩序”（The Technological Order）一文，反思技术自身的自主性对人类社会生活的重要影响。1967年，美国技术哲学家刘易斯·芒福德（Lewis Mumford）在其著作《机器的神话》（The Myth of the Machine）中提出了“巨机器”的概念，认为技术的发展可能会导致“巨机器”的伦理困境。1979年，德国哲学家汉斯·尤纳斯（Hans Jonas）发表了德文著作《责任原理—工业文明之伦理的一种尝试》（The Imperative of Responsibility: In Search of an Ethics for the Technological Age），强调技术行为要对遥远的未来和子孙后代负责，这一思想在世界范围内引起了广泛的影响，成为了科技伦理的奠基之作。而几乎在同一时期兴起的应用伦理学同样为分析现实社会中出现的重大问题建构了一种伦理的维度，为解决这些问题引起的道德悖论和伦理冲突创造了一个对线世纪以来的一系列重大社会运动及社会事件，直接引发了社会大众对科技伦理的关注和反思。其中，第二次世界大战中核武器造成的毁灭性灾难促使人们反思科学家的社会责任，科学家的责任伦理成为当时的重要议题。1962年，蕾切尔·卡逊（Rachel Carson）的《寂静的春天》（Silent Spring）一书的出版激起了巨大影响，工业化国家中的社会大众开始反思科学技术带来的环境污染问题。美国公共卫生部（U. S. Public Health Service ）自1932年开始在塔斯基吉对400名黑人进行观察而不治疗的梅毒实验，1972年被曝光后引起了公众强烈的声讨，促使美国政府成立了国家生物医学与行为研究受试者保护委员会，并于1978年出台了《贝尔蒙特报告》，用以保护受试者。

　　到了20世纪中后期，生命科学的三大突破—基因工程、基因组计划、克隆羊的成功，预示着生物学的来临，与之相关的生命伦理问题再次得到了广泛的关注。此外，互联网的普及以及由此带来的信息也引发了人们关于信息伦理的反思，而且由互联网技术作为开端的新兴技术的产生更是促使人们关注技术会聚带来的伦理影响。至此，现代意义上的科技伦理成为一个独立的研究领域，关注科学研究活动和技术活动带来的相关伦理问题。

　　科技治理与科技伦理在各自领域日渐成熟的同时也面临着一个共同的难题，新兴技术带来的伦理问题该如何治理？以传统科技治理的模式与工具来解决新兴科技产生的伦理问题时会表现出“强硬”的一面，新兴科技的伦理不确定性无法保证现有治理手段的有效实行，而以科技伦理的原则和方法来规范新兴科技的治理问题又会表现出“软弱”的一面，因为伦理原则和方法的内在培育机制无法保证治理的强度和力度。由此，在面向人工智能、大数据、合成生物学等新兴技术产生的伦理争议时，需要在科技伦理原则和规范的指导下，发展科技治理的理念和方法，增加伦理治理维度，即科技伦理治理。

　　科技伦理治理可以从两个层面来理解，即以治理推动科技伦理和以伦理保障科技治理。以治理推动科技伦理这个层面强调的是以科技治理的方法、原则、工具来治理科技伦理的具体问题，例如由人工智能技术、大数据技术等新兴技术引发的关于人类自主性、隐私安全等伦理问题。以伦理保障科技治理这个层面强调的是科技伦理的价值导向为具体的科技治理框架和行动提供了保障，应当积极发挥科技伦理在社会治理过程中的作用。

　　在我国，科技伦理治理作为一个整体概念是近期形成的，但科技伦理治理的思想可以追溯到20世纪90年代。一方面体现为通过条例化和法制化的方式治理科技伦理问题，即世界各国家（地区）相继出台相应的条例和规定，以规范科学技术符合伦理的发展；另一方面，科技伦理的相关治理机构相继成立，成为科技发展的主要治理和监管机构。

　　从20世纪90年代起，各类正式的科技伦理团体成立，并形成了一些重要文件。1997年10月—11月召开的联合国教科文组织（UNESCO）第29次会议，批准成立了“世界科学知识与技术的道德世界委员会”（The world commission on the ethics of scientific knowledge and technology，COMEST），该委员会作为知识分子交流思想和经验的论坛，致力于促进科学共同体和决策者、公众之间的广泛对线月，UNESCO和世界科学理事会（ICSU）在匈牙利首都布达佩斯召开了世界科学大会（WCS）。会议认为，各国政府应当鼓励设立相应的机构来处理与科学知识的利用和应用有关的伦理问题，而非政府组织或科学机构则应积极地在其主管领域成立伦理委员会。2002年9月，“科学道德与责任常设委员会”（The standing committee on responsibility and ethics in science，简称SCRES）完成了对世界各地不同资源的伦理标准的分析，并形成《科学伦理和责任的标准：经验性研究》和《科学伦理和责任的标准：内容、背景和功能分析与评估》等文件。2017年，UNESCO发布了《关于科学和科研人员的建议》，这是继1974年以来的第39版，为科研人员的科技活动提供了可参考的道德标准。

　　另外，科技伦理的管理机构主要体现为伦理委员会，伦理委员会有国际层面、国家层面、地方层面、机构层面等。例如国际生物伦理学委员会（IBC）成立于1993年，为生物伦理思考提供了全球平台，该委员会致力于生命科学及其应用的研究，以确保对人类文明和自由的尊重。全球伦理观察站（Global Ethics Observatory，GEObs）是一个全球性的数据库系统，涵盖了生物伦理以及其他科学与技术的应用伦理领域，如环境伦理、科学伦理、以及技术伦理。此外，还有美国总统生命伦理委员会、中国国家卫生计生委医学伦理专家委员会，以及高校、医院、科研机构等内设的伦理委员会，如机构伦理审查委员会（IRB）、药物临床试验伦理委员会、器械临床试验伦理委员会、器官移植伦理委员会、生殖医学伦理委员会、动物伦理委员会等。

　　总体看来，从科技治理到科技伦理治理的发展不仅是重要的，而且是必要的，这不仅有助于应对当前新兴科技引发的伦理治理困境，而且有助于引导未来新兴科技的良性发展。

　　近年来，随着新兴技术自身的迅猛发展，对新兴科技的伦理治理也凸显出了紧迫性和必要性。最近几年，从“黄金大米”到“换头术”再到“基因编辑婴儿”，我国相继出现了违背科技伦理的事件，这敦促我国加快推进科技伦理治理的脚步。2019年的《政府工作报告》在要求“加大基础研究和应用基础研究支持力度，强化原始创新，加强关键核心技术攻关”的同时，还提出了“加强科研伦理和学风建设”，表明国家对前沿科技领域伦理建设的高度重视。另外，2019年7月24日，中央全面深化改革委员会第九次会议审议通过了《国家科技伦理委员会组建方案》，2020年10月21日国家科技伦理委员会正式成立，这表明科技伦理建设已进入国家战略决策层视野，成为推进我国科技创新体系中的重要一环，也成为了推进国家治理体系与治理能力现代化的重要手段。种种举措表明，科技伦理治理迫在眉睫。然而，治理什么、如何治理、治理效果如何反馈等问题仍有待解决。

　　一般认为，新兴科技指的是刚投入生产或尚未投入生产的开发研究技术或工程技术，并且是尖端科技或者尖端科技间的融合，如新一代会聚技术NBRIC（纳米技术、生命技术、机器人技术、信息和通信技术、应用认知科学）就是新兴科技的典型代表。当前，新兴科技仍处于迅猛发展阶段，尚未形成固定的发展模式，由新兴科技引发的伦理问题也层出不穷。正是因为这种新兴科技自身及其伦理问题的不确定性，对新兴科技进行伦理治理就必须先回答治理对象这一核心问题。从目前的研究成果看来，对科技伦理治理的关注多集中于伦理治理的概念辨析、伦理治理的价值和原则、伦理治理的方法和机制等问题上，而对科技伦理究竟治理什么这一问题的回答仍不够明确。实际上，对这一问题的回答包括了两个层面，第一个层面是哪些新兴科技涉及到伦理治理，而第二个层面则是哪些由新兴科技引发的伦理问题需要治理？

　　尽管对新兴科技进行伦理治理的意向已经达成，但是采用何种原则进行伦理治理仍然无法统一。以人工智能的伦理治理为例，国内外先后出台了一系列伦理治理指南和规划，其中的治理原则不尽相同。例如，欧盟委员会于2019年4月发布了由人工智能高级专家组编制的《可信任人工智能的伦理指南》（Ethics Guidelines For Trustworthy AI），重点指出“可信任AI”应当体现如下四个原则：

　　2017年12月，美国电子电气工程学会（IEEE）发布了第2版“人工智能设计的伦理准则”（Ethically Aligned Design V2），指出人工智能的伦理设计、发展和实施需要遵循人类权利、福祉、问责制、透明性、慎用这五个伦理原则。2017年，“阿西洛马人工智能原则”（Asilomar AI Principles）被提出，其中伦理原则有13条，分别是：

　　安全性、故障透明性、司法透明性、责任、价值归属、人类价值观、个人隐私、自由和隐私、分享利益、共同繁荣、人类控制、非破坏、避免人工智能军备竞赛。

　　日本内阁府2018年发布《以人类为中心的人工智能社会原则》，提出构建安全有效的“AI Ready社会”的概念，遵循如下伦理原则：

　　我国国家新一代人工智能治理专业委员会于2019年6月发布《新一代人工智能治理原则—发展负责任的人工智能》，提出了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理这八条治理原则。可见，不同的治理主体对伦理治理原则的侧重点不同，这就引发了科技伦理治理原则方面的难题，即新兴科技的伦理治理究竟应该遵循哪些原则呢？

　　普遍来说，当前我国的各类社会团体、大中小型企业等社会组织对科技伦理的认识尚有不足。尤其是各类科技企业，对新兴技术可能产生的伦理危害预估不足，科技伦理意识有待提升。而且，各类科研人员对科技伦理的认识也不够深刻，根据中国科协2018年的一项调查，近九成科技工作者认为违反科研伦理道德的行为具有很大危害性，但完全践行科研伦理道德的人较少。只有不到1/4的科技工作者表示总是会“在项目方案设计和研发过程中，考虑研究所涉及的科研伦理问题”，约有1/4—1/2的科研人员不会考虑潜在风险而继续推进科研活动。此外，高校学生对科技伦理的认识不够深入，甚至错误地将伦理视为科技发展的束缚而拒绝科技伦理意识培育。在对高校理工科学生的科技伦理意识调查中显示，对于“伦理道德对科学起到的作用是否就是束缚和限制?”这一问题，90.6%的人认为“是”。可见，我国当前的科技伦理治理意识相对薄弱，未能正确认识伦理治理在科技发展过程中的重要作用。

　　由于伦理治理的特殊性，科技治理的制度并不能简单移植到科技伦理治理的过程中。当前，科技伦理治理主要集中在医学领域，主要途径为医学伦理委员会的伦理审查。但是，生命医学领域的伦理审查如何运用到人工智能、大数据、区块链等新兴科技的伦理治理过程中？伦理审查的结果如何为伦理治理提供有效支撑？除伦理审查以外，还有哪些其他的伦理治理工具应对新兴科技的伦理难题？此外，科技治理主要采取以政府为主导，学术共同体、企事业单位、科研院所等治理主体共同参与的治理模式。该模式下如何保证各个治理主体之间的协同作用？以及如何保证治理活动过程中的有效性？

　　总的来说，新兴科技自身的不确定性、隐象性和伦理滞后性加大了伦理治理的难度，需要全方位、多中心、多层级建构科技伦理治理体系，提升科技伦理治理能力。

　　新兴科技的伦理治理仍处于探索阶段，对于上述种种问题，可以从明确科技伦理治理的对象、凝练科技伦理治理的核心思想、提升科技伦理治理的意识、完善科技伦理治理的机制四个方面提出应对措施。

　　新兴科技的发展将价值关注点从客体性价值转变到主体性价值，主体性价值关注的是人类自身的价值，即敏感价值。当前新兴科技的发展引发了一系列关于人类主体性敏感价值的争议，比如人工智能技术的发展引发了一系列关于AI会不会伤害人、AI会不会取代人、AI会不会超越人的讨论，合成生物学引发的关于生命是否可以被设计、人的生命本质是什么这些深层次疑虑。具体说来，敏感价值主要包括利益与福祉、自由与自主、生命与尊严、人性与权利、安全与环境、平等与公正、责任与信任。而关键领域就是指涉及到以上敏感价值的新兴科技领域，例如人工智能、机器人、大数据、基因技术、生殖技术、合成生物学、认知增强、纳米技术、神经生物学、认知科学、区块链技术、化工和环境等大型工程等。敏感价值和关键领域的交叉地带是科技伦理治理的重点对象，详见表1。“敏感价值+关键领域”的方法能够有效识别科技伦理治理的对象，“关键领域”重点解决哪些新兴技术涉及到伦理治理，“敏感价值”重点解决哪些由新兴技术引发的伦理问题需要治理。

　　考虑到科技活动本身的多样性和特殊性，难以形成科技伦理治理的统一标准，因此需要以一个具有普遍性意义的思想理念作为核心指导思想，再针对具体的科技活动提出细化的治理原则和价值。负责任创新理念恰好可以为此提供思想来源。负责任创新强调伦理可接受性（ethical acceptability）、风险管理（risk management）和人类利益（human benefit）三个方面，并且强调在研究与创新过程的初期就尽可能地了解其行动后果和所面临的选择范围的影响，同时有效评估涉及社会需求和道德价值的结果与选择，最后将以上考量作为新的研究与创新的功能性需要。以负责任创新理念为指导思想展开新兴科技的伦理治理主要体现为三个并列环节（见图1）：

　　（1）伦理评估，以预禁原则为前提，对新兴科技可能引发的伦理困境予以评估，对伦理上无法接受的新兴科技叫停或慎重发展；

　　（2）风险评估和管理，对于新兴科技可能引发的社会、伦理和法律风险建立相应的风险评估制度，同时强化治理主体之间的信任关系以确保风险评估和管理的有序进行；

　　（3）价值冲突选择，对于新兴科技可能引发的伦理冲突和价值冲突予以排序，以全人类的利益为出发点，在价值冲突时应当做出合理的抉择。

　　从伦理学的理论基础上看，科技伦理学的发展应当由规范伦理学（功利主义伦理学和义务论伦理学的统称）向美德伦理学和关怀伦理学转变，以规范伦理学为基础的科技伦理研究，体现的是对科技活动目的性行动和后果的控制，这对于约束以往的常规科技发展有着重要的作用，但是对于难以预测和控制的新兴科技而言，规范伦理学强调的一般性伦理原则有时难以起作用，因此需要转向美德伦理学视角下的科技伦理研究，这实际上主张确立科技伦理的德性伦理基础，重新唤起对亚里士多德的“实践智慧”的关注，强调科技人员和社会大众自身的美德和关怀责任，从根源上发挥科技伦理的作用。因此，推广科技伦理教育，培育科技伦理意识对于科技伦理治理的发展而言具有十分重要的意义。

　　具体而言，应当加强科技伦理教育，将科技伦理思想渗透到个人的学习生活中，从个体层面强化什么是伦理上应该做的和什么是伦理上不应该做的，进而加强科技伦理的渗透性。壮大科技伦理建设团队，呼吁各级政府职能部门、高等院校、科研院所和企事业单位组成科技伦理研究团队，加强经费支持与平台建设，鼓励建设中国特色的科技伦理研究，提升中国特色科技伦理学的国际影响力与话语权。在中小学、职业学校、高等学校开设相关科技伦理课程，将科技伦理纳入工程教育与工程培训的重要内容之中，在各级职业工程师的资格认定中加入对科技伦理的考评要求。鼓励各级职能部门加大对科技伦理的培育力度，面向全社会加强科技伦理普及教育，锻造一支专业性强、立场坚定、科技伦理意识高的科技伦理建设队伍。此外，应当加强培育科技伦理的文化支撑，形成适合科技伦理发展的文化环境，以适合科技伦理发展的文化环境保障科技伦理治理的全面展开。

　　（1）凝聚科技伦理建设共识，夯实国家关于科技伦理建设的决策基础。积极推动各级党和政府组织从事相关科技工作的代表、政协委员、企业家代表、科技伦理工作者代表、工人代表等利益相关者召开协商交流会，集思广益形成科技伦理发展共识，促进科技伦理建设的立法工作，加快形成国家层面的顶层设计。

　　（2）建立体系化的法律法规制度，使科技伦理工作有法可依。科技伦理法制化是为科技伦理的建设提供强有力的法律保障，将科技活动中的伦理审查和伦理评估上升为制度层面，对违背科技伦理规范的行为予以适当的惩戒。

　　（3）完善科学技术体系的全方位建设，将伦理规范纳入科学技术评价指标之中，在高校、科研院所、企事业单位、政府相关部门大力开展科技伦理失范行为排查和自纠，对于在伦理方面突出表现的各单位部门予以表扬，使科技伦理建设与科技成果激励形成内外呼应，使科技伦理线）加强科技伦理委员会全过程度建设，科技伦理委员会应切实做到事前审批、事中监督和事后跟踪的全过程伦理制约作用，还应当扩大科技伦理委员会的成员范围，不仅要有科学家，还应当涵盖伦理学家、企事业单位管理人员、科技研发人员、群众代表等利益相关者。此外，还应当统一伦理评估的标准和评估权限，要实现遵循核心原则的前提下具体问题具体处理的灵活方法，使科技伦理委员会真正地发挥作用。

　　对于其他社会治理主体，推进科技企业的伦理建设，将伦理审查和伦理评估纳入企业发展的重要指标之中，并将其作为考察企业社会责任的主要内容。不仅要大力培育科技人才学习伦理知识，也要吸纳科技伦理学家、科技伦理工作者进入到企业科技创新研发之中。加强社会参与度，组织开展各类社会培训和研讨班，宣传科技伦理知识，使科技伦理成为科技发展的助推力，广泛组织相关的国有企业、民营企业主要责任人参加各行业系统内的科技伦理培训，并将科技伦理知识纳入到各国营企业系统党校的教学内容之中。激发社会大众的科技伦理意识，通过主流媒体引导社会反思，宣传正面典型案例，抨击违反科技伦理的不道德案例，唤起社会大众的伦理责任感与社会正义感，通过提出公共话题，鼓励不同行业、阶层、界别的人士积极参与科技伦理讨论，形成共识，在社会公共层面形成广泛且深厚的科技伦理发展氛围，为国家科技伦理建设提供动力支撑。

　　新兴科技的融合发展将引发新一轮的伦理学，智能技术和生物技术的融合或许是人类最后的发明，基于智能的生物技术和基于生物的智能技术正在逼近人类创世的极限。“人造生命”之父文特尔曾说“机械的数字世界与生物学的融合将为创造新的物种和引导未来的演化开启一扇前所未有的发展潜力之门。”基于这样的科技特征，对新兴科技的伦理治理将呈现出分块治理与融合治理并重、制度化建设和美德养成并重、客体性价值与主体性价值并重、国际化治理和本土化治理并重的趋势。从国际科技格局的视角看，只有重视科技伦理治理的发展，才能在国际科技格局竞争中脱颖而出。这是因为科技全球化的发展推动了世界各个国家在科技创新领域的飞速发展，尤其是关键性技术。而保障这些关键性技术顺利发展的重要手段就是科技伦理，只有符合人类基本伦理规范的新兴技术才能得以顺利研发和应用。因此，我国科技伦理治理的下一个阶段目标就是通过制定合理的科技伦理治理机制实现对我国关键性技术的伦理治理，并且通过对多元文化背景下的科技伦理治理差异性与共识性的研究，在科技伦理治理方面建构我国的学科体系、学术体系、话语体系，从而建构引领世界的科技伦理治理议程。

　　产业 工业化 数字化 人才 创新创业 颠覆性技术 科技指标 科技政策 前沿技术 知识产权 智库