伊彤｜科技伦理： 路标还是刹车阀？

　　随着人工智能、大数据分析、基因技术等新兴科技的迅速发展，新技术所具备的风险性、不确定性、“双刃剑”等特点引发了一系列实质性和程序性的科技伦理问题。人类应当使用何种新技术和如何应用新技术，正在成为科技伦理治理需要关注的核心问题。

　　多年来，我国的科技伦理研究以及重点领域的伦理规制不断推进，取得了可喜进展，但较之科学技术的迅猛发展态势，仍处于相对滞后的局面。特别是近几年来，由生物医药、新一代信息技术、人工智能等高技术快速发展引发的伦理挑战相对更为显著。例如，生物医药技术领域面临着医药技术快速发展与缺乏实质伦理研究之间的冲突，体现为伦理审查标准和规范缺失、缺乏可操作性强的审查技术规范等医学伦理问题，包括人类生殖伦理、人体器官移植、受试者权益保护等诸多问题带来的挑战。新一代信息技术领域面临着个人隐私保护范围界定、数字鸿沟以及大数据环境下伦理准则制定权等问题。人工智能领域所面临的伦理风险与挑战包括存在性风险对人类主体地位的挑战、数据泄露和信息泛滥、权利与责任认定、生产劳动岗位替代带来的社会问题等：特别是自ChatGPT问世以来，在竞争热潮的另一面，已经有人在试图冷处理这场“热战”，包括“深度学习之父”杰弗里·辛顿在内的一些专家们认为，在今天，对A虹伦理风险的预警比对技术进步的鼓呼更为迫切，“我们已经到了一个在科技和伦理上有颠覆性的时代，也是一个需要新的社会契约的时代。”在这种形势下，各级政府处理科技伦理问题的智慧、速度、效率和方式都为其在未来的科技伦理考量中如何与公众沟通以及沟通的效率与方式提出了新的需求和挑战。可以这样说，我们正处在做决定的关键时刻，以尽早拨开迷雾，认清路在何方。

　　未来我国科技伦理治理的基本理念有哪些？在此尝试提出以下判断：

　　一是保驾护航，稳健发展。科技突破和人类社会伦理之间不是零和游戏，科技伦理不能简单理解为一种制约或刹车机制，而是一种正确的科研价值观，它明确了科学技术活动的底线，可对科技发展起到保驾护航、避免踩线的作用。

　　二是双轮驱动，伦理先行。能不能做是科学技术问题，应不应做是科技伦理问题，必须要在科学研究和技术开发的一开始就将伦理问题考虑进去。以人工智能为例，只有尽快建立完善的人工智能伦理规范，处理好机器与人的新关系，才能更多地获得人工智能红利，让技术造福人类。

　　三是行业自律，多元协商。要从国家创新体系和国家治理体系建设的层面来考虑科技伦理体系建设问题，鼓励相关行业通过协商形成共识，制定行业规范；同时，也需要不同学科和领域的专家、学者以及政府、媒体和公众共同参与科技伦理问题的防范与治理。

　　四是行业区隔，分层分级。对于不同行业，应避免“一刀切”的伦理监管标准，而是按照分类管理的思路，建立不同的伦理准则以及分层分级的伦理审查体系和相关管理制度。

　　（伊彤 北京市科学技术研究院创新发展战略研究所所长、研究员，本刊编委）

　　引用本文:伊彤. 科技伦理: 路标还是刹车阀?[J]. 中国科技论坛, 2023(6): 0-0.