点击右上角
微信好友
朋友圈

请使用浏览器分享功能进行分享

假如有一天AI不仅能写文章、画画,还能直接在电脑里设计出自然界根本不存在的新生命,甚至是非常可怕的病毒,这个世界会变成什么样?前段时间网上有一条消息吓坏了不少人,说科学家用AI成功创造出了16种自然界完全不存在的新病毒。很多人第一反应就是,AI是不是要彻底失控了?人类是不是马上就要面临莫名的灾难了?
这件事的真相其实完全被误读了。斯坦福大学与 Arc 研究所的科研团队的确用AI设计并合成了16种新的生物体,但它们叫作“噬菌体”。在生物学分类上,噬菌体确实属于病毒的一种,但它有一个极其重要的特性,它只针对并攻击细菌,通常不会感染人类或者其他动物。相反,这项研究还为耐药菌的噬菌体疗法开辟了新思路。
但为什么一到了公共传播领域,就变成了让人人心惶惶的“人造病毒危机”?这就带出了一个严肃的科技伦理问题:当AI让基因设计的门槛变低,成果公开发表后如果引发了大众误解,科研人员和媒体到底该承担怎样的伦理责任?
大家心里最深层的恐惧,是AI会不会直接凭空搞出一个致病力强、传染性极高的新型杀手级病原体。对此,权威科学界把相关能力明确分成了两类:一类叫“复制”,也就是按照已知序列重造既有病毒,这在二十多年前就已经搞通了;另一类叫“从头设计”,也就是完全凭空创造一个兼具高致病性和高传播力的新病毒。根据顶级机构评估,目前靠AI直接从零设计出新型病原体,在技术上完全不具备可行性,大家不需要过度焦虑。
可我们也不能掉以轻心。AI确实大幅降低了技术门槛,以前要耗费顶尖团队几年时间筛选的基因结构,现在AI或许几天甚至几小时就能设计完成。门槛降下来了,安全防护的难度自然就飙升了。如果只靠科研人员个人的道德自律,那是远远不够的,必须要有科学完备、有效管用的制度和法律来托底。
在这个关键节点上,我们的国家政策早就作出了非常明确且前瞻性的部署。早在2022年,中共中央办公厅、国务院办公厅就联合印发了《关于加强科技伦理治理的意见》,强调科技活动必须客观评估和审慎对待不确定性以及技术应用的风险,坚决防止科技成果被误用和滥用。同时要求公布信息时必须提高透明度,做到客观真实,绝不能误导公众。
到了2023年,科技部等十部门出台了《科技伦理审查办法(试行)》,把监管落实到了执行层面。政策明确规定,凡是涉及“对人类生命健康、价值理念、生态环境等具有重大影响的新物种合成研究”,必须直接纳入专家复核清单。而且监管部门必须对已批准项目开展跟踪审查,间隔原则上不超过12个月。一旦风险出现重大变化,必须立刻暂停并重新评估。
无论是政策的顶层设计,还是监管的具体落地,都为合成生物学与AI的结合划了红线。科学研究从来都不只是实验室里的公式和代码,成果怎么发布、媒体怎么解读、大众怎么理解,每一个环节都是科技伦理的现场。AI可以帮我们加速合成生命,但如何守住安全的底线,这个责任永远只能由人类自己来承担。
监 制
光明网科普事业部
科学性审核
余卿(中国科普研究所博士后)
邹贞(中国科普研究所副研究员)
策 划
宋雅娟
编 导
宋雅娟 肖春芳
联合出品
中国科协科普部
光明网
中国科普作家协会
