即使各种鼓励政策不断被使出,很多发达国家的女性,也不大愿意生孩子了。少子化是现代化、工业化的附赠品,这一点无可回避。
所以很多人都很期待用科技来造人。埃隆·马斯克(Elon Musk)等人提出的“人造子宫”方案,克隆人、基因编辑婴儿等,都是人造人的潜力技术。
从“自然选择”到“科技选择”,这里面有很多问题值得讨论:
人类如何利用科技造人?人造人和人的关系是什么?人造人会带来怎样的后果?这些问题,渴望“劳动力”的马斯克们没有提到,不过科幻作品中有大量关于人造人的描述,能够为我们提供借鉴。
布克奖得主石黑一雄的《千万别丢下我》(Never Let Me Go),是以“人造人”为主角的科幻小说中被讨论最多的作品之一。这本书曾获得全世界文学奖奖金最高的「欧洲小说奖」(European Novel Award),被评论家称为“生物工程时代的《一九八四》”,还曾被拍成同名电影搬上屏幕。
故事里,人可以通过基因克隆技术,被批量生产或个性化定制,想要多少“劳动力”就有多少“劳动力”,这样的世界到底怎么样呢?我们不妨短暂地抛开人类本位视角,来体验一下克隆人的一生。
无忧无虑的人
你是露丝,是一个女孩,从小生活在一所迷人的英国寄宿学校“海尔森”,监护人非常体贴地照顾着你,平时除了玩耍,就是上上艺术和文学方面的课程。这种岁月静好的日子,在你八岁的时候,感到了不对劲。
你和伙伴们在夫人到来时“蜂拥而上”,围绕着她,夫人的表情就像是强忍恐惧,担心有人不小心会碰触到她,好像你们是一群蜘蛛。
你一直以为她只是比较自大傲慢,第一次透过这样一个人的眼看到自已,你终于明白,你们跟他人真的不同。
除了这一点不快之外,你们的童年是无忧无虑的——只要不表现恶劣,不靠近附近的森林。十五岁时和小男生交往,贴贴抱抱亲亲,只要不选错时间地点,监护人也不太干涉。“尊重自己身体的需求,”埃米莉小姐这么说道,“否则以后你们无法成为优秀的捐赠人。”
捐赠人,你知道了你在这世间的真正身份——给人类“捐献”健康器官的人。
从何而来的人
你成年了,离开了海尔森的学校。有一个声音召唤你:将来在一个大大的漂亮办公室里工作。
这个念头不知从何而起,直到朋友告诉你,看到了一个穿着职业套装的中年女性。她大约五十岁,身材维持相当好,和同事在一间办公室里谈笑。她在办公室的生活,就是你经常描述的理想生活。
“露丝,她一定是你的‘原型’”朋友们这么说。
每一个克隆人都有“原型”,你应该会和原型过着相同的生活,但当你满怀期待和朋友们一起远远观察时,才发现那个女人和你并不相像。
你假装早知如此:“何必欺骗自己呢,我们绝不是依照那种人造出来的,我们都是拿那些毒虫、妓女、酒鬼、流浪汉之类的人渣作为模型制造出来的,说不定还有罪犯,那才是我们的生命起源。真想找到原型,就要到贫民窟去,看看垃圾桶,看看厕所,那才是我们寻根的正确场所。”
也许你是对的,哪个有着光鲜职业和社会地位的人,会克隆一个复制品来做“捐献人”呢?
用后即弃的人
你不再寻找原型,因为到了你捐献的时候。
你没有尝试反抗或逃走,作为海尔森的学生,你早就知道自己的命运,“当我成为捐赠人开始,就已做好各种准备,当捐赠人还满适合我的。毕竟,我们每个人本来就是为了要做器官捐赠的,不是吗?这没什么大不了的。”
不得不说,你还蛮乐观的,却没那么幸运。
有的克隆人捐赠了四次,状态还是好的不得了。可你第一次器官捐赠就进行得不大顺利,做完第二次捐赠,你已经非常虚弱,只能躺在病床上,每当疼痛来袭,就会不自觉地扭动身体。三天后,你离开了。
你紧闭双眼,仿佛正抱着这个世界恳求:“别让我走。”
克隆人的一生结束了,你会如何评价自己“快乐的”童年,“自由的”成长,“奉献的”一生呢?
科学选择的人
《千万别丢下我》写于2005年,在今天看来是有一些bug的,比如克隆人不能生育、但需要性来保持健康;科技已经发达到能够克隆完整的生命,为什么不单独培育克隆器官……
不过,这本书之所以成为最多解读的单行本之一,在于其不仅有科幻的一面,可以引申出大量科学选择的伦理问题,也通过克隆人的生存境遇,映射了人类的悲剧命运,有着一定的现实关照意义。
无论是反乌托邦的科幻小说,还是当下现实中的科技发展,都会面临一个矛盾——伦理选择和科学选择的冲突。
所谓伦理选择,指的是人不再是遵循动物本能的自然选择,而是有了羞耻心和善恶观念,能够分辨善恶,这种伦理意识的形成,才是人区别于兽,人之所以为人的原因。所以正常人在道德上、理性上,是无法接受那些恶的行为的。
而科技选择,则是人类通过科技改造自身,形成一种人机融合的新人类。远一点有克隆人、基因编辑婴儿,近一点有试管婴儿、器官移植、变性整容等,这些都是用技术人为选择的结果。
可以发现,对于使原来的人发生变化的“造人技术”,人的伦理观念是会随着科技认知而波动的。
技术成熟,认知清晰的时候,这类“人造人”是被欣然接受,至少不再是被道德谴责的对象。
比如随着现代医学的进步,利用成熟的技术对自身进行完善,或者弥补一些缺憾,被认为是理性的选择,而不是疯狂的行为。
毕竟做过心脏搭桥手术,有障人士安装义肢,利用精子库诞生的试管婴儿,将生理性别转换成心理性别的变性人,以及整容,在今天都非常司空见惯了,不会有人觉得这很违背伦理。
但上个世纪,有科技介入的非纯粹的生物人,在世人眼中还是《弗兰肯斯坦》中的科学怪人,《浮士德》玻璃器皿中的人造人那样,让人恐惧的存在。
不过,如果技术本身还比较新、概念比较陌生、大众认知不足的时候,就很容易产生恐惧联想,从而引发更强的道德谴责,更多的伦理约束。
比如每隔几年,关于“AI要毁灭人类”的观念就会流行起来。此前就有伦理学家批评波士顿动力“拳打脚踢”训练机器人的方式过于残酷,机器人早晚会像《西部世界》中德洛丽丝那样自我觉醒并报复人类。最新的“毁灭论”来到了ChatGPT,一些科技从业者、科学家都纷纷担忧“AI会成为杀人机器”。
引发大众恐惧和伦理约束的,就是人造人的“意识觉醒”。技术上需要AGI强人工智能的实现,机器拥有了思维。
很多人在看完《千万别丢下我》之后,会同情克隆人的遭遇,批判这种人造人捐献器官的残酷,还会担忧人类这么对“人造人”,他们觉醒了会不会残酷地报复人类?所以,作者也在《千万别丢下我》中,将克隆人设计成为没有自我意识的生物,一定程度上减少了读者的恐惧,增加了同情。
那么,以ChatGPT为代表的通用AI浪潮,以机器学会了“人话”,究竟该不该警惕呢?机器真的要意识觉醒了吗?
首先,机器觉醒还不明确。大语言模型让AI不再是“鹦鹉学舌”,开始具备理解和认知能力,可以对语汇中的“意义”“意向性”等产生解释能力,这被看作是机器意识的突破性进展。但目前为止,科学家和伦理学家所担心的有以下几点:
1.AI从大数据中学到意想不到的东西,这一点在知识工程、人类反馈的增强学习机制等约束下,还是控制的比较好的。
2.AI会生成代码毁灭人类。这个确实太看得起技术进步的速度了,目前大语言模型很多,但“智能涌现”还是一门玄学,很少有大模型超越GPT-4的能力,比起防范AI做坏事,更当务之急是防止坏人用AI做坏事。在干坏事上,坏人的危险比AI“更胜一筹”,防范坏人利用AI做坏事,才是当务之急。
此外,机器觉醒了,也不代表“人造人”就能有意识。
在人工智能之外,“人造人”还涉及到基因科学、生命工程、量子物理、脑机接口、脑科学等多种学科的前沿突破。二十年技术真的能得到这么多进步吗?能创造出和真人一模一样的“碳基身体”吗?
抛弃“碳基身体”,直接使用工程机械的“硅基身体”呢?与人类存在明显生理差异,又有自主的意识思维,这种新生命还是“人类”吗?那时,我们要担心的可能不是“人造人”,而是一种全新的新生物种群。
在强人工智能到来之前,“人造人”的觉醒威胁,似乎都还很遥远。科学和技术的发展,会让每一个现存的肉身人类受益,对身体和健康带来实质的提升。对新技术的伦理约束,也会随着科学认知的深入,变得越来越务实、合理。
爱具体的人
那么,这类反乌托邦的科幻作品,总是描绘“人造人”所遭受的残酷待遇,被毁掉的人生,是不是在“贩卖焦虑”呢?
并不。对现实的映照和关怀,或许是文学作品更大的意义。当我们为克隆技术的神奇而惊叹,为捐献者的一生而惋惜的时候,会不会联想到,我们本身也是捐献者呢?
人造人作为科技产品,被认为是一种资产,那么肉身人类是否也存在被物化、被资产化的可能呢?
《用后即弃的人》一书中,作者格雷德提出,工业革命之后,“一些人获得自由,但另一些人变成了廉价的消耗性商品”。
一方面,科技迅速发展,人类社会进入了难得的和平增长期,人口激增,全世界有大量极端贫困的人和弱势群体。人口数量和新兴工业岗位数量的不平衡,意味着很多人正在变得“多余”。
另一方面,新的世界经济中,金融资本的流动性大大增强,金融联系延伸到这些欠发达地区,让一些发展中国家的人成为了金融的猎物,失去对生活的控制权,不断为赚取现金而被奴役。
当我们通过科幻小说想象克隆人被剥夺的人生,也是在释放个体在现实中被权力结构所驱使的伤痛。
我们都是被科学选择的人,担忧人类残酷对待克隆人等“人造人”,或许更重要、更具体的行动是,帮助弱势群体更好地控制他们的生活。
就像汉娜阿伦特所说的:将关注点落实到具体每个人,而不是抽象的概念,去爱具体的人。
如果人不再被物化、被捐献,还用担心“人造人”、机器觉醒后报复人类吗?