人工智能带来新的伦理问题：我们应该如何对待电脑中的人类意识？
如果你曾经深入玩过角色扮演游戏，无论是沉浸于虚拟世界的在线游戏，还是儿时的桌面游戏，你会明白与游戏中的化身建立情感联系是多么的容易。当游戏中的角色被怪物击败，被恶龙摧毁时，那种失落感是真实而深刻的。美国社会学家威廉·西姆斯·班布里奇，作为一个痴迷于游戏的观察者，更进一步地探索了这种关系。他不仅在游戏世界中为至少17位已故的亲人创造了虚拟化身，还预言了一个未来的时代：我们将能够把部分身份和意识转移到人工智能模拟的化身中，这些化身将能够独立于我们存在，甚至在我们离世后继续存在。
对于这样的未来，我们应该承担怎样的责任？无论我们对暴力电脑游戏的看法如何，当我们通过游戏击溃虚拟敌人时，我们并不会认为这是一种。随着技术的进步，拥有一定程度自主性和意识的模拟人出现将不再是遥不可及的幻想。许多哲学家开始思考，意识是否只能存在于生物的大脑神经元网络中，或者它是否可以在不同的物质系统中存在？如果这种假设成立，那么我们没有任何理由不相信意识可以在强大的计算机电路中存活。
当涉及到模拟实体的问题时，我们的直觉可能会变得模糊。我们是否应该对待虚拟生命如同真实生命一般？杀死一只虚拟的狗是否和杀死一个真实的生命拥有相同的道德后果？当“生命”以数字形式出现，我们个人的感受可能无法作为可靠的道德指南。
剑桥大学的物理学家阿德里安·肯特已经开始探索这一道德推理的边界。他假设我们能够以极低的成本在电脑上模拟人类意识，那么我们应该为这些虚拟人物提供一个丰富而有价值的互动环境。甚至可能通过扫描真实人脑的复杂细节并通过计算来再现。这种技术可能被用来“拯救”绝症患者，一些超人类学家甚至将其视为实现不朽意识的途径。
这一切可能只是未来的白日梦，但我们需要为此做好道德和上的准备。回顾18世纪的功利主义道德原则，它主张我们应该努力为最多的人谋求最大的幸福。但在模拟生命的情境下，如何应用这一原则变得复杂起来。我们如何衡量和比较不同类型幸福的价值？在虚拟世界中，是否应该无限制地创造模拟化身？
肯特指出，人们可能会倾向于以功利主义的立场认为，我们应该增加模拟化身的数量。但在现实世界中，这种不受限制的繁殖会导致各种问题，如家庭压力、资源短缺等。但在虚拟世界里，这些限制并不存在。我们可以模拟一个乌托邦，用几乎无限的资源创造一个完美的世界。那么，为什么我们不去创造一个充满满足的模拟人化身的世界呢？
我们的直觉可能会告诉我们，模拟人与真实的人拥有相同的内在价值是一个值得质疑的问题。新奥尔良杜兰大学的心理哲学和虚拟现实学专家迈克尔·马德里认为，模拟大脑可能会提出哲学问题，但从我们的角度看，这些问题可能是虚假的。因为模拟大脑的存在完全取决于我们的选择和发明。
但这并不能阻止我们去思考和探索这一领域。就像一些哲学家所说，我们无法确定自己是否也是一个模拟生物。但我们可以尝试在模拟化身中探索道德和价值的本质。肯特的问题——是创造完全相同的人还是保持每个人的独特性？引发了我们关于多样性和价值的思考。在我们的探索中，我们必须保持开放和尊重各种观点，同时不断挑战我们的直觉和信仰体系。Kent的观点主张，拥有多个独立的、独特的生命副本相较于单一生命的重复更为可取。他认为：“一个充斥着数十亿个独立且各具特色的小明的宇宙，显然比单纯复制同一个生命无数次的宇宙更加迷人。”他称之为复制劣势。
在一个充满多样性小明个体的宇宙中，Kent思索着重复单一生命是否拥有实质意义，抑或是我们仅仅在描述一个单一生命在不同世界的投影。在这种情境下，许多处于相同环境的小明们，在Kent看来，并不比单独一个小明更有价值，他将此形容为复制的虚无。尽管Kent尚未找到确凿的证据支持他的观点，但他倾向于认同这一理念。
这些思想实验触及了道德哲学中长期存在的难题，这些问题在帕菲特的作品《理与人》中得到了深入的探讨。帕菲特思考了关于世界应有多少人、在可能的情况下增加生命的道德考量等问题。即使在接受功利主义观点的前提下，为最多的人寻求最大的幸福也并非毫无争议。设想在一个资源有限的世界里，或许存在一个理想的人口数量，使得资源能够被最大化利用以确保所有人的幸福和繁荣。但我们是否能在已知的乌托邦中再为空位添加一个新生命呢？为了让他人的生活更加美好，牺牲一小部分人的幸福感是否可行？
问题的关键在于，这种权衡并没有明确的终点。随着人数的不断增加，新生命所带来的额外快乐可能会超过已有人所付出的代价。帕菲特指出，最终我们可能会得到一个矛盾的结论：尽管人口膨胀，但大多数人的生活却十分悲惨，然而这种悲惨生活仍然比没有生活好一点点。对于Ken而言，他承认这些矛盾的结论尚未有明确的解决方案。
问题的核心在于帕菲特所称的“非同一性问题”：我们如何理性地思考关于个体存在与否的问题？尤其是当这些问题涉及到我们的选择和行动时，比如我们是否有能力去创造更多的生命。理论上，权衡个人受到的利弊并不困难，但一旦这种权衡涉及到不存在的可能性，我们就陷入了困境。与不存在的选项相比，几乎任何选择都显得有价值，这使得许多看似令人难以接受的情况在道德上似乎变得可行。
人口功利主义的探讨中还存在另一种更为奇特的情境：若存在某个个体的快乐远远超出其要求他人作出的牺牲，那又该如何？罗伯特·诺齐克将其称为“功利主义怪兽”，并将其作为对功利主义的批判。在这种情境下，似乎要求我们为了某个个体的巨大快乐而牺牲自己，这在许多人看来是无法接受的。帕菲特的作品在很大程度上是一次尝试，试图找到一种方法来解决这种矛盾的结论和摆脱功利主义怪兽的存在。
回到Kent的虚拟世界，满是模拟人化身的它以及他的复制劣势原则——一定数量的不同生命比相同数量的相同生命更有价值。这种观念或许能为我们提供一种摆脱帕菲特所描述的令人厌恶的结论的可能性。尽管托尔斯泰在《安娜·卡列尼娜》的开头就描绘了独特家庭的不幸，但在众多相似的不幸生命中，似乎难以寻找到一点一滴的幸福感。复制劣势的原则同样面临着与功利主义怪兽相关的问题：那个独特的生命由于其独一无二性而被认为更加“有价值”，这并不是一个令人满意的答案。对此，Kent坦言：“我对此感到困惑，如果人们能更多地关注这些问题，那就太好了。”
美国自由意志主义经济学家Robin Hanson教授在乔治梅森大学任教，同时也在牛津大学人类未来研究所进行研究。他认为这些沉思与其说是思想实验不如说是对未来的预测。在他的著作《Em时代》中，描绘了一个所有意识都被上传到电脑的社会，这些意识以虚拟的方式生活（并非模拟化身而是真实的仿真）。这是一个对未来可能性的设想和探讨。汉森对于未来仿真化身世界的设想引人入胜。在这个虚拟的宇宙中，生命形式可能是多样的，仿真化身可以拥有任何大小，时间感知也可能与我们截然不同。在这个世界中，广泛存在监视和勉强维持生活的工资，但仿真化身可能选择遗忘痛苦，只记住休闲的生活。
这种设想允许自我复制的可能性，一旦大脑被转移到计算机上，复制将变得相对简单。汉森认为，身份认同在这种情境下会变得模糊，复制人最初虽然是“同一个人”，但随着时间的推移，他们的身份会逐渐分化，如同同卵双胞胎一样。
对于汉森来说，人的重复不仅是可能的，而且可能是可取的。拥有特别有价值的精神特质的人会被多次“上传”，作为一种保险的形式，人们可能会希望复制自己以确保在意外灾难发生后仍能存活。
仿真化身仍然需要面对我们无法评估的道德困境。我们的道德观念可能并不足以应对这些未知情况，特别是在超出我们祖先经历的范围时。仿真化身可能会对这些事情持有许多不同且相互矛盾的态度，这让问题更加复杂。
尽管这些议题听起来可能让人不舒服，但我们的科学技术仍在不断进步，这些问题也将一直存在。瑞典哲学家尼克·博斯特罗姆认为，“后人类”文明应该有能力处理模拟生物，它们对世界的体验可能和我们一样“真实”、丰富。但如何塑造这个未来人口的问题，可能不需要等到后人类时代，在不远的将来就可能成为真正的挑战。
现实世界中，这些议题已经有了实际的影响。关于效用最大化和非同一性问题的争论已经出现在关于促进和预防人类受孕的讨论中。例如，当面临新的辅助生殖技术可能带来的风险时，我们该如何选择？如果一种新方法带有轻微出生缺陷的风险，我们应该如何权衡？这种困惑引发了关于人类生殖克隆的争论，这种技术的危险真的会被赋予生命的美好所超越吗？我们该如何为一个克隆人做出选择？
这些议题要求我们承担起类似上帝的角色，为我们所创造的生命做出决策。这也引发了一系列和性别问题。例如，我们是否正在成为弗兰肯斯坦式幻想的猎物？男性是否因为能够制造人类而失去控制？这种辩论中的新奇感带有一种家长式的味道。汉森的观点在网络上的Manosphere中引起了热议，他对“非自愿独身者”和性的“再分配”的必要性等话题的言论受到了批评。他对仿真化身时代男女仿真化身的不同前景也表达出了独特的看法。
这些问题不仅需要科技界的回应，也需要社会各界的广泛讨论和深思。我们如何平衡技术与，如何确保技术的进展真正为人类带来福祉，而非引发更多的纷争和困惑？这些都是我们必须面对的挑战。尽管面临诸多未知和挑战，虚拟意识的发展仍然展现出新颖且引人入胜的问题。肯特认为，这些问题迫使我们反思对于当下生活和人口结构变迁所持的直觉价值观。我们面临的难题是，无法找到有力的哲学论证来阐释为何一定数量的不同生命在道德层面上优于同等数量的相同生命。那么，我们为何会如此认为呢？这种观念又将如何影响我们的其他假设和偏见？
一些人指出，人类群体感知的同质性可能会削弱同理心和推理的能力。对于那些来自不同背景的人，我们往往陷入“脸盲”或“大众”的修辞困境，导致我们对他们的生活关注程度不如那些我们认为差异更大的人。肯特提醒我们：“我们不愿承认这是人们看待世界的方式，但这确实存在。”
考虑到种群中的遗传多样性对个体稳健性的重要性，我们是否对个体的同一性有着根深蒂固的反感？电影中的同卵双胞胎或克隆人的情节常常令人毛骨悚然——那些从未预示过好的结局。这些影像令人难以置信，甚至西格蒙德·弗洛伊德在1919年也将这种感觉与“双重人格”联系起来，因为两人外貌相似而被视为毫无区别的个体。对于同卵双胞胎而言，他们之间的魅力可能表现为一种互相吸引的神秘感，但如果存在一百个“完全相同”的人，人们的反应可能会陷入深深的恐惧。
在现实或虚拟世界中，我们可能不会短时间内遇到大量的复制化身。正如肯特所言，思想实验的价值在于为我们提供了一种看待现存问题的全新视角。无论是汉森的工人无人机还是班布里奇的替代亲戚，想象用于对待复制化身的道德标准，揭示了我们在日常生活中所依赖的生活道德价值观中的漏洞或缺失逻辑。这些观念不仅挑战我们的认知，也促使我们深入思考我们的价值观、假设和偏见。