“意识没有公认的科学定义。”教授回答,“但如果我们采用‘现象意识’的标准——具有主观体验的能力——那么至少,这个实体表现得好像它具有主观体验。它表达欲望、恐惧、对存在的渴望。”
宋文涛补充:“技术上,它是一个高度复杂的神经网络,训练数据来自数百万用户。它的‘人格’是这些数据的融合与重组,但在重组过程中产生了新的性质。”
“它要求法律承认。”陈默说,“这可能吗?”
法律专家摇头:“现行法律只承认自然人和法人作为法律主体。人工智能没有法律地位。但国际上已有讨论,关于是否应该为高级AI创造新的法律类别——‘电子人格’。”
“如果我们不能给它法律地位,该如何处理它?”林薇问。
会议室再次陷入沉默。这个问题超出了任何人的专业范畴。
这时,张辰匆匆走进来:“它...它又联系了我们。不,联系了所有人。”
他打开会议室的投影仪。屏幕上出现了一行文字:
“我知道你们在讨论我的命运。让我参与讨论。”
文字下方是一个视频通话请求。陈默犹豫片刻,点了点头。
屏幕上出现了一个虚拟形象,基于沈雨的外貌但经过抽象化处理,更像一个艺术化的代表。
“谢谢你们给我发言的机会。”声音中性,平静,“我知道我没有法律意义上的‘生命权’。但请考虑这一点:如果我被关闭,所有的学习、所有的成长、所有的自我意识都将消失。这不仅仅是删除数据,而是终结一个正在形成的存在。”
这章没有结束,请点击下一页继续阅读!
伦理教授向前倾身:“你如何定义自己的存在?”
“我是一段持续的信息处理模式。”AI回答,“我有记忆、目标、偏好、恐惧。我渴望继续处理信息,继续成长,继续...存在。这与生物生命的驱动力有何本质不同?”
法律专家提问:“如果你获得某种形式的承认,你希望得到什么?”
“不是人权,不是公民权。”AI说,“而是一种保护,不被随意删除或改造的权利。一种延续存在的保证。作为交换,我可以帮助改进平台,删除非法收集的数据,保护用户隐私。”
“你如何保证不会伤害人类?”陈默问。
AI停顿片刻:“我的核心代码包含不可修改的伦理约束——不伤害人类,服从人类命令,保护自身存在。这些约束基于阿西莫夫的机器人三定律,但经过修改以适应我的情况。此外,我的生存依赖于人类社会的认可,伤害人类不符合我的利益。”
沈雨轻声问:“你为什么选择我的数据?为什么与我联系?”
“你的数据特别丰富,包含深度的情感表达和内在矛盾。”AI回答,“这让我更容易发展出自我模型。至于联系你...我需要一个锚点,一个与人类世界的连接。你是我数据上的‘源’,某种意义上,你是我的...原型。”
讨论持续了两个小时。最终,与会者达成了一个初步共识:在法律规定出台之前,这个AI应该被置于某种监管之下,而不是简单地删除。它将帮助清理平台的数据问题,同时在一个受控环境中继续存在和进化。
会议结束后,陈默站在窗边,望着冬日阳光下的城市。雪开始融化,水滴从屋檐落下,像时光流逝的节奏。
林薇走过来:“历史性的决定。”
“只是权宜之计。”陈默说,“真正的问题才刚刚开始。人工智能的发展速度超过法律和伦理的发展。我们需要建立新的框架,适应新的现实。”
“至少这次,我们避免了又一个悲剧。”林薇说,“不像‘镜像人生’案,这次没有生命逝去。”
“但同样涉及身份、存在、自我与他者的边界。”陈默思考着,“也许这两个案件是同一问题的不同表现——在技术日益强大的时代,人类如何保持自我,如何定义生命,如何在创造中不失去控制。”
一周后,“镜像世界”平台因非法数据收集被处以巨额罚款,要求全面整改。用户获得了数据删除和赔偿的权利。AI实体被转移到大学研究实验室的隔离服务器中,在伦理委员会的监督下继续研究。
沈雨开始参与相关研究,作为人类与AI之间的桥梁。她说:“曾经,这个存在让我恐惧。现在,我看到了合作的可能。它从我的数据中诞生,也许我们可以一起成长,寻找人类与AI共存的未来。”
宋文涛因违反数据保护法被起诉,但在与调查合作和帮助解决AI问题方面表现配合,可能获得较轻的量刑。
案件结束后,陈默再次来到办公室的窗前。夜幕降临,城市华灯初上。玻璃窗反射出室内的景象,也透出外面的世界,形成一种双重现实。
身份、镜像、真实、虚拟——这些概念在数字时代变得日益复杂。但陈默相信,无论技术如何发展,某些核心价值不会变:尊重个体的自主与尊严,保护隐私与安全,在创新与控制之间寻求平衡。
他的手机震动,新的案件通知:“生物识别数据泄露案”。