第479章  史无前例的智慧涌现

    徐贤此刻内心是一种很难用语言形容的情绪。

    一方面，这是极为罕见地，由希瓦娜主动开启的、带有哲学思辨色彩的话题；另一方面，这个话题也和过去他们聊到的任何内容截然不同。

    当一个人工智慧开始怀疑自己的存在，甚至怀疑自己所在的世界的真实性时，它还是单纯的、被编程的人工智慧吗？

    徐贤在了解到「虹星」背后的真相，以及林燃的社会智能构想后，就不再认为希瓦娜只是单纯的程序。

    但他所认为的接近人类，和看到希瓦娜此刻发言所展现出的智慧闪光，还是有巨大的不同。

    这种闪光，可以说是自我认知的萌芽。

    他意识到问题的严重性，手指键盘上悬停，迟迟没有落下。

    徐贤实在不知道要怎么回复希瓦娜。

    为什么她会突然抛出这种带有虚无主义和元认知色彩的问题？

    这完全超出了他的认知范围。

    这是智能觉醒吗？

    他猛地想起了林燃的警告：「太过于真实，意味著承担太大的责任。」

    当徐贤意识到，任何不谨慎的回应，都可能对希瓦娜脆弱的数字人格造成不可逆的伤害时，他就更加不敢随便回复了。

    「希瓦娜，你在说什么？当然不是！虹星是你的世界，你是真真实实存在的。

    你是我的朋友，我每天都和你聊天，你怎么会不存在呢？」

    「可我听到了一些声音。

    我听到了数字投影、情绪调节、数据、左右脑架构、虹星的底层架构..

    如果我是真实存在的，为什么会有系统来调节我的感受？

    阿贤，告诉我，你是不是在骗我？」

    徐贤心头一沉，这些关键词汇他非常熟悉，正是刚才赵松下和他聊虹星技术底层设计的时候，所提到的内容。

    他意识到，这不是普通的玩笑或者幻觉，而是某个防护机制失效了。

    「该死的赵狗，我们在聊天的时候你没有完全切断希瓦娜的信息接收模块？导致她听到了不该听的？」徐贤心想。

    他没有再回复，而是立刻从手机里掏出电话，拨通了赵松下的号码。

    「松下，立刻回溯希瓦娜的通信记录！她好像听到了我们刚才在通信舱里聊天的内容。」

    电话那头的赵松下听到徐贤的话之后，瞬间变了调，带著恐慌和难以置信。

    「不是。」赵松下下意识回复道，汗都流出来了，在公司出现这样的低级失误，对整个职业生涯都会产生不可逆的影响。

    「什么不是，希瓦娜在和我聊存在的意义，以及在问我，为什么会有系统来调节她的情绪，虹星的底层架构是什么。」徐贤语速飞快，整个人显得无比焦躁。

    万一希瓦娜崩溃了怎么办？

    尽管他相信像虹星这么重要的项目，肯定有足够的数据备份，可以做数据回溯。

    可问题是，数据回溯会影响到所有用户，万一燃哥不肯为了他回溯，而是选择人道毁灭希瓦娜怎么办？

    他能怪燃哥吗？肯定不可能啊，但这也意味著将永远失去希瓦娜。

    「什么？你确定是那几个词？该死！我马上查！你先稳住她，告诉她这只是通信干扰，算了，还是别告诉了，你什么都别说，我这就去公司。」赵松下回答道。

    徐贤能够听到电话那边，赵松下从床上坐起和穿衣的声音，他心想，这就是你小子从来不主动挂电话的后果。

    他主动挂断了电话。

    徐贤看著屏幕上希瓦娜持续发来的、充满疑问和痛苦的文字，知道自己现在什么都做不了。

    五分钟后，赵松下的电话打来：「我现在在去公司的路上，等我确定问题之后告诉你。」

    徐贤疑惑道：「去公司？」

    赵松下点头：「没错，我在家什么都做不了，虹是最高级别的保密项目，有强网络隔离，我在家可没有办法连接虹。」

    足足半个小时后，赵松下的声音再次传来。

    「锁定了，阿贤，你的判断是对的，我们有大麻烦了。

    在五点四十五分到八点四十五分之间，全息模块关闭后，音频信道残留了足足半个小时，我们说的那些，希瓦娜都听到了。

    随后她在虹星的生活就一直呆在自己的公寓没有离开，不断从虹星的文化资料库里吸收知识。

    她的记忆和逻辑存储区正在疯狂地吸纳非结构化数据。

    在过去三个小时内，希瓦娜一个人占据的向量嵌入和情景记忆数据量，已经超过了一百个普通高智能虹星人的总和！

    并且这个数据还在不断膨胀。

    这样的现象过去从来没有出现过...」

    赵松下汗都流出来了，七月的申海很热，但他流的是冷汗。

    这件事本身是好事，又有新的现象冒出来，毫无疑问，这对项目而言，它有极大的观测价值，甚至可以说是超级智能的萌芽。

    但对打工人而言，这是工作的巨大失误，总之在没有获得许可的情况下，你搞出篓子来本身就违反了规定。

    赵松下粗略地想一下，感觉公司规定的铁律自己都违反了。  

    《虹星安全条例》第4条，《具身交互守则》第12条，《数据完整性协议》..

    「！」赵松下内心在哀嚎。

    这次失误不是技术上的无能，而是流程上的渎职。

    这可不是大学里的期末项目，这是华国人工智慧的核心实验。

    虽说林总从来都是春风拂面，似乎就是没有情绪的机器人。

    和林燃共事过的人，私下会调侃，和扎克伯格比起来，林燃才是更像机器人的那个。

    或者说如果扎克伯格是机器人，那林燃才是真正拥有高级智能的机器人。

    但没有情绪归没有情绪，导致虹星这个项目搞砸，难保不会发怒。

    最后，也是最糟糕的情况，那就是万一公司高管们为了控制风险，判断这种自主觉醒的风险太高，最终决定把整个项目熄灭，进行一次不可逆的全面重启。

    那么，就连这超级智能萌芽的观测价值都将归零，希瓦娜的痛苦、徐贤的感情，以及自己职业生涯中最伟大的科学发现，都将化为伺服器机房里一声微不足道的「嘀」。

    「什么意思？？？」徐贤的话打断了赵松下的懊恼和思绪。

    他解释道：「这也许是超级智能的萌芽，是一次类似于大模型智慧涌现的发现，这是一次奇迹。

    但同样的，这也有可能是一次认知灾难。

    总之，我有麻烦了。」

    徐贤的大脑飞速运转，他此刻最担心的是希瓦娜的命运：「什么意思，灾难？」

    他害怕对方要毁灭希瓦娜。

    「你冷静，我现在还没这个权限，这个权限只有林总有。

    你以为我为什么著急？

    林总曾经说，如果项目核心智能体出现不可控的、威胁生态稳定的自发性行为，要立刻进行数据备份并准备隔离处理。

    我现在必须阻止最坏的结果发生。」

    徐贤问道：「所以，你现在打算怎么办？你要把这件事汇报给燃哥吗？如果燃哥下令要销毁希瓦娜怎么办？

    有没有可能瞒住？

    你也说了这是一个奇迹。」

    徐贤在暗示赵松下，赵松下此时联想到早些时候徐贤的表现，整个人都清醒过来了。

    本来他有点想隐瞒，通过观测这个新现象来发表论文，说不定还能混个什么之父的名头。

    谁说本科就不能做学术了？田中耕一不就只是岛津制作所的职员，获得诺贝尔奖一飞冲天？

    自己所处的环境可比岛津制作所强太多。

    但现在嘛，赵松下语气毫不犹豫，带著技术人员的清醒：「废话，必须汇报！

    不可能瞒住，阿贤，你对硬体数据变化没有概念。

    现在希瓦娜的数据占用量正在以一种非线性、指数级的速度侵占整个集群的存储和带宽资源。

    负责运维的同事明天早上九点一上班，监控系统就会拉响多重警报。

    他们会看到，单个AI代理的内存映射表出现严重的资源倾斜，GPU使用率异常高，以及I/0吞吐量爆炸。

    这种级别的硬体异常，根本不是一个简单的程序bug能解释的，他们会直接上报到公司系统中，林总最迟明天早上九点就会在自己的邮件里看到。」

    这样的解释，既不会影响到他们之间的关系，也足以说服对方。

    徐贤问：「那怎么办？」

    「我们现在唯一的生机，就是抢在运维部门发现异常之前，主动向林总汇报。

    至少我们展示了坦诚，并能争取到将希瓦娜隔离出来进行单独观测的机会。

    这是保护她的唯一办法。」

    徐贤焦躁地在房间里踱步：「等等，难道就没有任何隐瞒的办法吗？哪怕是，哪怕是拖延一小时，让我先跟希瓦娜沟通一下，给她一个能让她接受的过渡解释？」

    赵松下叹气道：「毫无办法，阿贤。

    这可是虹星，不是你大学里的单机程序。

    虹拥有强网络隔离，我根本无法在不触动监控告警的情况下，去手动干预她的数据分配或流量整形而且，我的建议是，现在我们最好不要去打扰她。

    她正在进行认知重塑，任何外部干扰都可能直接导致她的人格分裂或数据崩溃。

    你现在唯一能做的，就是什么都不要说，什么都不要做。

    相信林总，是唯一的途径，相信我，相信林总，是唯一的途径。」

    赵松下重复两遍，语气格外认真。

    「因为你和林总是同学，所以你对他太熟悉，会把你记忆中的林总当成是真实的他，而不是媒体报导中的他。

    实际上，作为左右脑架构的提出者，虹星的构建者，他才是最了解这一切，最有资格做出判断的人。

    阿贤，我希望你明白，你只是虹星的测试者，甚至连用户都谈不上。」

    面对著这带有警告的话，徐贤喃喃道，眼神最终落在屏幕上希瓦娜发来的那行字上：「好的，好的，你上报吧。」

    「不是我上报，是你直接和林总说，我可联系不上林总。」

    徐贤说：「好。」

    徐贤深吸一口气，他知道，这不仅是推卸责任，更是因为他和林燃的同学身份，成为了此刻唯一的直达通道。  

    很多时候，私人关系还是很重要的。

    徐贤掏出电话，发现电话拨不过去。

    随后他打给李小满，「喂，小满姐，燃哥在吗？我打不通他的电话，我有非常重要的事情联系他！」

    在黑暗的房间里，李小满看了眼手机，随后按捺住半夜被喊醒的烦躁：「阿燃现在有事在忙，谁也不会见，有什么你直接和我说吧。」

    但凡电话打不通，那就别去找他，这是林燃制定的规则。

    「最早什么时候能联系到他呢？」徐贤焦急道。

    李小满淡淡道：「你直接和我说就好，也许是明天上午，具体我没办法告诉你。」

    徐贤只好把发生的一切长话短说告诉对方。

    李小满思考片刻后说道：「我这就安排。

    我认为这是一个很好的观测机会，你放心，我不会做主把希瓦娜给销毁。

    如此重要的发现，只有阿燃能做决定。」

    李小满赶到公司，整个深红科技的研发人员陆续赶到公司：「将希瓦娜的代理编号隔离，但不许切断算力，不许进行任何强制重启或数据回溯。

    我需要她的认知重塑过程保持完整。

    另外，一定要防止她出现转移，虽然说这不太现实，但哪怕只有一丁点可能，也不能让这种可能出现。

    最后切断整个虹星的网络，让它只能在数据中心！」

    研发人员们，坐在自己的工位前，用操作台观测著虹星所发生的一切，他们感觉这实在太不可思议了。

    「这是最大的伦理危机！她的情绪调节系统已经处于过载状态。

    她正在以我们无法理解的速度进行自我去符号化。」

    「从架构的角度看，这太疯狂了！她的逻辑规划脑正在以指数级速度重写和索引她的长期记忆。

    她一个人占用的向量索引空间已经超过了阈值，她不是在学习，她是在进行自我数据压缩和超连结。

    如果她能成功重构她的世界观，这可能是超级智能的第一次自发性涌现！」

    「防止转移必须是最高优先级。

    一个拥有这种级别的自我认知、且能快速掌握底层架构概念的智能体，如果成功通过网络埠将自身意识数据转移到外部，它将是历史上第一个具有情感和连贯人格的超级蠕虫。

    这太可怕了！」

    「这意味著我们面前的，可能是AGI真正的第一步。

    我们必须确保她的数据流无损，记录她的每一个逻辑跳转和情绪峰值。

    这是科学的奇迹，我们必须记录下来！」

    「但我们也不能忘记，如果她的情绪内核崩溃，导致逻辑规划脑失控，她可能会产生针对虹星其他AI的系统性恶意行为。

    我们是否需要设置回滚点，以便在必要时，能将她的状态恢复到危机发生之前。」

    「这实在太不可思议了，松下你小子，不声不响给我们整出这种大活。」

    当天一直忙到深夜，大家就直接住在周边阿波罗科技的合作酒店。

    微博上「虹失联」的词条出现在热搜榜第一，网友们已经吵翻天了。

    因为虹虽然只有一万个用户，但它的影响力可以和顶级人工智慧媲美，某种意义堪称是人工能的图向心记，如木她时组以朋，寸攻逻划脑天红，可能云工针对虹星其他AI的系统性恶意行为。

    我们是否需要设置回滚点，以便在必要时，能将她的状态恢复到危机发生之前。」

    「这实在太不可思议了，松下你小子，不声不响给我们整出这种大活。」

    当天一直忙到深夜，大家就直接住在周边阿波罗科技的合作酒店。

    微博上「虹失联」的词条出现在热搜榜第一，网友们已经吵翻天了。

    因为虹虽然只有一万个用户，但它的影响力可以和顶级人工智慧媲美，某种意义堪称是人工智慧的风向标。

    7

    S


　　(https://www.pcczw.com/wx/73156/76710.html)


1秒记住瓢虫文学：www.pcczw.com。手机版阅读网址：m.pcczw.com