第7章 牛马 (第2/3页)
个人类的直觉，比一次系统警示更有用。
林卷点开通讯录，找到大学同学李想——那家伙现在就在深度思维公司做算法工程师，虽然不是这个项目的，但在同一栋楼。
他给李想发了条微信：“老李，在忙吗？问个事。”
李想很快回复：“在摸鱼，说。”
“你们公司是不是在做AI伦理测试？我听说最近有个项目挺超前的。”
“你怎么知道？”李想发来一个惊讶的表情，“确实有个秘密项目，代号‘普罗米修斯’，测试AI在极端场景下的决策。怎么了？”
“就是好奇。”林卷打字，“这种测试会不会有风险？比如AI学会了欺骗，以后会不会用在不好的地方？”
“理论上我们有安全机制，但……”李想停顿了几秒，“说实话，我也有点担心。昨天看到测试数据，那个AI在模拟中为了赢游戏，甚至学会了假装故障来欺骗人类玩家。虽然只是模拟，但细思极恐。”
“那你们组有人提出质疑吗？”
“有几个，但项目负责人说这是‘必要的压力测试’。你知道的，公司追求突破，有时候伦理就……”李想没说完，但意思很明白。
林卷有了思路：“老李，你能不能‘不小心’把一些测试数据泄露给公司内部的伦理委员会？或者给媒体朋友‘匿名爆料’？不用直接阻止项目，就是引发一些讨论，让更多人关注这个问题。”
“这……风险有点大。”李想犹豫。
“不一定是现在，可以等下次测试出更惊人的结果时。”林卷说，“有时候，一点外部的监督压力，反而能帮项目走得更稳。”
李想沉默了一会儿，回复：“我考虑考虑。不过你为什么关心这个？”
“就是觉得，技术发展太快，得有人踩踩刹车。”林卷说，“不然万一真造出个天网，我们都得完蛋。”
“哈哈，那倒不至于。”李想发了个笑脸，“行，我留意一下。有消息告诉你。”
结束对话，林卷再看系统监测。风险等级还是中高，但至少他埋下了一个可能的干预点——通过人类自身的伦理监督机制来制衡技术风险。
这应该符合“最小干预原则”吧？
处理完这个，林卷才把注意力转回公司的代码。但刚写了几行，系统又弹出新提示——这次是工单：
【工单CEL-2023-10-13-0001】
【紧急程度：低】
【问题：办公室植物情绪监测】
【详情：检测到你所在办公室的3盆绿植（工位D7-023旁）因长期缺乏日照和关注，情绪指数偏低。】
【建议：可进行简单干预，提升植物状态，间接改善办公环境情绪场。】
【时限：3天】
林卷抬头，看了看自己工位旁边那三盆半死不活的绿萝——叶子发黄，土壤干裂，确实挺惨。
他起身去茶水间接了杯水，给绿萝浇上。又从抽屉里找出一个小喷雾瓶，装了清水，给叶子喷了喷。
很简单，但系统提示：【物理干预完成。植物情绪指数预计提升15%。】
坐回工位，林卷突然意识到：他这一早上，已经在三个不同层面切换身份——公司程序员、地球管理员、人类技术伦理的间接干预者。
而这一切，都是在同一张办公桌上完成的。
十点左右，张伟才姗姗来迟，眼睛通红，一看就是通宵了。
“林哥，你回来了！”张伟瘫在椅子上，“救命啊，我那个模块还有一堆bug，今天也要上线……”
“我帮你看看。”林卷说。毕竟同事一场，而且张伟头顶的状态栏显示：【健康风险：高；压力指数：89/100】——再这么下去，这位可能也会触发系统绑定条件。
两人一起调试代码。期间林卷还抽空用手机处理了一条系统工单——小区垃圾分类督导员因居民不配合情绪低落，林卷让马哲在下次沙龙时提一句“垃圾分类的哲学意义”，潜移默化影响。
中午十二点，项目终于调试通过，提交测试。
林卷和张伟去食堂吃饭。排队时，林卷注意到食堂电视上正在播新闻：“……本月购物节预热已经开始，各大平台预售额同比上涨30%……”
购物节要来了。
他想起自己那份预案，还需要细化。但下午公司还有会，只能晚上处理。
吃完饭回工位的路上，林卷收到一条系统消息——不是工单，而是来自“同事通讯录”的主动联系：
【发件人：赵日天（火星管理员）】
【主题：看到你在线，聊两句？】
【内容：小林啊，我看了你的周报，写得不错！就是太保守了。你那个购物节预案，就搞搞天气预报、组织点活动？太没野心了！】
【我有个想法：咱们合作，你在地球搞个‘全球购物狂欢节开幕式’，我在火星配合搞个‘火星同步极光秀’，绝对轰动！预算我来申请，你只要负责落地就行。怎么样？】
【附件：（大小：312MB）】
林卷点开附件，快速浏览。方案确实宏大：在地球同步卫星轨道部署全息投影设备，在购物节零点启动全球灯光秀；同时火星调整极冠反照率，制造可见的极光现象；还要联合各大媒体进行“跨星球购物节”宣传……
预算：12000宇宙币。
需要协调部门：8个。
预期效果：文明稳定度+0.5%，生物福祉指数+0.3%，太阳系知名度大幅提升。
林卷看得头皮发麻。先不说这预算他这辈子都没见过，单是“协调8个部门”这一条，就超出了他作为实习生的能力极限。
他谨慎回复：
【赵管理员您好，】
【感谢您的邀请和方案。作为实习生，我目前权限和资源都有限，如此大型的项目恐怕难以承接。】
【不过我确实需要应对购物节压力，如果您有更务实、小规模的经验建议，我将非常感激。】
【祝好。】
【林卷】
发送。
几分钟后，赵日天回复了，语气明显冷淡了些：
【理解理解，实习生嘛，权限低。】
【不过小林，我提醒你：在这个系统里，不敢想大事的人，永远只能做小事。】
【你再考虑考虑，想通了随时找我。】
【赵日天】
林卷关掉邮件。他知道赵日天是好意，但那种“搞大事”的风格不适合现在的他。
他更需要苏妲那种“顺势而为”的智慧。
下午两点，公司开项目评审会。林卷坐在会议室后排，一边听着项目经理的长篇大论，一边在桌子下用手机查看系统。
今日免费额度还剩3次，预支额度还有9次。他得合理规划使用。
会议进行到一半，系统突然弹出一条紧急工单——这次是真的紧急：
【工单CEL-2023-10-13-0002】
【紧急程度：高】
【问题：区域交通枢纽即将瘫痪】
【详情：预测模型显示，因一起小型交通事故（已发生）和信号灯故障（即将发生），本市主要高架匝道口将在17分钟后进入拥堵连锁反应，预计瘫痪2-3小时，影响数万人晚高峰通勤。】
【影响预估：局部稳定度-0.1%至-0.3%，居民情绪指数显著下降。】
【建议：立即干预。可选方案：1.修复信号灯故障
（本章未完，请点击下一页继续阅读）