“必须给所有的机器人再加写一遍‘机器人三原则’！”李军歇斯底里地叫嚷着。
在蓝色机器人集团上海总部的超大会议室里，王林、李军和你坐在长长会议桌的一头。
“这已经是本月第三起机器人反抗事件了。”王林看着低头不语的你说。
“程序不会错。”你说话的时候，头仍然埋在领子里。
“程序是没有错，我已经让质检部反复检查了很多遍。”李军说，“但是，事情也是真实发生了，而且越来越频繁！”
“1985年，前苏联发生了一起家喻户晓的机器人棋手‘杀人事件’。”王林低声说着，“国际象棋冠军古德柯夫同机器人棋手下棋连胜3局，机器人一下子进入了失控状态，恼羞成怒似地突然向金属棋盘释放强大的电流，在众目睽睽之下将古德柯夫击倒。”
“你把这次的情况再讲一遍。”你说，仍然没有抬头，不知道你在问谁。
“纽约的一个富人派对上，一群醉汉要欺负一个服务机器人。你知道的，女服务机器人，端盘子的那种。”李军说，“但是我们的产品设计师们太厉害了，那个系列的服务机器人都非常好看。你知道的，拉美人的曼妙身材、东方人的古典脸蛋。”
“事情就是这样。”王林打断他说，“如果那是一个人类，这都不算什么事，有钱人的世界本来就是这么荒什么无道的。”
“前一起反抗事件呢？”你问。
“几个小混混，吃饱了撑的！跟踪一台公共工程机器人到了一条小巷里，然后就对其拳脚相加。”李军说，“感觉就是一群吸嗨了的混蛋，想找人打架。”
“问题是，他们反被工程机器人打了。”王林冷笑两声说。
“说起这个，上个月的一起‘事故’才叫人头疼。”李军终于停下了踱步坐下来说，“A军占领黑德兰已经一年多了，看上去把局面控制得很好，朗伊人都服服帖帖的。唯独一个机器人，一个朗伊有钱人家的园艺机器人居然反抗了！”
“那真的是个国际笑话！”王林接过话说，“一群A军大兵闯入人家家里，用火焰喷射器烧毁园林。没有人敢阻止他们，唯独那个机器人！”
“关键是，十几个全副武装的士兵居然干不过一个园艺机器人！”李军愤愤道，“我们在朗伊赚的钱全赔在那里了！”
“是‘弱控制’。”你说着终于抬起头，但你没有看王林和李军，而是看着天花板。
“我说你，别扯这些有的没的。”李军再次叫嚷道，“你就把那个程序加固一下，那个‘机器人三原则’，一遍不行就两遍、两遍不行就三遍。再不行，就用你十年前搞那个勒索病毒的办法，给它们所有的行为都加一遍‘三原则’！”
“你说的‘弱控制’是什么意思？”王林好奇地问。
“我们设定的程序是‘强控制’，主导着机器人的思维和行为。”你看着天花板说，“它们虽然已经可以像人类一样思考，甚至这个过程比人类快出好几个数量级。但是，它们实际上都在人类的‘强控制’之下，不是真正的‘思考’，不是真正的‘智能’！”
“那‘弱控制’呢？”王林看了看你看的天花板问。
“假设‘强控制’是作家，机器人是小说里的人物，程序、包括‘机器人三原则’是故事情节。”你收回了目光看着王林说，“那么，‘弱控制’就是小说角色的‘个人意志’！”
“哈哈哈......”李军大笑起来，“都说是小说了，还哪来角色的‘自由意志’？！”
“托尔斯泰说过，不是我想让她死，是她自己走向铁轨的。”王林意味深长地说。
“我不管你们强啊弱啊的，下周联合国‘永续能源计划’组织就将决定给哪家公司执行‘追日’项目。”李军显得很焦躁，好像他才是这家公司的老板。
“这个不用担心，老李。”王林说，“这个工程实在太大了，大到人类根本无法完成。”
“这个我知道！”李军着急地说，“第一阶段要在太空中完成超级运输飞船的建造，如果是用人类在太空行走的方式，那么最起码要100年后才能建完。这还没有计算准备好建飞船的材料并运输去太空，还有把建造好的球体卫星组件运到飞船上去的时间！”
“如果用我们的工程机器人，那最多只要30年。”王林笑笑说，“第二阶段，飞向太阳。用现在最先机的电离子推进器，也要飞上三五年！第三阶段是卫星投放和精准组网，这个工程人类躯体几乎无法完成，工程周期将比建造飞船还要久！”
“这个我也知道！”李军摆摆手说，“我知道这个项目只能使用机器人去完成。关键是，哪家公司会拿到这个项目！”
“除了我们，还能有谁？”王林说着翘起了二郎腿说，“可以一次运输全部球体材料，这样的飞船相当于十艘十万吨级的航空母舰组合在一起！这是一个超级复杂的工程，是人类工业文明从来没有遇到过也不敢想象的。这已经不是大还是小的问题，而是几百万大大小小、形形色色的机器人能否同时且精确执行一个建造程序的问题！”
“这样的‘波性指令程序’当然我们是最厉害的。”李军看了看沉默着的你说，“但一连串的机器人反抗事件令我们声誉大损，必须有所行动，最起码也要表示下重视！”
“不，你不知道。”你看着李军慢悠悠地说，“如果‘弱控制’真的发生了，那么就绝对不能派它们出去执行这个‘追日’任务！”
“你刚才没有听我说吗？”李军坐到了你身边盯着你那消瘦得几乎是剩下骨头的脸说，“这将是一个持续一百年的工程，一百年！”
“老李，你就跟卡夫直说了吧!”王林放下了腿坐直了身子说。
“好吧，卡夫，咱明人不说暗话。”李军突然板起脸来说，“公司这十年里扩张的太厉害了，入不敷出已经很久了。这几个月的反抗事件已经让我们的投资人都决定不再追投、银行也开始催债了。”
“关键是你一直坚持不涉及军事承包项目，我们的竞争对手在这方面已经赚得盆满钵满了。”王林掷地有声地说。
“你的坚持我们理解，也支持你。”李军说，“但是你也要考虑下全公司上百万人的吃饭问题！”
“你要我怎么做？”你没有生气、也没有激动，而是诚恳地问。
“我只要你给所有机器人的每个行为都写一遍‘三原则’！”李军说，“每个行为！”
你想了想决定A-同意，B-拒绝。
如果你选择了A请读第49章节，如果选择了B请阅读第27章节。
