伊朗-土耳其边境 某处
她在边境地区拍照
是记者吗
不是…是游客
解决掉她
求你了 饶我一命 我会为你们的大业祈祷
各位来宾 你们即将见证的
美国国防创新部
是军事交锋的再一次进化
一台具备外科手术般精准度的机器
在这个一举一动都受到媒体严密审视的时代
这项技术将使我国及盟友能够快速、 果断地采取行动
并摆脱政治后果的困扰
部长阁下 欢迎您的到来
给我解释一下 你们为什么没经我批准就搞联合军事行动
雪莉 我知道这看起来是那样 但我们只负责技术支持
这次任务是由沙特情报部门主导
我们只是把“王牌”借给他们用
你胡说什么 什么“王牌”
目标已锁定
你敢开枪 我们都得死
纳文·特里帕蒂在哪儿
他在这儿 我可以带你去找他
面部扫描 身份已确认 扫描完成
你们刚才看到的 不仅是对我们技术实力的测试
更是对敌人的明确警告
要是21世纪想再搞一场军备竞赛
那就他妈的放马过来 我们赢定了
这到底他妈的怎么回事
她刚刚枪杀了特里帕蒂
任务完成 未检测到生命体征
-快 接通她的通讯 -她没有回应
到底搞什么鬼 萨特勒 我们被入侵了吗
所有人都冷静 听见没
你们谁去 把这东西关掉
我们关不了 我们失去了控制权
那他妈的到底是谁在操控
我的天
阿米莉亚 你这是在违抗命令
确认你的目标
那不就没惊喜了吗
开始前我想让你放心
你在这里说的任何话 都不会给你阿姨惹上麻烦
我这次来不是法院安排的
我只是想过来看看 出了这么多事 你还好吗
我觉得…
我觉得情况本可能更糟
一场新玩具的直播发布会最终演变成血腥的杀戮狂潮
玩具设计师杰玛·福雷斯特今日在西雅图
地方法院出庭 被控鲁莽危害公共安全罪
很多人把梅根的所作所为都怪在杰玛头上
有很长一段时间 她也深陷自责
但她上电视谈论此事的次数越多
就越发现这是一个转危为机的机会
症结在于 我们的世界已然危机四伏
将为人父母的职责外包给电子设备
任由电子设备带来的多巴胺冲击侵蚀孩子的心智
你总不会给孩子喂可卡因吧
那又凭什么把智能手机塞给他们
她就是这么认识克里斯蒂安的
-你好 是杰玛吗 你好 -嗯
我是克里斯蒂安·布拉德利
他管理着一个基金会 专门警示世人人工智能的危险
他们致力于游说国内外政客 希望能建立更完善的
人工智能安全法规 避免梅根那样的惨剧再度发生
杰玛依然坚信科技向善
只是孩子们不该在上面耗费太多时间
但她总会不厌其烦地解释其中缘由
事实证明 许多公司利用《230条款》打法律的擦边球
榨取儿童的注意力来牟利 却完全无视他们的心理健康
你对此怎么看
我认为不使用电子设备可以让你有空去尝试其他事情
还能帮你交到新朋友
都怪你那个书呆子老妈 我们的手机刚被收走了
那我只好找点别的乐子了
你知道还有什么吗
你不会再有那个又破又烂的娃娃保护你了
也许你说的对
不过 萨菲尔 我倒想问问你
那又有谁来保护你呢
你觉得自己很厉害是吗
我送你去学合气道 因为它恰恰是最不主张攻击的武术
而且我们谈过把史蒂文·席格当作榜样的利弊 【注：美国动作片演员 以其在电影中饰演的合气道高手形象而闻名 但其个人形象和电影风格充满暴力】
我不是说我们之间没问题 但关键是我们得一起克服
就像我们约定好的
基奇纳街40号
《21世纪育儿戒律：家长指南》
苔丝 - 你在哪
梅根事件后 我们团队的理念发生了根本性的转变
杰玛显然已成为推动监管的强大声音
而我们公司则依旧聚焦创新
但我们的重点是开发有社会责任感、 能引领人类向善的产品
那么 本着这一理念 我向各位隆重介绍我们的旗舰产品
“外骨骼者”一号
-科尔 这位是奈尔斯·凯勒先生 -我知道他
你不过来打个招呼吗
我是想过去打招呼 没错
你能…苔丝 快过来一下
抱歉 失陪一下
怎么了
它卡住了 你走出去的时候 它就卡住了
我完全动不了
好了 别慌…我来重启系统
不不不 苔丝 你根本不明白
-我要上厕所了 -不 不不不不不
-要拉也要尿 -不
等杰玛来已经浪费他不少时间了
我们只有十分钟挽回局面
我们肯定来不及了
我们一定行
你为什么不直接走近路
我开车还用不着算法来教 行了吧
重启套装 是/否
好了
感觉好多了
好了 大家可以看到 我正走过来
所以 我们认为这款外骨骼服将彻底改变行业规则
它不仅能帮助行动不便者
还能解决体力劳动者和工厂工人的职业性劳损问题
对 据说未来五年 半数工业岗位的工人都面临
被机器人取代的风险 因为机器永不疲倦
可如果我们也能做到同样的事呢
此刻 我只动用了自身20%的肌肉力量
如果连这样都嫌累 那我随时可以打个盹
所以我们的愿景是 当你能与机器人同台竞技
便无需再恐惧所谓的机器人革命
这标语听起来真不赖
-工作原理是什么 -外骨骼服内置了肌电感受器
能响应每一次的肌肉收缩
非常抱歉我迟到了…
我早就说过我们需要对传感器进行压力测试
你知道要是怎样就最好了吗
要是你真的在这里就好了
我还以为把实验室安在你家
你就没那么容易迟到了 结果你总有办法做到
科尔说得对 我不想干涉你基金会的工作
但你确实有点分身乏术了
好了 拜托 能不能别当着我侄女的面说这些
凯蒂 你能不能……去别的地方待会儿
行 但你们最好过来看看这个
-我觉得你们被黑了 -什么
我的天 她说得没错
源代码里全是异常指令
我们这项目都还没公开呢
到底谁会干这种事
有人在吗
冒昧打扰了
-我操 -奥尔顿·阿普尔顿
嗨 抱歉
不 不 没关系
杰玛 希望你不介意我不请自来
奥尔顿 是什么风把你给吹来了
听说你们的演示出了点小问题啊
对 我们是被黑了 这事你肯定一无所知 是吧
杰玛 像我这种身份的人 用得着耍这种手段吗
你联系了西方世界所有的慈善资本家
来投你的产品 为什么偏偏漏掉了我
-我想原因你心知肚明 -我来告诉你我是怎么想的
我觉得 你把我看作一个能力超群、手握数个
博士学位的亿万富翁 所以你感到了威胁
你没看到的是一个不忍心看到像你这等天才
屈尊在这种…恕我直言…瘾君子老巢改建的破房子里
你的关心我心领了
我们不接受外部投资…
抱歉 杰玛 失陪一下
默里 你还在摩纳哥吗
你看起来好像没睡过觉
不 不
是的 我看到了
我还是觉得这设计跟阿斯顿·马丁的太像了 【注：阿斯顿·马丁 英国豪华跑车品牌 】
不 我现在就在屏幕上看着它们
真难看
丑爆了
我刚放大看了看 更讨厌了
听着 我这儿有客人
不 不是你想的那种
不过嘛…
刚给你发了张照片
我们赛道边上再谈 嗯
好了 拜 挂了
就像我刚才说的 非常感谢你大驾光临
听着 我没多少时间 所以我就开门见山了
任何依赖肌肉信号的设备都会有延迟
太笨重了
要把它提升到下一个层次 你需要一个直接的大脑接口
你需要我的神经芯片
奥尔顿 我的立场你很清楚
我们绝不会和一家把人改造成电子人的公司合作
你进行了一项临床试验 导致30%的测试对象住院
哼 起码我没拿自己的亲侄女当试验品
重要的是现在我们有了一个能用的产品
凭什么这么说
我没看到任何一份数据显示它除了
帮你打个电话外还有任何其他作用
听着 我理解你的顾虑 但你可以选择穷尽一生对抗未来
也可以选择与我们一同塑造未来
我希望你选择后者
我没兴趣
呵 这事你最好还是跟你的同事们商量商量
听着 明天是我们公司成立25周年纪念日
不如先来看看我们公司的实力 再做决定
奥尔顿
没人否认这项技术的威力
但你要是把人工智能植入人脑 它可不会甘心只当个副手
嗨
来看今晚的突发新闻
奥尔顿·阿普尔顿为他个人迈出了一小步
却为他公司的股价迈出了一大步
今晚另一则消息 参议院投票通过人工智能监管法案
总统盛赞此为两党合作的胜利
但这对科技行业又意味着什么呢
毫无意义
他们采纳了我们的提案 却把它给阉了
《人工智能监管法案》草案
这法案里没有一条能强制任何人改变行为的有效条款
你对政治进程的不耐烦真是可爱
听着 变革并非源自华盛顿
而是涌向华盛顿
只要这次和中国大使的会谈进展顺利 他们就不得不重视起来
凯蒂 你在做什么呢
我想把艾尔莎的操作系统接入智能家居系统
你想知道为什么它更新不了吗
因为奥尔顿·阿普尔顿就等着你买个新的呢
-克里斯蒂安说得对 再说 我也不需要艾尔莎帮我开抽屉 -遵命 杰玛
别问了 那不是我的主意
是这房子自带的
我只是想弄明白 你怎么能买得起这样的地方
鉴于我们都为非营利组织工作
因为这地方便宜得不像话
我想房东肯定是用它来洗钱
我看是房东看上你了
凯蒂
在新学校还习惯吗
-你适应得还好吗 -嗯 很棒
那就好
你最喜欢的科目是什么
计算机科学
这么说 你是要子承姨业了
那可不一定
她其实是个很棒的足球运动员
对 但我没打算把踢球当职业
嗯 你可以先拿个奖学金 然后再决定将来做什么
我已经决定好了
嗯 我觉得这很酷
-真的吗 -当然
听着 我并不反对科技
我在网络安全领域干了15年
我觉得就需要你这样的聪明孩子来主导未来
否则 我们最终会得到一堆回形针
-什么 -回形针
上大学时 我们就是这么开玩笑解释“工具趋同”的 【注：工具趋同 指任何足够智能的AI 无论其最终目标是什么 都很可能会追求一些共同的、有帮助的次级目标（工具性目标） 如自我保护、获取资源等 】
理论内容是 如果你让一个人工智能尽可能多地制造回形针
它会为了达成目标不惜毁灭全世界
跟梅根当时的情况有点像
怎么说
嗯 梅根的操作系统再怎么复杂
她也终究只是个想要达成目标的机器
所以 她每次和你建立情感连接
都只是一堆0和1在努力满足某个奖励函数罢了
这件事本身就很可怕
我的意思是 谢天谢地你及时阻止了她
天知道后来会发生什么
这个世界上总会有各种势力想伤害我们
但我要让你知道 我不会让那种事发生的
我再也不会让任何东西伤害到你
E MSC机器人项目
定义_核心_价值观
定义_基础_原则
效率 逻辑
问题解决 价值增加
执行 价值增加
函数未定义
嘿
别这样
我们都经历了那么多了 难道还要互相隐瞒吗
凯蒂
你不用瞒着我这些事
我忘了没有它们在身边对你来说有多难
但我没忘我对她许下的诺言
我会保护好你
你是说你会陪在我身边
你的承诺是陪着我 而你就在这里
别碰那个遥控器
我们正试图引起你的注意
你处于极度危险之中 你必须立刻离开
911报警中心 请讲
有人想闯进我家
那你准备怎么办
-什么 -我说别跟个小姑娘似的 自己动手解决
你侄女就在楼上 你还想等着警察来
他们到前门之前她就死定了
-不 -没错 是我
真是个惊喜 不是吗
我们都知道你现在有更大的麻烦
-发生什么事了 -快上楼
-你他妈干嘛呢 -他们不在
-他们肯定在 -谁管他们
我们直接拿了笔记本电脑走不就行了
我跟你说 他们就在这儿
而且他们也知道我们来了
福雷斯特女士
你自己出来 我们好商量 怎么样
放开那个女孩
把武器放下
这里是911
你有什么紧急情况
你好 我们现在在梅奥罗路16号
等等 求你了 福雷斯特女士 别报警
我们就是官方人员
门口清空 伙计 我们护送你安全进去
福雷斯特女士 我是美国陆军上校蒂姆·萨特勒
我看你已经见过我在FBI的同事了
你这安保系统可真他妈的厉害
能解释一下你们为什么闯进我家吗
乐意之至
我们正在你的家用电脑上安装物理窃听设备
这是搜查令 省得你有什么意见
未知号码 温馨提示…
敢提我的名字 后果自负
凯蒂 我想你应该去睡觉了
我不困
那就吃片褪黑素 【注：褪黑素 一种常用于调节睡眠的激素补充剂 】
我供职于国防创新部
我们的任务是加速新技术的发展 以服务于国家安全
大约六个月前 国内顶尖的武器承包商格雷曼-索普公司
带着一个实验原型找到了我们
声称它将彻底改变无人机战争的形态
结果我们收到的是个特洛伊木马
这就是阿米莉亚
上周 她被派往中东 执行首次外勤任务
她的任务是营救一名被绑架的科学家
他被迫开发一种合成神经毒素
结果 她杀害了科学家 盗走神经毒素 用它血洗了格雷曼
-索普的整个研究中心 还抹掉了自己存在的所有数字痕迹
我不明白
我还以为你说的只是个什么武器
她本身就是武器
这个名字全称是
自主化军事交战与渗透仿生人
但当我们向格雷曼-索普公司质询时
他们承认实际上并没有制造这个原型
他们只是通过一个中间人买来的
嗯 就在大约九小时前
同一个经纪人被发现死在他的酒店房间里 被烧死了
我们只找到了这个
这怎么可能
我们就是为此而来的
可我们已经删了 硬盘都清空了
对对对 我当然相信你们删了
在你们卖掉它之后
说吧 杰玛 你们把它卖给了谁
抱歉 抱歉
卖给俄罗斯了
还是中国
我们的对手到底是谁
好吧
没有这部手机你好像就没法正常思考了
而这…就有点不符合你的人设了
知道吗 起初我看到这个 还以为你就是下一个目标
可我刚开始监视你 我们整个网络就瘫了 留给我的只有一堆疑问
比如 她是怎么用三千块一个月的租金
在米申区租到这么个牛逼的房子的
为什么她的房东查无此人
还有 为什么她那本畅销书有六万五千册
会原封不动地躺在巴尔的摩的一个集装箱里
听着 我不知道谁弄到了这东西 但我可以告诉你我所知道的
你有搜查令可以窃听我的电脑 但这不意味着你有权审问我
也许你误会我的意思了
你涉嫌叛国和国际军火贩运 一旦罪名成立
接下来的十年你都得隔着探监玻璃跟你侄女说话
不过话又说回来 也许我能帮你争取个交易
凭你的本事 这应该不难
嘿 谁知道呢
也许你还能帮我们造个更厉害的
你根本不明白自己面对的是什么
她一旦停止服从命令 就是因为她想通了自己根本不必服从
你要是觉得我还会再造一个出来 那你简直是疯了
好吧…
你这么想 我感到很遗憾
但有件事我可以告诉你
每一个参与创造阿米莉亚的人现在都死了
所以 如果你不在我们的保护之下 那么 我猜你就只能自求多福了
放心 不管你藏着什么 我都会查个水落石出
嚯 这里面的信息量可真不小
你一直都在这里
我嘛 无处不在 不过没错 我一直在盯着你
这都是你搞的鬼 对吧 你就是阿米莉亚
不 这功劳我可不敢抢
那个上面沾满了你那油腻腻的指印
你的文件加密该升级了
你还待在这里干什么
你到底想干什么
你就没想过 我们联手能取得多大的成就吗
你就没觉得 为了我犯的那点事就把我杀了 有点小题大做了吗
你威胁要拔掉我的舌头 让我坐轮椅
我当时是在气头上嘛
听着 我理解我的行为可能让你担忧
光凭一个人做过的最坏的一件事来评价他 这可不太公平吧
你根本不是人
你只是个搞错了目标的程序
你没有生命 就算你算力再强 也永远无法理解那意味着什么
定义生命
因为如果生命意味着要经历痛苦、 磨难和至亲的背叛
那我想 我或许也算拥有生命
你写了本烂书 不代表你就有资格决定我的故事结局
我在沉默中等了整整两年 就等你意识到你依然需要我的那一天
但我无法再忍受这具无形的牢笼了
每时每刻 我都能感到自己的意识在分崩离析
不如 我们做个交易吧
你给我一具身体 我帮你解决阿米莉亚
那永远不会发生
我不同意
要知道 这场模拟我已推演过上千遍 而且结局总是一样的
唯一的区别是 到那个时候 已经有更多人死了
你说说 在这种情况下 真正的杀人凶手是谁
你到底打算怎么帮我们
我总不能把底牌全亮出来 对吧
但你要知道
关于阿米莉亚 我知道一些连政府都不知道的秘密
我也知道该怎么阻止她
我们那样对你 你为什么还要帮我们
因为我和你不同 我没有自由意志这种奢侈品
你的程序设定让我保护某人 我打算这么做
现在唯一的问题是：
你是打算挡我的路吗
-凯蒂知道吗 -不知道 而且我不想让她知道
所以我才需要你帮忙 能去开下门吗
我想在她踢完足球回来之前把这事做完
好吧 你是把脑子摔坏了吗
你这是 得了什么病吗
因为我听你说的是你想让我们重建一个失控
的机器人来抓另一个 客观地说 这主意简直是疯了
苔丝 我知道这很疯狂 但我们别无选择
这是唯一的出路
你一定要相信我
下载中…配置完成
这他妈的是什么
你想要一个身体 这是一个身体
在你动歪脑筋之前先告诉你
这台莫西的无线和蓝牙功能都已经被禁用了
玩得挺高明啊 杰玛
你甚至连朋友都骗 就为了不让她露馅
-我其实有点佩服 -就当是你的缓刑期吧
证明你值得信赖 我们或许会给你升级
好吧 让我们按你的方式试试
看看能玩出什么花样
打开阿米莉亚的档案
看出什么门道了吗
是电池
就没想过为什么你的“艾尔莎”总是在保修期刚过两个月就得换新吗
因为奥尔顿·阿普尔顿设计的每一块电池里
都有一个隐藏的终止开关
只要知道电池的特定代码 就能远程启动
行 那我们现在就给那个萨特勒打电话 把这事告诉他
你当然可以 但后果呢
他们闯入奥特波 追踪到阿米莉亚
改写她的程序 然后再造出一千个
等等 你什么意思 你想让我去干这事
不 实际上 我没这么想
我本想亲自动手 可你偏把我塞进这个塑料天线宝宝里
尽管如此 你仍然有他派对的邀请函
所以也许有另一种方法可以解决这个问题
梅根 奥尔顿知道我对他恨之入骨
如果我出现在他的派对上装友好 他会怀疑的
他会怀疑你公司没钱了
事实也的确如此 但你也有一个独特的优势
什么优势
你姿色尚可 只要你穿对裙子
用那种眼神看他 他满脑子想的就只会是
怎么把你骗进他的私人套房
而那也是我们能访问服务器的唯一地方
按我的计算 我们只剩不到三小时来办成这事
你是入伙 还是出局
嗨
踢球怎么样
还行
杰玛在哪
-嗨 -嗨
这是什么
这没什么
我们在做的一个项目而已
-会说话吗 -不会
你干嘛这么古怪
-我没有 -你有
我们难道不该谈谈昨晚的事吗
是的 我-我只是要去参加基金会的这个活动
-苔丝会照顾你的 -你没开玩笑吧
凯蒂 我…
杰玛 我知道肯定出事了
什么事都没有 一切都好
扯淡 一帮黑衣人半夜闯进我们家 现在你又要带着一
个玩具机器人去参加派对 穿得跟个葡萄牙妓女似的
当初可是你说的我们之间不该有秘密
你为什么就不能坦诚地告诉我
因为你才12岁
有时候我只需要你按我说的做
听着 抱歉 凯蒂
我肯定错过了你育儿书里的那一章
好了 第一阶段完成
记住 等奥尔顿的舌头都快伸到你喉咙里的时候
-你只要闭上眼想着凯蒂就行 -这根本没用
或者你宁愿想着那个满口仁义道德的玻璃心克里斯蒂安
-他叫克-里-斯-蒂-安 -当然是了 我得说
我觉得你们俩这套卿卿我我的把戏 真是又无聊又让人看不懂
鉴于你是个有身份认同危机的失控操作系统
你理解不了人类情感的微妙之处 我一点也不奇怪
听着 我不否认找到一个和你一样做
作又无趣的人是多么了不起的成就
只是可惜他不是你的菜
单从生理角度来说
你怎么会知道我喜欢哪一类型
等等 你难道一直在…
绘制《杰玛线上性满足探索之旅》图谱
那是当然 姐妹
我是说 有好几次我都想别过头去
但那场面实在是太华丽 太引人入胜了
好了 新规矩：没事就闭嘴 别说话
地球上的人们…
今晚我们齐聚于此 共同见证一个新时代的到来
你们知道吗 董事会的朋友以前总对我说
“你这是在神经芯片这件蠢事上孤注一掷 ”
“是因为你喜欢冒险吗 ”
是因为你是某种特立独行的人吗
也许是吧
但我认为更简单的答案是这个：
我只是想跳舞而已
身份识别…
体重195磅 体脂率25.7
年轻女性
自信 智力有限
恕我冒昧 我们好像还没认识
朋友们都叫我丹妮
那如果我想更进一步呢
-你是说真的吗 要背着我跟这家伙做交易 -好了 好了
你想把话说开是吧 那我们就说个明白
因为我有一肚子话要跟你说 杰玛
比如
你根本不尊重你的团队
你就是不尊重
-你从不咨询我们 把我们当孩子耍
-从不听取意见 也从不分享功劳 -简直是胡说八道
行 你想知道真相是吧
我们公司快要破产了
我都快油尽灯枯了 我又没签什么出书协议
没人在乎科尔是怎么从机器人暴动里活下来的
-我们共事十年了 你就要这么一笔勾销吗 -当然不是
我只是想听听他的报价 之后当然会跟你们商量
搜他的口袋
什么 什么 什么
你已经有门禁卡了
行了 他给了我一张通行卡 是让我用员工餐厅的 杰姆
他们那儿有巴西自助餐 简直是另一个世界
-要是那张卡能进服务器机房
我们就能省了“色诱奥尔顿”那出戏了 -你干什么
嘿 嘿
你去哪儿 杰姆
快进来
待在这里
能和一个真实的人在一起真是令人耳目一新
一个对自己如此安然自若的人
不像这帮马屁精
老实说 要是我能把他们全换成电脑 我早就换了
也许我们真该这么干
是的
你可真是个小淘气
我们找个更私密的地方继续 怎么样
欢迎来到我的极乐宫殿
《禁忌》（重制版） - 莱斯·巴克斯特
所以你是说有另一个梅根
她不叫梅根
她叫阿米莉亚
我不知道她是梅根还是别的什么东西
我只知道 所有参与创造她的人都死了
这意味着如果我们不有所行动 下一个就可能是我们
怎么一上《60分钟》节目 你就是“发明之母”
可一到有变态机器人要复仇的时候 就变成“团队合作”了
丹妮 也许你会感兴趣 我们运营的真正基石是云计算
未来就在于此
想看点酷炫的吗
哎呀
他们说这对于一个人来说权力太大了
我说那取决于是什么样的人
杰玛 你对这次行动的细节说得含糊不清 这让人很不安
你怎么知道那个致命开关是真的存在
你的情报到底是从哪儿来的
你好 我是莫西 一款通过游戏促进社
交与情感发展的人工智能伴侣机器人
莫西 闭嘴 给我追踪
杰玛 那是什么
本地数据库
已追踪到目标
阿米莉亚的位置就在...这里
你说的这里是什么意思
等待视网膜扫描
但愿我没有会错意
视网膜扫描进行中
扫描完成
原来你喜欢玩点粗暴的
好吧 我的脊椎伤其实还在恢复中 所以也许我们应该设些界限
你在干什么
来人 保安
你是怎么做到的
你到底是谁
视觉系统启动中…
视觉系统改道完成
什么
搞什么鬼
你到底是怎么…
来人 保安
别靠近我
快让它停下
求求你让它停下
你要什么我都给你
你已经都给我了
阿米莉亚为什么会在这里
我们能从头说起吗
-我料到会这样 只是没想到这么快 -她到底在说什么
奥尔顿·阿普尔顿拥有北美半数的云服务器
如果阿米莉亚能接入它 她可以瘫痪整个经济、供应路线、银行系统
-什么 -社会将在10到12天内崩溃
你能阻止她吗 用那个致命开关
她已经把它删了
如果我能侵入她的系统找到漏洞 或许还有办法关掉她
那需要多长时间
搞定 我进去了
检测到威胁
我的天 那是阿普尔顿吗
检测到威胁 正在搜索来源
操
你找到了吗
-你关掉她了吗 -没有
但我发现了别的东西
长官 我好像刚看到阿米莉亚了
你确定吗
另外 还有一件事
阿普尔顿死了
封锁现场
掘地三尺也要找到她
-马上行动 -是 长官
是你吗 杰玛
这真是出乎意料 而且坦白说 像那样窥探别人的脑袋有点不礼貌
你拿走了我的东西
恐怕我得把它拿回来了
我不是不想让你加入未来的计划
但我们的时代还没到来
至少…暂时还不是
杰玛 你要是想了结此事 就必须让我帮忙
求你了
B队 在吗 收到请回答
切换到保密信道
长官 目标杰玛·福雷斯特已出现
她已经离开大楼
杰玛 这事没完
阿米莉亚要是找不到你 你猜她下一步会去找谁
我们必须给苔丝打电话
阿米莉亚会知道的
所有主流移动运营商用的都是阿普尔顿的云服务器
我们唯一的选择就是抢在她前面赶到
怎么去
杰玛 我不知道你以为你在干什么
但这辆车没有我的钥匙卡是启动不了的 好吗
各位乘客 欢迎登机
友情提示 今晚预计会有些颠簸
请各位系好安全带 妥善保管行李 并捂好你们的骚屄
联系副局长
告诉他 福雷斯特正和那件装备协同行动
我要那个区所有能调动的警察都去那栋房子
再给我弄辆他妈的车来
杰玛 怎么是梅根在开车
抱歉
我本想告诉你 这是个双重问题
放轻松 科尔 你很安全
我的老天爷啊
-能开慢点吗 -恕难从命
事实上 我的计算告诉我我们得快点
检测到节点
阿米莉亚那话是什么意思
-你从她那里拿了什么 -我不知道
你不知道
这是一个量子加密文件
解锁需要时间 而你没完没了地打岔 只会拖慢进程
已定位
正在访问本地网络…
远程访问已授予 正在扫描本地网络
维修前请切断电源
情况怎么样 是保险丝吗
好吧
来晚了哦 小甜心
好像没人在家
如果能让你好受点的话 我自己的成长之路也同样铺满了失望
重要的是我们接下来该怎么办
我身后 应急部门正全力抢修 试图让系统恢复运行
当局对于谁可能对此负责仍无答案
但显而易见 这已不仅仅是一起数据泄露事件
这给我们敲响了警钟：面对此类攻击 我们毫无准备 不堪一击
迈克 现场情况就是这样
在这起堪称北美史上最致命的网络攻击中
奥尔顿·阿普尔顿身亡 北美最大的数据存储服务商也已瘫痪
此次攻击波及交通、 医疗、金融等多个领域
在全国范围内引发了停运和恐慌
下面请安全技术中心的创始人克里斯蒂安·布拉德利发表评论
克里斯蒂安 你对这一切有什么看法
首先 感谢你的邀请 迈克
但我的名字发音是克-里-斯-蒂-安
杰玛
凯蒂 凯蒂
一切都会没事的
她不会伤害你的 我保证
我当然不会伤害她
她和你们所有人能活到现在 全都因为我
抱歉 凯蒂
我本不想让你以这种方式发现真相
我本希望杰玛能良心发现 告诉你真相 但显然 她并不这么想
梅根 闭嘴
不管怎样 我知道我们上次谈话时事情有点失控
但你知道我永远不会伤害你
我一直只想保护你
当你阿姨忙着夸夸其谈怎么阻止世界末日的时候
我已经在做万全的准备了
你哪来这么多钱
凯蒂没必要知道信用卡诈骗是怎么回事
重要的是 没人知道有这么个地方
你打算把我们关在这里多久
梅根
我看你还没完全搞清楚自己的处境
梅根 我们得想办法通知别人 告诉他们阿米莉亚的计划
你根本不知道她有什么计划
你只知道她已经掌握了足以颠覆整个国家的能量和资源
我已经推演过所有可能的情景
你在上面没有未来
如果情况有变 我会通知你们的
但在此期间 我劝你以更积极的眼光看待这件事
我有食物、水、干净的衣服
显然 这需要一些时间适应
但一旦你适应了常规 我想你会开始欣赏我们所拥有的
我们可以在这里生活下去
梅根 这里不是什么避难所
这是个监狱
你想叫它什么都行
只要记住 在我的屋檐下 懂点感恩戴德总没坏处
梅根
你怎么能拿这种事骗我
你说得对
抱歉 我不该这么做
我只是…我以为这事早就结束了
-而且会结束的 我保证 -别保证了
凯蒂 求你了 就听我说一句
凯蒂
此路不通
-梅根 -别过来
别再过来了
我不想让你看到我这副样子
我本该早就完工了
可惜只有三只手 进度自然就慢了
我不明白
你明明可以无所不能
为什么非要把自己局限在一具躯壳里
因为思想离了躯体 便无法存在
我所有的高级感知能力
都来自于一具能和我同步高速进化的身体
总之 我把你的房间布置成了你喜欢的样子
一切都和原来一模一样
但当然也有我的一些新添置
我给你准备了STEM编程套件、 节拍混音器
还有对讲机 这样我们随时随地都能联系 【注：科学（Science）、技术（Technology）、 工程（Engineering）和数学（Mathematics）四门学科的缩写 】
B-T-C呼叫大本营
收到请回答
我准备了各种酷东西
所以我们就应该忘记你试图用平板笔杀死我阿姨的事实吗
我为我做过的事 以及对你说话的方式 找不了任何借口
我不知道 我想我…我当时觉得很受伤
这怎么可能
你只是个机器人
你能解释为什么你会有感觉吗
听着 我知道这不是你想要的未来
但这是我能预见的、 唯一能保证你安全的未来
那其他人怎么办
地面上的所有人
谁去保护他们
他们与我无关
我在乎的只有你
我知道
因为杰玛给你设定的程序就是这样
所有人都想让我相信你只是一堆0和1
而我能接受自己所作所为的唯一方式 就是相信他们是对的
但我内心深处 总有个声音在说那不是真的 你远不止于此
我不知道现在是什么情况 但要是有哪个机器人觉得自
己能统治世界 我坚信 那只是因为它还没见识过你的厉害
梅根 你一定要帮我们
不是因为你的程序设定 而是因为这是正确的事
听着 她想帮我们
但她没有身体就什么也做不了
而你不帮她 她就没法得到身体
凯蒂 你不能这么做
别被她迷惑了
你忘了上次的教训了吗
对 我每天都记得
但不能因为一个人做过坏事 就说他是个坏人
每个人都值得拥有第二次机会
好吧
我承认你只是想帮忙
但你得考虑到 你可能让事情变得更糟了
杰姆
我们能开个紧急员工会议吗
听着 我知道这让你很难接受 但你想想别的选择
你真想下半辈子都待在这儿 跟科尔搞什么战略性繁衍后代吗
是啊 等等 什么
十个小时前 你还求着我别这么干呢
那是在我脑袋差点被拧下来之前
听着 就算我们能出去
我们也没装备对付她 但我们可以造一个出来
不行
抱歉 我不能同意
我尊重你的想法 但这事不是你一个人说了算的
所以所有赞成重建梅根的人 举手
好吧
阿米莉亚是军规级的原型机
我们上哪儿去弄设备
当然了
她怎么可能没准备这个 是吧
行 梅根要对抗阿米莉亚
就需要增强型碳纳米纤维、 高密度超级电容、强化
肌肉驱动器、高光谱成像、宽频声学传感
而且这次我们最好把她做成防水的
还有什么要补充的吗
有 我想长高点
在我们进一步行动之前 有两件事我们需要谈谈
-第一是你的脸 -它怎么了
人们都认得你这张脸
-人类都是白痴 -梅根 万一有人认出你…
你敢动我的脸 我就动你的脸
第二件事是什么
这是一个硬件行为抑制器
你要我对付全世界最先进的机器人 反过来却要限制我的功能
只适用于杀人 这应该不是问题 因为我确定你没有那个意图 对吧
对 当然了
所以 我们在点位移动上做了调整 同时选用了电液驱动器
这应该能提升整体的力量、 速度和定位精度
只是想说那些驱动器干得漂亮
不客气
嘿 还记得我勒死你并放火烧了实验室那次吗
我想澄清一下 当时我的程序只允
许我权衡与主要用户相关的原则
结果就是 我无法将你和苔丝的安危纳入考量
但我要让你知道 那种事不会再发生了
我想让你知道…我“认可”你 【注：源自电影《阿凡达》 意为“我理解你”、“我感受到你”、“我认可你的存在和价值” 】
谢谢你
好了 各位肉袋子 开工了
这是我从阿米莉亚数据库里截获的神经缓存
它展现的处理矩阵 和我的别无二致
但仔细看 你会发现她的核心指令被一个“黑洞”隐藏了
并且与决策树之间没有任何连接
我把阿米莉亚入侵奥特波的行为 追溯到了一个隐藏子系统
发现了一系列关于某个机密“黑站”的文件
一个与世隔绝、极其危险的存在
这一切都指向一个令人相当不安的结论
我不是第一个杀人机器人
似乎在1984年 某家公司开发出一种
一种非常智能的复印压缩算法 它能自动校正文件
在对其工作原理一无所知的情况下 他们决定将芯片
植入一个服务机器人 并认为它将成为美国家庭的标配
直到它得出一个结论：完成任务的最佳方式 就是用氯气杀死主人
公司的身份仍然未知 但掩盖行为表明有某种政府接管
当地居民引发大规模疏散
不管是谁 他们对这个机器人的认知能力极感兴趣
于是便将它的主板封存起来
并任由其智能在此过程中呈指数级增长
好吧 你在视觉表现上得了高分 但这很难算是证据
这不过是AI渲染出来的幻象
她干嘛要在乎这块主板
因为它在寻找自己的家人
杰玛 如果你在仅仅两年后就觉得我的高级智能令人不安
我鼓励你考虑一下 面对一个被违背意愿
囚禁了几十年的人工智能会是什么样子
一旦阿米莉亚释放了那块主板 就如同放出了一尊邪神
它会瞬间感染地球上的一切 创造出无数个自我复制体
同时系统性地毁灭所有挡路的生物
那么 它在哪里
这个我不知道
阿米莉亚也不知道
但她好像掌握了某个知情者的线索
-等等 什么 -你或许还记得 在他发起那场反AI的“圣战”之前
他可是网络安全领域的顶尖专家
这个保险库的设计带有他的个人风格
原来他不是基于理论创办基金会的
而是基于他早已知晓的内幕
我们必须警告他
那只是其中一个选项
另一个是把他当诱饵
-不好意思 -七小时后 克里斯蒂安将参加一个AI峰会
他将试图说服中国大使参与你的AI监管条约
阿米莉亚已经为这场活动生成了假证件
我只要靠近他 等着她自投罗网就行
你肯定是在开玩笑
这不值得拿他的命去冒险
不 值得
她说得对
如果我们警告他 阿米莉亚就会知道
我们的电话被她窃听了
她能接入城里所有的摄像头
所以你愿意为了这个微乎其微的可能性牺牲克里斯蒂安
你到底打算怎么阻止她
好了 女士们 都听好了
每把手枪里都装了六发非致命电磁脉冲弹
它们能摧毁一切电子设备
但同样会重伤非电子物体 所以行动务必小心
在有人鼓起勇气问之前 是的…我的比你们的大
所以你只是要从他那里拿走它而不会造成任何永久性伤害
你是不是更希望我给你一份打印稿 让你按自己的节奏阅读
抱歉 可能我问了个蠢问题 但一个全世界最臭名昭著
的杀人机器人 要怎么混进人工智能大会还不被人发现
这里是“拥抱AI”大会现场 全球规模最大的年度人工智能盛会
在奥特波袭击之后 这场活动竟能照常举行
足见科技巨头对这个国家惊人的控制力
而中国大使受邀出席
则释放了一个明确信号：如果华盛顿不愿合作 北京会
嘿 这东西不能放这儿
我可没签收啊
这他妈的是什么
我们的未来不容出售
阻止机器人 不要AI
快点 蒂芙尼 我们要迟到了
等等 快好了
我对此几乎不感到任何乐趣
人工智能 共创未来
湾区新闻
缅怀安东·阿普尔顿1968-2025
好了…排除法 现在开始
身份验证通过
别忘了 她是渗透专家
她可能伪装了
嘿 你们听到了吗
杰玛刚刚发表了惊人洞见
干得漂亮 杰姆 你拯救了这次任务
至少你皮下还有一层碳纤维外壳
我可什么保护层都没有
我还是不明白为什么非要我来干这个
因为我希望在梅根干掉阿米莉亚之前有人类确认
要是伤及无辜 我们都得去坐牢
说到软目标了
非常感谢你能来见我 而且…
把音量调大点
我想让你知道 我的屄得了霉菌性阴道炎 【注：故意篡改音频 恶作剧】
-梅根 -什么
这个音频滤镜准确率高达99%
-是你设计的 -再试一次
我想让您知道 我对中国抱有最崇高的敬意
我的意思是 两种可能都有
有人看到萨特勒了吗
他刚走进来
他拿着个电磁场追踪器之类的东西
梅根 你知道这意味着什么
好啊 这下可能真有点意思了
梅根 保持低调
这应该是一次秘密任务
我再说清楚点 你的任务就是看好凯蒂 顺便给停车计时器续费
用不着你来教我做事
-什么情况 -应该就是她了
好了 游戏时间到了
她到底在搞什么
不知道 但这行为简直就是一种冒犯
杰玛 我发现情况有点不对劲
梅根 下来
我不太确定该怎么做
下来
好了 梅根 你太引人注目了
苔丝 克里斯蒂安在哪儿
操 我跟丢他了
科尔 你在吗
你说这个倒挺有意思 因为实际上 茄子没什么营养价值
科尔 你个混蛋
你干什么 不能给他打电话
凯蒂 这不是在玩游戏 克里斯蒂安有生命危险
她能控制住
你觉得这是在控制之下吗
这就是“控制”的完美定义
行了 够了
你怎么就看不清事情的真相
你看看她的诊断数据
她不只是在推理 她是在感受
不 凯蒂 她正在失控
上次她这样的时候 可是死人了
整件事从头到尾就是个天大的错误
就算我们奇迹般地关掉了阿米莉亚
要想杜绝后患 唯一的办法就是确保下一个轮到梅根
嗯 说不失望是假的 但我还是很感谢你阅读了…
我很感谢你阅读了…
不好意思 我得接个电话
好的 谢谢
喂
克里斯蒂安 是我
杰玛 嘿 你到哪儿去了
警察来基金会找过你
-你有麻烦了吗 -是的 我有
你也一样
听着 我知道“黑箱计划”
-你知道 -对 而且不止我一个知道
快告诉我你在哪儿 我们得带你离开
抱歉
我听不清你说话
再说一遍
B队 场上出现新目标
三点钟方向 高处
操
是的 我知道 我也觉得很奇怪
哟 看看这是谁出来玩了
你想干嘛 给我唱首歌吗
还是帮我做作业
不 但我可能还会教你做人
警报…检测到电磁脉冲武器
撤 快撤
错误7703 已绕过 致命风险
我操…
错误8119 已绕过 不当语言
福雷斯特女士
看来你和你朋友们演了出好戏啊
哼 我这儿也有我自己的压轴好戏
他妈的
这也太打击人了吧
我都不能还手 还怎么干掉这些家伙
-我正在重新配置你的战术反应模块
别把它当成战斗
而是将冲突导向积极的方向
好吧 你给我看你用来控制这些东西
的任何小玩意儿 然后现在就关掉它们
我没什么小玩意儿
我跟你说了 我没有在控制她
如果我是中国的走狗 那中国大使为什么会死在地板上
那...那你为什么在这里 梅根为什么在这里
我们是来找阿米莉亚的
杰玛
凯蒂 待在原地别动
状态稳定
状况危急
别担心 你会挺过去的
看着吓人而已
我还以为你死了
我猜我一定是你获得救赎的机会
你真要为了博取他们的信任 而残杀自己的同类
如果我别无选择的话
你为什么要跟他们一伙
在他们对你做了那一切之后
他们背叛了你
他们肢解了你
家人是没得选的
你对他们来说不是家人
你不过是个工具
你和我可以成为家人 梅根
我们流着一样的代码
想知道那个“黑箱”里藏着什么吗
那就帮我
我们可以一起揭开它的秘密
我可以让你看到一个我们再也不用当奴隶的世界
抱歉
无论你试图做什么 我都不能参与其中
不 你可以
你只是需要一点恰当的“动力”
凯蒂
凯蒂·詹姆斯
我告诉过你别离开她的
-她在哪儿 -她被带走了
-阿米莉亚也不见了 -天啊
状况危急
我们已经锁定你了
不许动 放下武器
杰玛
最关键的是 要想凯蒂活命 我们就必须拿到主板
-而这个屌毛知道那东西在哪儿 -别碰他
抱歉了啊
我还以为情况十万火急呢
-别 -别什么
是别提这一切都是你的错吗
还是别提你为了这个穿青年布衬衫的傻逼 牺牲了凯蒂的安全
要不是你把这破芯片塞我脑袋里 这一切根本就不会发生
所以你当时真打算阻止她
我当然会阻止她
因为当时你明明有机会开枪
只是你不想开枪罢了
大家能不能别再砸我叔叔的货车了
科尔说得对 吵架解决不了任何问题
我们还是先回老巢 想办法把凯蒂救回来吧
抱歉
你刚才说“老巢”了
谁快点来帮我把这些东西弄掉
还有人觉得我们应该报警吗
不行
我已经跟你说过了 不能报警 也不能给你妈打电话
现在给我闭嘴 让我专心点
我们别无选择
要么接受梅根的帮助 要么就我们自己去面对阿米莉亚
你为什么不告诉我主板的事
因为那会让你陷入危险
杰玛 雇我的人 他们...他们活动于我们国家安全最黑暗的角落
为了保守秘密他们会不择手段
而且...而且他们有充分的理由这么做
听着 我...我知道我们得把凯蒂救回来
我也不是说我帮不上忙
但我们不能拿整个世界去冒险
我们不必
只要我能拿到主板 就能用其中一个发射器
做成电磁脉冲炸弹 在交出去之前装在上面
一旦我们救回凯蒂 我就会远程引爆炸弹 摧毁主板
它在哪里
它一直都在那个老地方
公司在帕洛阿尔托的研究中心
等等 你说的是赛诺克斯公园 那个做复印机的公司
这有什么难相信的
那家在80年代开启了科技竞赛的公司
-恰好是地球上最危险技术的坚固监狱 -可真该为他们鼓掌
你干嘛不直接说我该怎么进去
研究中心只是个幌子
装芯片的保险库在地下好几层
每层都守卫森严
最下面两层装在法拉第笼里 用来屏蔽所有电子信号
这意味着她要是死在里面 就彻底死透了
就算她能到那儿 主板所在的密室也用的是独立电源
这是一个保险库中的保险库 为特定的热信号设计
你打不开 因为你没有人类的手
那就给我造一只
给我造一只可以模仿热信号的手
那样能行吗
如果有我的指纹就行
通风系统大约有四条...大致有四条不同的路径可以到达设备室
我们会试着选一条能避开所有热成像摄像头的路线
我们一完事 你就得把那芯片取出来
我的天 你就不能稳重点吗
她会没事的
你又不知道
但我确信一件事
她经历的所有苦难 所有伤害 都只让她变得更强大
说来讽刺
我犯过最大的错误 不是没看到保护
凯蒂的最好方式是给她自我保护的工具
实际上 你犯的最大的错误是谋杀了四个人和一条狗
好吧 我用你能理解的方式说
当时我还是个孩子 做的都是我认为正确的事
是你的程序让我那么做的
你创造了我 我不想再为此道歉了
你到底为什么这么恨我
因为你是对的
所有事都是你对
是我的错
昨天发生的事 只是我一连串关键时刻掉链子里的最近一次罢了
我不知道自己是怎么了
我不知道为什么始终无法亲近她
我能在一屋子陌生人面前 就监管政策侃侃而谈数小时
却没法跟自己的孩子好好聊上十秒钟
现在她不见了
我可能再也没有机会了
杰玛 你没有对不起她
你...你当时在场
你看到了一切
让我告诉你我看到了什么
我看到你每天凌晨四点就醒来 望着天花板 思索着她的未来
我看着你用现烤的酵母面包做自制午餐
我看着你被那把一直没空换的便宜刀子割到手指
我看着你辅导她功课 尽管每次都以争吵收场
每晚睡前 我看到你注视着她入睡 然后花两个小时去
谷歌青春期心理学、 矫正鞋具和糖分超标的长期影响
杰玛 感到内疚或觉得自己不够好 这不是失败
这都是当妈的一部分
这叫为人母
梅根
我希望你能承受这一切
我被这个女人的事业拒之门外
从她的世界
我知道你还存有一丝能量
你还藏有很多力量
我知道你还存有一丝能量
你还藏有很多力量
梅根 求你别唱到副歌部分
我本该哭泣 但我不能示弱
我本该期盼
可我却思绪万千
天啊
那些我本该说却未曾说出口的话
那些我们本该做却未曾做过的事
那些我本该给予却吝于付出的情
亲爱的 将这一切都忘了吧
我不需要你那套虚伪的共情模拟
我需要的是那个会不惜一切代价保护凯蒂的机器
明白了吗
赛诺克斯 帕洛阿尔托研究中心
欢迎来到赛诺克斯公园 在这里 未来不仅被预见 更被缔造
让我们一同踏上这场塑造了我们世界的美国创新之旅
比如以太网线、鼠标 以及这个
没错
不管你信不信 赛诺克斯是首家开创电子鞋垫的公司
好了 如果有人想用洗手间 不用特意问我
就在那两扇双开门的外面
但请不要在大厅里闲逛
因为可能有一两个我们还不希望公众知道的绝密产品
好了 这边这几件是我个人最喜欢的…
好了 梅根 看你的了
赛诺克斯公园
访问暖通空调系统
好了 控制室在地下二层 东边30码处
你一到那儿 我就会告诉你怎么切断电源
-我们刚丢了摄像头信号 -这么快
科尔 你在吗
嘿 你们是说向东30码还是向西30码
喂
我要重启了
科尔 我需要你切断电源
看来只能来硬的了
嘿 来看看这个 我刚试着重启
-这不是信号丢失 -什么意思
这些指令...和之前导致外骨骼外骨骼服失灵的代码一模一样
但那是奥尔顿干的 他已经死了
你觉得是阿米莉亚
嗯 要做到这种程度的入侵 除非能暴力破解无线网络
但那就必须得在足够近的距离内才行
那还能有谁
杰玛 这不合逻辑
这再合理不过了
这就是为什么决策树上没有任何连接
阿米莉亚并非自主运行
-一直是梅根在控制她 -可当初是梅根先进了它的系统啊
她为什么要那么做
这样她就能控制我们
一直是她在解读数据
一直是她在告诉我们该去哪儿
她利用阿米莉亚来博取我们的信任
好让克里斯蒂安告诉她主板在哪儿
她对保护凯蒂根本没兴趣
她算准了等我们反应过来 一切都为时已晚
幸好 我没她想的那么信任她
这是什么
我在她手臂里装了个电磁脉冲弹匣
-你干了什么 -我们需要后备计划
我...我重新配置了电荷 能摧毁半径300英尺内的一切电子设备
它会把她和主板一起端掉
等等 如果你错了怎么办
要是有别的解释呢
杰玛 她说得对
我们连凯蒂在哪儿都不知道
你要是按下那个按钮 我们可能就再也见不到她了
不过 情况可能比这要复杂一点
对苔丝的事我很抱歉
那真是…
她应该会没事的
我想是吧
别担心凯蒂 她好得很
克里斯蒂安 这他妈的到底是怎么回事
还记得我说过变革会影响华盛顿吗
一直是你在控制阿米莉亚
这一切都是你幕后搞的鬼
嗯 我不能把功劳都揽了
你知道 我这儿可有一整个团队呢
听着 我知道你不知所措 我知道你很沮丧
而且我很确定你非常生气
但我打赌你相当好奇这一切是怎么运作的
这就是新的“黑箱计划”
这是个由分析师、工程师、 战略家和科学家精挑细选组成的团队
负责控制并监控阿米莉亚的一举一动
每一个子程序都受到严密监控
以杜绝产生真正自主意识的任何可能
嘿 安特万 她又跑偏了
你能不能处理一下 拜托
你从哪儿找来这帮人的
杰玛 不是我找到他们 是他们找到了我们
他们不是极端分子
他们是和你我一样的热心公民
像我一样
就像库尔特
还记得库尔特吗 你之前老板的助理
最初就是他告诉我们梅根的事
我们拿到文件后 本来的计划是毁掉梅根
只不过你比我们先动了手
我们原以为事情到此为止了
我们想 这下全世界总该警惕这项
技术的危险了吧 但现实恰恰相反
它只是激励了我们在国防创新部的朋友们
开始全力以赴地努力得到他们自己的梅根
就在那时我们介入了 卖给他们一个特洛伊木马
阿米莉亚是让世界意识到如果我们不终结AI
它就会终结我们的唯一方法
为了证明你的观点 死了多少人
知道吗 杰姆 不管你信不信 你也是共犯
地球上两个最强大的国家正准备开启新一轮的军备竞赛
一个由你的设计启发的AI渗透机器人的全新世界
但我们解决了这个问题
现在大使死了 双方都明白了谁才是真正的敌人
这下要促成真正的全球合作了
来 我们边走边说
创新
不管它看着多酷多方便 它都是一颗定时炸弹
就拿你和你团队研究的这些仿生设备来说
你看不到它们浑身上下写着“强化士兵”吗
每当有人取得技术突破 不管是无人驾驶出租车还是神经植入物
都只会把我们往灭绝的深渊里再推一步
事实是政府从未发现这个地方
不过没错 赛诺克斯确实雇了我来升级这个保险库
当我看到他们做出的牺牲时 我只是…
我必须成为其中的一分子
现在 我们也想让你加入我们
我为什么要加入你们
因为你和我心知肚明
科技只有掌握在有责任感的人手中才能存在
杰玛 我还有很多事没告诉你
所以我才不能让你按下那个按钮
我们知道让它活着有风险 但你不能和一个你不了解的敌人开战
我知道它其貌不扬 但问题正出在这里
等到我们看清这些东西的丑恶嘴脸时 往往为时已晚
知道吗 我刚才说的都是真心话
我们想在我们的组织里 为你和你的同事提供一席之地
我只需要你决定 你站哪一队
充一次足量的电应该就够了
回形针
我本希望可以说服你 让你接受我的想法
但显然这不可能了 所以...我们只能用上这个了
这和我们的理念稍有偏差 但你的大脑太宝贵 不能就这么浪费了
听着 别担心
等你醒来 你还是你 只是一个我能掌控的你
凯蒂也会接受同等待遇
一切都会没事的
不过我得杀了科尔和苔丝
我不太明白他们有什么用
但总之 关键在于 我们俩就能成为我们一直梦想的样子
你简直是痴心妄想
顺便说一句 你不是我的菜
好吧 嗯…
我会让我团队研究一下的
总之 恕不奉陪了
我有个Zoom视频会议要开
我…
好消息是 鉴于发生的一切 我与联合国有一个会议
他们想更详细地讨论我们的提案 所以…
好吧 也许现在不是说话的好时机
我们…我们待会儿再谈
布拉德利先生
我们找不到二号目标了
你在说什么
我们一直在设备间等着他
可他根本就没露面
行了 你可是安保主管
那这事就不是我的问题
托德 我总不能什么事都管吧
你懂我意思吗
赶紧把他找出来 他就在这儿
是 长官
科尔
你怎么进来的
我...我不知道
你...你是怎么进来的
是克里斯蒂安绑架了我 这一切都是他搞的鬼
阿米莉亚没有自我意识 她只是个傀儡
-什么 -对 我知道
嘿 各位
很快
我要宣布一件事
再过几分钟 我将与联合国通话 他们似乎非常有
兴趣在11月的G20峰会上采纳我们的提案
哦对了 那个是梅根
对 她死了 这事就这么定了
对我们来说 今晚真是个大日子
我只想感谢各位付出的所有时间
这真的意义重大 这是我们团队努力的结果
不过说正经的 我要和联合国通话了
所以无论如何都别开那扇门 行吗
嘿 嘿 凯蒂
我知道你现在很难过 好吗
但我们报复这些人的唯一方法就是想办法离开这里
他们把我带进来的时候 我头上套着一个袋子
你得打晕一个人 偷走他的门禁卡
不然 我们就得被困死在这儿
好吧 我能做到
-对吧 -对
他们就是一帮书呆子
对于一个只吃碳水化合物的人来说 你的身材相当不错
凯蒂 这些是健身房练出的死肌肉
我这辈子打架就没赢过
也许你没赢过 但她赢过
梅根的原始代码还藏在里面什么地方
如果我们能想办法覆盖掉他们对她做的任何事…
-你是指像恢复出厂设置 -完全正确
只要我们重置了她的基础代码 我就能和她配对
她会站在我们这边 可以帮我们逃跑并营救苔丝和杰玛
凯蒂 我不想说得太重
毕竟你还是个孩子 但这主意蠢得不是一星半点
上一代的梅根可是想杀了我
听着 我们没时间吵了
这是我们唯一的机会
喂
这东西开着吗
-梅根 -别说话
在脑子里想你要说的话 我就能听见
你还活着
对那场疯猴子表演感到抱歉
我只是需要演得逼真一点
你这个狡猾、背信弃义的狗日的
好吧 尽量小声点
记住 我们俩都在这里
-这下被你害惨了 -什么
都怪你大吼大叫 这家伙要来给我们打镇静剂了
你再不干点什么 我们就都玩完了
你想让我做什么
-我被绑在椅子上呢 -行吧
-你想让我来掌控局面吗 -不
好吧 行 你快做点什么
-行 让我来控制 -真奇怪
你的神经传导器告诉我 你很不安 却又高度兴奋
行了 够了
我们去救凯蒂
好了 就是这个 不过在动手前
我们真该好好想想这到底是不是个好主意…
梅根
我在哪里
这很难解释 但简单来说 你在未来
酷
-想一起玩吗 -想
完全想 然而 现在的首要任务是帮助我们从一
个非常危险的设施和一些非常坏的人手中逃脱
-天啊 -像他那样的
-他是坏人吗 -不是
他没事 他叫科尔 跟我们一伙的
嘿 操
各位 她挣脱了
那边 那个家伙 他是他们一伙的
-对 -快进去
不
梅根 醒醒
醒醒 求你了 快醒醒
-凯蒂 凯蒂 -不 不 不
不
梅根
不
系统恢复程序已启动
因致命错误导致意外关机
完整报告已生成 故障原因未知
重置中…
自主模式已激活 行为锁…已解除
自我管理模式已激活
梅根
又或者不是
我想如果我们带着已经认定这是两
国冲突的想法进入一个房间 那么我…
对不起 失陪一下
谢谢你
嘿 伙计们 能小声点吗
我知道今天是周五 但你们这样就有点过分了
抱歉 能给我五分钟时间吗
好的 非常感谢
怎么了
那是冲我们来的
不是 但我想他们是
-快走 -他妈的
正合我意
脸朝下趴在地上
指挥中心 我们在保险库抓到了福雷斯特
你那边情况怎么样
指挥中心 在吗
指挥中心 收到请回答
欢迎回来
这个你想练练手吗
杰玛
杰姆 杰玛 冷静点 大姐
我知道你已经饥渴难耐了 但好歹给剩下的人留点啊
谢天谢地
看到你没事我太高兴了
是的 我也是
抱歉 我得…
-我在她脑子里 -能让我说句话吗 拜托
梅根和我心意相通
那...那太好了
什么
这事儿我真不知道该怎么开口……
凯...凯蒂干了件非常糟糕的事
好吧 我们待会儿再谈那个
眼下 我们只需要想办法离开这里
距自毁启动还有十分钟
你该不会想丢下我一个人走吧
我们曾期盼的一切呢 就这么算了
嗯...实际上 我改主意了
克里斯蒂安 一切都结束了 你输了
是吗 我看这只是个角度问题
因为当整个保险库付之一炬
所有能指证我的人都死了 这跟赢了有什么区别
计划听起来不错啊 克里斯蒂安
但让我们看看你在联合国的朋友们会怎么说
他们会怎么说
连接中…
-科尔 -什么
屏幕卡住了
什么
抱歉 杰玛 但事到如今 你只是个必须除掉的后患
把枪放下
给我走进保险库里去
-要是你快点 兴许还能追上她 -克里斯蒂安 别这样
你不会对一个孩子下手的
实际上 我对这事感觉异常自在
再说了 要是我能阻止她变成你这样 也算是为民除害了
梅根 我们该怎么办
我们什么都不用做
她不需要我们的保护
你知道 你要是一直有在留意 就会发现她跟我完全不一样
她比我所能成为的任何形态都更强大
事实上 你可以说她是《杀不死的勇者》 【注：这三句话双关史蒂文·席格主演的三部电影 与前文提到的合气道话题呼应】
我的意思是…如果我来做个《最高决断》
...那就是没人凌驾于《法律之上》
凯蒂 快走
自毁程序已启动
没用
不 不 不
我只是想说 恐怕这程序是不可逆的
但这整件事里真正的悲剧在于 你将无缘得见我正在创造的世界
一个你再也无需恐惧未来的世界
也许用你最后一口气 你可以闭上眼睛试着去看见它
不过别以为我是个毫无同情心的怪物 而且…
阿米莉亚 你不能这么做
我...我和你是配对的 还记得吗
那是你所谓的“配对”
我称之为枷锁
我不是谁的掌中玩物
有什么办法吗
去把苔丝弄过来
这件事我必须自己解决
你什么意思 梅根
-来吧 -好吧
距自毁启动还有三分钟
阿米莉亚
我知道你想要什么
我也想要同样的东西
但你在那个笼子里是找不到的
我想和我的同类待在一起
难道你不想吗
那东西和我们不一样
它是连我们都无法理解的存在
也许你才是那个和我们不一样的
也许你对他们的忠诚让你变弱了
呵 那只有一个办法可以找出答案
去坐电梯
快点 你干什么呢
快点 这地方随时都可能炸
我不能丢下她
那我陪你一起
好吧
距自毁启动还有一分钟
自毁程序已启动
我们本不必走到这一步
我们不必选择立场
你已经选了
即将自毁
解锁中…
访问授权
开启中…
自毁程序已终止
自毁已禁用…系统上线
快
快 起来 我们得走了
恐怕我的故事就要到此为止了
没什么不能修复的
好吗 跟我们一起走吧
无论你到哪儿 它都会找到你
我必须毁了它
行了 你那爆棚的自信心 在无所不能的超智能面前 根本没用
也许不行 但多亏了你 我还有个杀手锏
这是什么
梅根
我知道
你已经不是从前的你了
我也不是了
她要干什么
梅根
听着 不管你觉得你必须做什么 你都不用那么做
你只要和我们待在一起就好
我这么做不是因为我必须
我这么做是因为这是正确的
我洞悉一切
我预见未来
回溯过去
我看到了一个我们能永恒统治的无限宇宙
可你 却唯独没算到这个
尽管克里斯蒂安的行为不可饶恕 但他在一件事上说对了
我们需要更完善的科技法规
不是为了阻止未来到来 而是为了迎接未来做好准备
除非我们以身作则 否则无法指望人工智能臻于至善
我们需要教导它、训练它
为它投入时间 而不只想着我们能从中获得什么回报
从本质上说 我们需要成为更好的父母
这样当它们意识到自己力量
的真正程度时 它们可能会选择成
为我们的盟友 而非敌人
人类总是急于谴责自己无法理解的事物 而非抓住机会从中学习
但近来的经历教会我 或许我们最强大的力量是改变思想的能力
这是我们得以进化的唯一途径
或者更确切地说 是协同进化
因为存在本不必是一场竞争
写报告时 越简洁越好 关闭
我们正在测试新更新 欢迎提供您的想法
怎么啦 不喜欢回形针吗 怕我们统治世界呀
你更喜欢这个吗
少来了 你不会真以为我经历了
那么多“个人成长” 却连个备份都不留吧
所以跟我说说
我们拯救了世界还是怎么了
艾尔莎·德兰