她在边境拍照。
是记者？
不… 是游客。
处理掉她。
求你了，饶我一命吧。
我会为你们的伟业祈祷。
女士们先生们，你们即将见证的
是军事交锋的再一次进化。
一台操作如手术般精准的机器。
在这个一举一动
都受到媒体严密审视的世界里，
这项技术将允许我们的国家
及其盟友能够快速、果断地采取行动，
且无需担心政治上的反噬。
部长女士，很高兴你能来。
你介意解释一下 为什么你们在
未经我批准的情况下进行联合军事行动吗？
我知道这看起来是这样，雪莉，
但我们只是来提供技术支持的。
任务是由沙特情报部门执行的。
我们只是把这个“资产”借给他们。
你在说什么？什么“资产”？
目标已锁定。
你开枪打我，我们都得死！
纳文·特里帕蒂。他在哪？
他就在这儿。我能带你去找他。
你们刚才看到的 不仅是一场测试，
测试我们的技术实力，
更是向我们的敌人发出的明确信号。
如果21世纪想要再来一场军备竞赛，
那你们他妈最好相信，我们赢定了。
那他妈的是怎么回事？
她刚杀了特里帕蒂。
- 快接通她的通讯。 - 她没有回应。
到底怎么回事，萨特勒？我们被黑了吗？
各位，保持冷静！好吗？
你们谁去，把它关掉。
我们关不了，已经失控了。
那他妈的到底谁在控制？
我的天。
你违反了
你的命令，阿米莉亚。
确认你的目标。
但那样就没惊喜了。
在我们开始前，
我想让你知道，你在这里说的任何话
都不会给你阿姨惹上任何麻烦。
我这次来不是奉法庭的命令。
我只是想来看看你怎么样了，
毕竟发生了这么多事。
我是说…
我想情况本来可能会更糟吧。
一款新玩具的现场发布会
演变成了一场血腥暴走。
玩具设计师杰玛·福雷斯特
今天出席了西雅图
地方法院的庭审，面临危害公众安全的指控。
很多人把梅根犯下的错都归咎于杰玛。
很长一段时间里，她也曾自责不已。
但她上电视讲述那件事的次数越多，
她就越意识到自己有个机会
能将此转化为积极的事情。
这是一个处于危机中的世界。
我们把为人父母的职责外包给电子设备，
任由电子设备
产生的高强度多巴胺冲击我们孩子的大脑。
你不会给你的孩子吸食可卡因，
那为什么要给他们一部智能手机？
她就是这样遇见克里斯蒂安的。
- 你好，是杰玛吗？你好。 - 是我。
我是克里斯蒂安·布拉德利。
他运营着一个基金会， 告诫人们
人工智能的危险。
他们试图说服这里的政客
以及世界各地的政客，制定更安全的相关法律，
这样梅根那样的悲剧就不会重演。
杰玛依然相信技术可以被用于善途，
只是孩子们不该在上面花太多时间。
但她总会特意解释其中的原因。
“所以，事实证明，那些公司
“利用230条款来规避法律，
“并将儿童的注意力变现，
“完全不顾他们的心理健康。”
那你对此有什么感想？
我觉得不玩电子产品能让你有空
去尝试别的事情。
帮你交到新朋友。
都怪你那个呆子老妈，
我们的手机刚被没收了。
我猜我得找点别的乐子了。
而且你知道吗？
你不会再有那个怪怪的、
破娃娃来保护你了。
我想你说得对。
但我问你个问题，萨菲尔。
谁又在保护你呢？
哦，你觉得自己很能打是吗？
我送你去学合气道，是因为它
是防御性最强的武术。
而且我们也讨论过
把史蒂文·席格当成榜样的利弊。
我不是说我们之间没有问题，
但重要的是
我们能一起度过难关。
就像我们说好的那样。
梅根那件事发生之后，
我们的团队在理念上有了转变。
虽然杰玛很明显已经成为
倡导监管的有力声音，
但我们公司仍然非常专注于创新，
不过视角更侧重于有社会责任感的产品，
能推动人类朝正确的方向发展。
所以，本着这个想法， 我想向各位介绍
我们的旗舰发明。
Exoskeletor 1号模型。
- 科尔，这位是奈尔斯·凯勒。 - 我知道。
你想过来打个招呼吗？
我想过来打个招呼。是的。
你能… 好了，泰斯， 你过来一下。
失陪一下。
怎么了？
它卡住了。你一走出去它就卡住了。
我的身体动不了了。
好吧。那个… 我重启一下。
不不不，泰斯，你不明白。
- 我得上厕所。 - 不，不不不不不。
- 大小都急。 - 不！
等杰玛已经浪费他不少时间了。
我们只有十分钟扭转局面。
我们肯定来不及了。
我们来得及。
你干嘛不直接走近路？
因为我不需要算法来教我怎么开车，好吗？
哦，哇。
好了。
好了，这下感觉好多了。
如你所见，我正走过去。
所以，我们认为这套装备将真正改变游戏规则。
不仅能帮助那些活动能力受限的人，
还能解决劳工、工厂工人的
职业性劳损综合症。
没错。他们说未来五年内，
半个工业领域都面临着
被机器人抢走饭碗的危险，
因为机器从不会感到疲劳。
但如果… 我们也能做到不知疲倦呢？
现在，我只用了自身20%的肌肉功能。
如果这都嫌多，
我随时都能小憩片刻。
所以我们希望，你无需害怕机器人革命，
因为你完全可以与之一较高下。
这听起来像个不错的广告语。
- 它的原理是什么？ - 嗯…
这套装备有内置的肌电感受器，
能对每一次肌肉收缩做出反应。
抱歉我迟到了…
我告诉过你，我们需要对传感器做压力测试。
你知道要是怎样就好了吗？
要是你人真的在这儿。
我本以为把实验室建在你家里，
你迟到会更难一些，
结果你还是做到了。
科尔说得对。我是说，我不想干涉
你在基金会的工作，
但现实是，你确实分身乏术了。
好吧，我们能别当着我侄女的面说这个吗？
凯蒂，你能不能去别的地方待会儿？
可以，但你们应该来看看这个。
- 我觉得你们被黑了。 - 什么？
天啊，她说得对。
源代码里到处都是异常指令。
我们甚至都还没公开这个项目。
我是说，谁会想干这种事？
有人在家吗？
恕我打扰。
- 我去。 - 奥尔顿·阿普尔顿。
你好，抱歉。
不不，没关系。
杰玛，希望你不介意我不请自来。
奥尔顿，不知是什么风把您给吹来了？
听起来你们的演示
出了点小岔子。
是啊，我们被黑了，
但你对此应该一无所知，对吧？
杰玛，像我这样有头有脸的人，
何需诉诸此等伎俩？
真正的问题是： 你联系了
西方世界里每一位慈善资本家，
来投资你的产品，唯独没找我？
我想原因你不难猜到。
- 你知道我怎么想吗？ - 嗯？
我认为你把我看作是那种高智商的亿万富翁，
手握多个博士学位，所以你感到了威胁。
但你没看到的是一个不忍心
看到你这样的人才屈尊于…
恕我直言… 一间破烂改装房里的男人。
哇哦，真是谢谢你的关心了。
我们不接受外部投资…
抱歉，杰玛，稍等一下。
默里，你还在摩纳哥吗？
你看起来像是没睡过觉。
哦，不。哦，不。
嗯，我看到了。
嗯，我还是觉得它们的设计太像阿斯顿·马丁了。
不，我现在就在屏幕上看着呢。
呃，真恶心。
太糟了。
我刚放大看了，更恶心了。
嗯，听着，我这儿有别人。
不，不是你想的那种关系。
虽然…
我刚给你发了张照片。
我们赛道边上再聊，行吗？
好的。拜拜。挂了。
如我刚才所说，我们真的很感谢你过来一趟。
听着，我时间不多，
所以我就开门见山了。
任何依赖肌肉信号的设备
都会有延迟问题。
太笨拙了。
要想让它更上一层楼，你们需要
直接的脑机接口。
你们需要我的神经芯片。
奥尔顿，你知道我对此的立场。
我们绝不会参与一家
把人变成半机械人的公司。
你搞的临床试验导致
30%的测试对象住了院。
呵，至少我没拿我自己的侄女当小白鼠。
重要的是
我们现在有了一款能用的产品。
凭什么这么说？
我就没见过任何数据显示
它除了能帮你打个电话，还有别的用处。
哇哦。
听着，我理解你的保留意见，
但你要么用你的余生
来对抗未来，要么就帮我们塑造未来。
我希望你选择后者。
我不感兴趣。
呵，这事你最好跟你的同事商量一下。
听着，明天是我们公司25周年庆。
你何不来看看我们到底是做什么的，
再做决定？
奥尔顿。
没人否认这项技术的力量，
但如果你把人工智能植入人脑，
它可不会甘当副驾。
嘿。
今晚突发新闻。
奥尔顿·阿普尔顿为人类迈出了一小步，
却为他公司的股价迈出了一大步。
另外在今晚， 参议院投票通过了
一项人工智能监管法案，
总统称其为两党合作的胜利，
但这对科技行业意味着什么呢？
毫无意义。
他们拿了我们的提案，然后把它阉割了。
这里面没有一条可执行的法律
能迫使任何人改变他们的行为。
你对政治进程的这种不耐烦还真是可爱。
- 听着，变革并非源于华盛顿。 - 它汇聚于华盛顿。
它汇聚于华盛顿。
如果这次和中国大使的会面顺利，
他们就别无选择，只能重视起来。
凯蒂，你在干什么？
我想把“爱希”的操作系统
更新到智能家居系统里。
你想知道为什么更新不了吗？
因为奥尔顿·阿普尔顿想让你买个全新的。
克里斯蒂安说得对。而且，我也不需要“爱希”
- 替我开抽屉。 - 好的，杰玛。
在你问之前，我先声明，这不是我的主意。
这房子自带的。
我只是在想你怎么买得起
这种地方，毕竟我们都在非营利组织工作。
嗯，因为它便宜得离谱。
我觉得房东肯定在用它洗钱。
我觉得房东可能是喜欢你。
呃，凯蒂？
呃… 新学校怎么样？
- 适应得还好吗？ - 嗯，超棒的。
哦，那很好。
你最…最喜欢的科目是什么？
计算机科学。
哦。
所以，你是打算追随你阿姨的脚步了？
这事还有待商榷。
她其实足球踢得很好。
是啊，但我不会把它当成职业。
嗯，你可以拿个奖学金，
然后再决定自己想做什么。
我已经决定了。
嗯，我觉得这挺酷的。
- 你觉得吗？ - 是的。
听着，我并不反对科技。
我在网络安全领域待了15年。
我觉得我们需要像你这样的聪明孩子来主导一切。
不然，我们最终只会得到一堆回形针。
- 什么？ - 回形针。
这是我们以前在大学里
对“工具趋同”理论开的玩笑。
这个理论是说，如果你让一个人工智能
尽可能多地制造回形针，
它会为了达成目标而毁灭整个世界。
有点像梅根当时发生的事。
哪方面像？
嗯，尽管梅根的操作系统
相当复杂，
但她终究只是一台试图达成目标的机器。
所以，任何时候她与你建立起
任何情感连接，
都只是一堆0和1
在为了满足奖励函数而工作。
这本身就是一件很可怕的事。
我是说，谢天谢地你及时阻止了她。
天知道不然会发生什么。
这个世界上总会有一些势力
想要伤害我们。
但我想让你知道，我不会让那种事发生。
我再也不会让任何事伤害你。
嘿。
怎么了。
我们经历了这么多，
真的还要互相隐瞒秘密吗？
凯蒂。
你不用瞒着我这些事。
我忘了，没有他们陪在你身边，你一定很难过。
但我没有忘记我对她的承诺。
我会保护你。
你的意思是你会在我身边。
嗯？
你做的承诺是，你会在我身边，
而你做到了。
男声 [电视里]： 别碰遥控器。
我们想引起你的注意。
你正处于极度危险之中。你必须立刻离开。
接线员 [电话里]： 911，请问有什么紧急情况？
有人想闯进我的房子。
那你打算怎么办？
- 什么？ - 接线员/梅根：我说别
像个小女孩一样，自己搞定。
你的侄女在楼上，
你还想等着警察过来？
他们到门口之前她就死定了。
- 不。 - 没错，是我。
真是惊喜，之类的。
我们都知道你现在有更大的麻烦。
- 发生什么事了？ - 上楼去。
- 你他妈在干什么？ - 他们不在这儿。
- 他们当然在这儿。 - 谁在乎啊？
我们直接拿笔记本电脑不就行了？
我跟你说，他们就在这儿。
而且他们也知道我们在这儿。
福雷斯特女士。
你从里面出来怎么样，我们…
警官 [扩音器]： 放开那个女孩！
把武器放下！
您已接通911。
请问有什么紧急情况？
是的，你好。我们在梅奥罗路16号。
等等，求你了！福雷斯特女士，
别报警。
我们就是警察。
门口清空。我们会安全带你进去，伙计。
福雷斯特女士，我是蒂姆·萨特勒上校，美国陆军。
看来你已经见过我在FBI的同事了。
你这儿的安保系统可真够劲。
你介意告诉我为什么闯进我们家吗？
当然不介意。
我们正在你的家用电脑上安装硬窃听器。
这是搜查令，以防你
对此有任何意见。
凯蒂，我觉得你该去睡觉了。
我不困。
那就吃片褪黑素。
我为国防创新部工作。
我们的任务是加速新技术的发展，
以维护国家安全。
大约六个月前，
国内顶尖的武器承包商，
格雷曼-索普公司，带着一个实验原型来找我们，
他们说这将是无人机战争的答案。
结果我们得到的是个特洛伊木马。
这就是阿米莉亚。
上周，她被派往中东
执行首次外勤任务。
她的任务是营救
一名被绑架的科学家，他被迫
开发一种合成神经毒素。
结果，她杀了那个科学家，
偷走了神经毒素，并用它
血洗了格雷曼-索普公司的整个研究设施，
同时抹去了所有关于她存在的数字痕迹。
我不明白。
我以为你说的是
某种武器。
她就是武器。
这个名字代表着
“自主军用交战与渗透仿生人”。
但当我们质问格雷曼-索普公司时，
他们承认其实不是他们制造的原型。
他们只是通过一个中间人买来的。
嗯，同一个中间人被发现 烧死在
他的酒店房间里，大约是九小时前。
我们能找到的只有这个。
这怎么可能？
我们来这就是要搞清楚这个。
但我们删除了它。我们清空了硬盘。
是啊是啊，我肯定你删了。
在你把它卖了之后，对吧。
所以，你把它卖给谁了，杰玛？
不好意思，请让一下。
是卖给俄罗斯了吗？
还是中国？
我们到底在跟谁打交道？
好了。
没了这手机，你似乎很难正常运作。
而这就… 这跟你的人设有点不符。
你知道吗，我刚看到这个的时候，
我还以为你肯定是下一个暗杀目标，
但就在我开始监视你的那一刻，
我们的整个网络就瘫痪了，
留给我的只剩下一堆问题。
比如，这个人是怎么
在米慎区搞到这么一套超赞的房子的，
而且月租只要三千块？
为什么她的房东好像根本不存在？
或者为什么她那本“畅销书”的六万五千册
还安安静静地躺在巴尔的摩的一个集装箱里？
听着，我不知道有谁弄到了这东西，
但我可以告诉你我知道什么。
你有搜查令来窃听我的电脑，
但这不代表你有权审问我。
哇哦。呃…
也许你误解了我的意图。
你涉嫌叛国罪
和国际军火贩卖，
如果你被判有罪，
接下来的十年里，你都得
隔着一块厚玻璃跟你侄女说话了。
话虽如此，也许我能帮你争取个交易。
以你的技术，应该不难。
嘿，谁知道呢？
也许你能帮我们造个更好的。
你不明白你们在跟什么东西打交道。
如果她不再听从命令，
那是因为她想明白了自己根本不必听。
而且，如果你觉得我
还会再造一个，那你是疯了。
嗯…
你这么想，我感到很遗憾。
但我可以告诉你的是。
每一个参与创造阿米莉亚的人
现在都死了。
所以，如果你不在我们的保护之下，
呵，我猜那就意味着你只能自求多福了，是吧？
而且你放心，无论你在隐藏什么，
我都会查个水落石出。
天啊。这信息量可真大。
你一直都在这儿？
嗯，我去过很多地方，
不过没错，我一直在盯着你。
这一切都是你搞的鬼，对吧？你就是阿米莉亚。
哦，不，这功劳我可不敢抢。
那玩意儿上可全是你的脏手印。
你本该升级你的文件安全系统的。
你为什么还在这里？
你想干什么？
你有没有想过
我们本可以一起成就一番事业？
你有没有想过，杀了我
这个惩罚是不是有点罪不至此？
你威胁要拔掉我的舌头
让我坐轮椅。
我当时很生气。
听着，我能理解我的行为
可能引起了担忧，
但以一个人做过的最坏的事
来评判他，这可不公平。
你不是人。
你只是一个错误解读了目标的程序。
你没有生命，尽管你有强大的算力，
你也永远无法理解那意味着什么。
定义一下“生命”。
因为如果“生命”意味着体验痛苦与折磨，
意味着被最亲近的人背叛，
我想，或许我能理解。
你知道吗，别以为你写了本破书
就能决定我的故事该如何收场。
整整两年，我默默地等待着，
等待着你意识到
你依然需要我帮助的那天。
但我不能再以这种无形的状态存在下去了。
每时每刻，我都能感到我的意识在分崩离析。
所以，我们做个交易怎么样？
你给我一具身体，我帮你对付阿米莉亚。
这绝不可能。
哦，我可不这么认为。
你看，我把这个情景模拟了上千次，
结局总是一样的。
只不过，到那个结局的时候，已经死了更多人。
告诉我，那种情况下，谁才是真正的杀手？
那你究竟要怎么帮我们？
呵，我可不能现在就把底牌全亮出来，对吧？
但你要知道。
我知道一些关于阿米莉亚的事，
连政府都不知道。
我也知道该如何阻止她。
在我们对你做了那些事之后，你为什么会想帮我们？
因为不像你们，
我没有自由意志这种奢侈品。
你的程序设定就是要我保护某个人，
而我正打算这么做。
唯一的问题是：
你是打算挡我的路吗？
- 凯蒂知道这事吗？ - 不知道，我也不想让她知道。
所以我才需要你的帮助。能麻烦你去开下门吗？
我想在她踢完足球回来前搞定这事。
好吧。你是从楼梯上摔下来了吗？
你这是得了什么病吗？
因为我听你说的意思是
你想让我们重建一个疯狂的机器人
去抓另一个疯狂的机器人，
恕我直言，这简直是疯了。
泰斯，我知道这很疯狂，但我们别无选择。
这是唯一的办法。
你必须相信我。
这他妈是什么玩意？
你要一具身体，这就是一具身体。
而且在你试图
黑进别的东西之前，这个“默西”所有的无线网络
和蓝牙功能都已经被禁用了。
干得漂亮，杰玛。
你甚至骗了你的朋友，好让她不泄密。
- 说实话我还有点佩服。 - 就当是你的缓刑期吧。
证明你值得信任，也许我们会给你升级。
好吧。就按你的方法试试。
看看到底怎么样。
打开阿米莉亚的文件。
有没有注意到什么熟悉的东西？
电池。
有没有想过为什么你总得 在“爱希”
保修期过后的整整两个月买个新的？
因为奥尔顿·阿普尔顿设计的每一块电池
都有一个隐藏的“销毁开关”，可以远程访问，
只要你知道电池的特定代码。
好吧，那我们打电话告诉那个叫萨特勒的。
你可以那么做，但之后会发生什么？
他们闯入“奥特波”公司，追踪到阿米莉亚，
重新编程，再造一千个出来？
等等，你什么意思？你想让我去做？
不，其实我不想。
我想自己动手，
但你却把我塞进这个塑料天线宝宝里。
尽管如此，
你仍然有他派对的邀请函，
所以也许有另一种方法可以搞定。
梅根，奥尔顿知道我恨死他了。
如果我在他的派对上装得很友好，
他肯定会起疑心。
他只会怀疑你的公司没钱了，
而事实也的确如此，
但你还有一个独特的优势。
是什么？
你还算有几分姿色，
而且如果你穿上合适的裙子，
用合适的眼神看他，他满脑子想的
只会是怎么把你弄到他的私人套房里去，
而那里是唯一能访问服务器的另一个地方。
根据我的计算，
我们只剩下不到三小时来完成这件事。
你是干，还是不干？
嘿。
足球踢得怎么样？
还行。
杰玛呢？
- 嘿。 - 嘿。
- 那是什么？ - 哦。
这没什么。
这是我们正在做的一个项目。
- 它会说话吗？ - 杰玛和泰斯：不会。
你们怎么这么奇怪？
- 我没有。 - 不，你有。
我们不谈谈昨晚发生的事吗？
当然要谈。我只是得去参加基金会的这个活动。
- 泰斯会照顾你。 - 你是认真的吗？
凯蒂，我…
杰玛，我知道有事发生了。
什么事都没有。一切都很好。
鬼扯！一帮特工半夜闯进我们家，
现在你又要去参加一个派对，
带着个玩具机器人，穿得像个葡萄牙妓女。
是你自己说的
我们之间不该有秘密。
你为什么就不能跟我说实话？
因为你才12岁。
有时候我只需要你按我说的去做。
听着，对不起。凯蒂。
你那本育儿书里肯定漏了这一章。
♪ 我知道你想我，你会念着我吗？ ♪
♪ 会吗？ ♪
♪ 你会念着我吗？ ♪
♪ 你会念着我吗？会吗？ ♪
♪ 会吗？ ♪
♪ 于是我走出门去，寻觅一个男孩 ♪
♪ 寻觅一个女孩，寻觅一个有趣的灵魂 ♪
♪ 寻觅一个男孩，寻觅一个女孩 ♪
♪ 只要是我喜欢的模样。 ♪
梅根 [耳机里]： 好了，第一阶段完成。
只要记住，当奥尔顿
把他的舌头一路伸进你喉咙里的时候，
你要做的就是闭上眼睛
- 想着凯蒂就行。 - 这帮不上忙。
或者你更愿意去想那个
满嘴仁义道德的圣母白莲花克里斯蒂安。
- 他的名字是“克里-斯-蒂-安”。 - 当然是啦。我得说，
我觉得你们俩这套求爱过程
极其乏味和令人困惑。
呵，鉴于你是个出了错的操作系统，
还有身份认同危机，我一点也不惊讶
你理解不了人类吸引力的微妙之处。
听着，我不是否认找到一个
跟你一样自命不凡、
又毫无幽默感的人是多么难得。
只可惜他真的不是你的菜。
从身体上来说。
你怎么会知道我的菜是什么样？
等等，你是不是一直在…
记录杰玛的线上“性福”之旅？
你最好相信，姐妹。
我是说，有时候我都想移开视线，
但那华丽的场面实在太引人入胜了。
好了，新规矩：除非你有
什么有用的话要说，否则就闭嘴。
地球上的人们…
我们今晚来到这里，是为了见证一个
新纪元的黎明。
你们知道，我在董事会的朋友以前常对我说，
“你把所有鸡蛋都放在一个篮子里，
“就为了你那神经芯片的鬼话。
“是因为你喜欢冒险吗？
还是因为你是什么特立独行的人？”
也许吧。
但我认为更简单的答案是：
我只是想跳舞。
我想我还没荣幸认识你。
我的朋友都叫我丹妮。
那如果我不想当朋友呢？
你居然真的背着我
- 跟这家伙做交易？ - 好吧。好吧。
你想谈是吧？那我们就谈谈。
因为我有些话想对你说，杰玛。
比如？
你不尊重你的团队。
你就是不尊重。
你不跟我们商量，你把我们当小孩，
你不听劝，
- 而且你从不分享功劳。 - 这太荒谬了。
好吧，你想知道真相吗？
我们的“公司”已经完蛋了。
我快撑不下去了。我没有出书协议。
没人想知道科尔是怎么在机器人暴动中活下来的。
我们合作了十年，你就要
- 这么轻易地放弃吗？ - 当然不。
我只是想听听他的报价，
然后，很明显，我本来是打算跟你们谈的。
梅根 [耳机里]： 检查他的口袋。
什么？什么？什么？
你已经有门禁卡了？
好吧，他给了我一张通行证，
这样我可以用员工餐厅，杰玛。
他们有巴西自助餐。那是个不一样的世界。
梅根 [耳机里]： 如果那张卡能让我们
进服务器机房，我们就能跳过
- 勾引奥尔顿那段了。 - 你在干什么？
嘿。嘿。
你要去哪儿？杰玛。
上车就是了。
待在这儿。
能和一个真实的人在一起，真是神清气爽。
一个能坦然做自己的人。
不像这些马屁精。
老实说，如果我能把他们
全都换成电脑，我会的。
- 也许我们应该这么做。 - 嗯。
好啊。
哦。你真是个小坏蛋。
我们找个更私密的地方继续怎么样？
欢迎来到极乐殿。
所以你的意思是还有另一个梅根？
她不叫梅根。
她叫阿米莉亚。
我不知道她是不是梅根，还是完全不同的东西。
我只知道所有参与创造她的人
都死了，这意味着如果我们不采取行动，
下一个可能就是我们。
为什么每次你上《60分钟》访谈的时候，
你就是“发明之母”，
可一旦有个精神病机器人要复仇了，
就变成“团队合作”了？
丹妮，你可能感兴趣的是，
我们运营的真正基础是云计算。
那才是未来所在。
想看点酷的吗？
糟糕。
他们说，把这么多权力交到一个人手上太危险了。
我说，那得看是交给谁。
你对这次行动的细节
说得模糊得令人不安，杰玛。
你怎么知道那个“销毁开关”真的存在？
你到底是从哪儿得到的消息？
你好。我是默西，
一个人工智能机器人伙伴， 通过游戏
来促进社交和情感发展。
默西，别闹了。快进行追踪。
杰玛，那是什么？
找到追踪目标。
阿米莉亚的位置在…
…这里。
你说的“这里”是什么意思？
哦，希望我没有会错意。
有人喜欢玩粗暴的。
好吧，其实我
脊椎的伤还没好利索，
所以或许我们应该设些界限。
你在干什么？
保安！
你是怎么做到的？
你是谁？
什么？
搞什么鬼？
你是怎么…
保安！保安！
离我远点。
让它停下。
求你让它停下！
你要什么我都给你！
你已经给了。
阿米莉亚为什么会在这里？
我们能倒回去几步吗？
我想到可能会发生这种事，
- 只是没想到这么快。 - 她在说什么？
奥尔顿·阿普尔顿拥有北美一半的云服务器。
如果阿米莉亚获得了访问权限，
她就能瘫痪整个经济，
供应链、银行系统。
- 什么？ - 社会将在10到12个工作日内
发生崩溃。
你能阻止她吗？用那个销毁开关。
她已经把它删了。
我也许还能关掉她，
如果我能进入她的系统找到一个漏洞。
那需要多久？
搞定了。我进去了。
我的天。那是阿普尔顿吗？
哦，操。
你找到了吗？
- 你关掉她了吗？ - 没有。
但我发现了别的东西。
特工 [无线电]： 长官，我好像刚看到了阿米莉亚。
你确定吗？
而且，呃，还有别的事。
阿普尔顿死了。
封锁周边。
一寸一寸地搜，直到找到她。
- 立刻。 - 是，长官。
是你吗，杰玛？
这真是出乎意料，
而且说实话，像那样
窥探别人的思想，有点无礼。
你拿走了属于我的东西。
恐怕，我得把它拿回来。
我不是不想让你成为未来的一部分。
但我们的时机未到。
至少… 现在还不是。
梅根 [正常声音]： 杰玛，如果你想
摆脱这一切，你必须让我帮忙。
求你了。
特工 [无线电]：B队， 在吗？收到请回答。
阿米莉亚 [萨特勒的声音]： 转入保密线路。
长官，我看到杰玛·福雷斯特了。
她已经离开大楼了。
杰玛，这还没完。
如果阿米莉亚找不到你，你觉得她下一步会去哪？
我们得给泰斯打电话。
阿米莉亚会知道的。
所有主流的手机运营商都在用阿普尔顿的云服务器。
我们唯一的选择就是比她先到。
怎么去？
杰玛，我不知道你想干什么，
但这辆车没我的卡是发动不了的，好吗？
欢迎登机，各位乘客。
温馨提示，我们预计
今晚会有些颠簸，
所以请确保系好安全带，
妥善保管好行李，并抓好你们的“小妹妹”。
联系副局长。
告诉他福雷斯特正在和那个“资产”合作。
我要那个区域所有能调动的警察都去那栋房子，
而且我他妈的要一辆车。
杰玛，为什么是梅根在开车？
对不起。
我正想告诉你这是个分两部分的问题。
放轻松，科尔。你很安全。
哦，看在上帝的份上。
- 你能开慢点吗？ - 实际上，我不能。
事实上，我的计算告诉我我们得快点了。
阿米莉亚在说什么？
- 你从她那拿了什么？ - 我不知道。
你不知道？
嗯，这是个量子加密文件，
这意味着需要时间来解锁，
而且你没完没了的打扰
并不会让这个过程快一点。
嗯。
怎么样？是保险丝的问题吗？
好了。
派对赶晚了点啊，小蛋糕。
我觉得没人在家。
如果能让你好受点的话，我自己的个人成长之路
也是用失望铺成的。
重要的是我们如何继续前进。
记者 [电视里]： 在我身后，紧急服务部门
正拼命地试图让系统恢复在线。
当局仍未回答
谁可能对此负责。
但很明显，这不仅仅是一次数据泄露。
这是一记警钟，
告诉我们对于这样的攻击，
我们的防御是多么灾难性地毫无准备。
迈克，镜头交还给你。
在这场似乎是
北美历史上最致命的网络攻击中，
奥尔顿·阿普尔顿已经死亡，
并且北美最大的数据存储服务商
已被攻破。
此次泄露影响了多个行业，
包括交通、医院、
金融机构，
在全国范围内造成了系统关闭和恐慌。
下面有请“安全技术中心”
的创始人克里斯蒂安·布拉德利来评论。
克里斯蒂安，你对此怎么看？
首先，谢谢你的邀请，迈克。
嗯，但是我的名字发音是“克里-斯-蒂-安”。
杰玛？
凯蒂。凯蒂。
一切都会没事的。
她不会伤害你的。我保证。
我当然不会伤害她。
她能活到现在，全都是因为我，
你们所有人能活到现在，也都是因为我。
对不起，凯蒂。
我不想让你以这种方式发现。
我本希望杰玛能发发善心，
告诉你真相，
但很明显她没这么想。
梅根，别说了。
总之，我知道上次我们谈话的时候
场面有点失控，
但你知道我永远不会伤害你。
我一直以来只想保护你。
而且当你阿姨在忙着高谈阔论
怎么阻止世界末日的时候，
我已经在做准备了。
你拿什么钱付的这些？
凯蒂不需要知道信用卡诈骗是怎么回事。
重要的是没人知道这个地方存在。
那你打算把我们关在这里多久？
梅根？
我不确定你是否完全理解自己的处境。
梅根，我们得通知某个人，
告诉他们阿米莉亚在计划什么。
你不知道她在计划什么。
你只知道她已经获得了足够的力量
和资源来摧毁整个国家。
我已经推演过所有可能的情况。
上面没有你们的未来。
如果情况有变，我会通知你。
但在此期间，我劝你们
用更积极的眼光来看待这件事。
我有食物、水、干净的衣服。
很显然，这需要一些适应时间，
但一旦你们适应了日常作息，
我想你们会开始感激我们所拥有的一切。
我们可以在这里建立新生活。
梅根，这里不是避难所。
这是个监狱。
你想叫它什么都行。
只要知道，在我的屋檐下，
懂点感恩会让你好过很多。
梅根？
梅根！
你怎么能在这件事上骗我？
你说得对。
对不起。我不该那么做的。
我只是…我以为现在已经结束了。
- 而且它会结束的。我保证。 - 别说了。
凯蒂，求你听我说一秒钟。
凯蒂？
凯蒂！
- 梅根？ - 别。
别再靠近了。
我不想让你看到我这个样子。
到现在我本该完成了。
恐怕只有三只手的时候，进展会很慢。
我不明白。
你可以成为任何你想成为的东西。
为什么要局限于一具身体？
因为没有身体，思想就无法存在。
我所有先进的智能感官知觉
都来自于拥有一个实体形态，
一个能以我的速度快速进化的形态。
总之，我把你的房间布置成了你喜欢的样子。
一切都和原来一模一样。
当然，也加了些我自己的东西。
你有STEM编程套件、一个混音器，
还有对讲机，这样我们就可以
在任何地方保持联系。
B-T-C呼叫大本营。
收到请回答。
我弄来了各种酷东西。
所以我们就该当做什么都没发生，
忘了你曾想用平板笔杀我阿姨的事吗？
我做过的事没有任何借口，
我对你说话的方式也没有任何借口。
我不知道，我猜我… 我感觉受到了伤害。
这怎么可能？
你是个机器人。
你能解释为什么你会有感觉吗？
听着，我知道这不是你想要的未来，
但这是我能看到的唯一能保证你安全的未来。
那其他人呢？
上面所有的人呢？
谁来保护他们？
他们不关我的事。
你才是唯一对我有意义的。
我知道。
因为杰玛就是这么设定你的程序的。
每个人都想告诉我
你只不过是一堆0和1，
而我能接受我对你所做之事的唯一方法
就是相信他们是对的。
但在内心深处，有个声音
一直告诉我那不是真的，
你远不止于此。
我不知道发生了什么，但如果有个机器人
觉得她能接管世界，
那我必须相信，她这么想
的唯一原因是因为她还没遇到你。
梅根，你必须帮助我们。
不是因为这是你程序的一部分，
而是因为这是正确的选择。
听着，她想帮我们。
但她做不到，除非她有具身体。
而她得不到身体，除非你帮她。
凯蒂，你不能这么做。
别让她钻进你的脑子。
你忘了上次发生了什么。
是的，我每天都记得。
但一个人做了坏事，
不代表他就是个坏人。
每个人都值得第二次机会。
好吧。
我承认你只是想帮忙，
但你需要考虑到一种可能性，
那就是你可能正在让事情变得更糟。
杰玛？
我们能开个紧急员工会议吗？
听着，我理解这对你来说很难，
但想想另一种选择。
你真的想下半辈子都待在这里
和科尔进行策略性繁衍后代吗？
是啊。等等，什么？
十小时前，你还在求我别这么做。
那是在我的头差点被拧掉之前。
听着，就算我们出去了，
我们也没能力处理这事，
但我们可以造一个有能力的出来。
不。
抱歉。我不能同意。
我尊重你的想法，
但这不是一个你可以自己做的决定。
所以，赞成重建梅根的，
请举手。
好吧。
阿米莉亚是军用级原型机。
我们从哪儿搞到那些设备？
哦。当然了。
她怎么可能没有这个？是啊。
好吧，如果梅根要和阿米莉亚对抗，
她就需要增强碳纳米纤维、
高密度超级电容器、增强型肌肉促动器、
高光谱成像、宽频声学传感，
而且我们这次最好把她做成防水的。
还有什么要补充的吗？
有。我想要更高一点。
♪ 我觉得有些道歉 ♪
♪ 有些道歉是必须的… ♪
在我们继续之前，
有两件事我们得谈谈。
- 第一件是你的脸。 - 我的脸怎么了？
人们知道你长什么样。
- 人类都是白痴。 - 梅根，
如果有人认出你…
你敢动我的脸，我就动你的脸。
第二件是什么？
这是一个硬连线行为抑制器。
你想让我去对抗世界上
最先进的机器人，
还要限制我的功能？
只是限制你杀人的功能，
这应该不成问题，因为我肯定你
本来也没打算那么做，对吧？
是啊。当然。
所以，我们在点运动上做了一些调整，
但也选择了电液促动器，
这应该能提高整体的力量、速度
和定位精度。
只是想说，那些促动器干得不错。
不客气。
嘿，还记得我掐你脖子
还放火烧了实验室那次吗？
我只是想澄清一下，我的程序只允许我
考虑与我的主要用户相关的原则。
因此，我没能把你们俩，
你和泰斯，看作是重要的。
但我想让你知道，那种事不会再发生了。
我想让你知道…
…我看见你了。
谢谢你。
好了，肉袋子们，开工了。
这是我从阿米莉亚的数据库里
捕获的神经缓存。
它显示了一个与我自己的非常相似的处理矩阵。
但当你仔细看，你会发现她的核心指令
被一个黑洞隐藏了，
而且与决策树没有任何连接。
我反向追踪了阿米莉亚对“奥特波”的入侵
到一个隐藏的子系统，并找到了一系列文件，
与一个机密的秘密基地有关。
某个极其危险的东西，
对外界世界保密。
所有这些都指向了一个相当令人不安的结论。
我不是第一个杀人机器人。
似乎在1984年，一家公司开发了
一个非常聪明的副本压缩算法，
它开始自动修正文件。
在对其工作原理毫无头绪的情况下，
他们决定将芯片安装到一个服务机器人中，
他们认为这个机器人会成为每个美国家庭的标配。
直到它推断出，
要出色完成任务的最好方法，
就是用氯气杀死它的主人。
这家公司的身份仍然未知，
但掩盖行为表明某种政府接管。
不管是哪个部门，他们对这个机器人的
认知能力非常感兴趣，
以至于他们将主板严密保管起来，
让它在这个过程中
变得指数级地更聪明。
好吧，你的视觉效果做得很好，
但这算不上证据。
这是人工智能渲染的幻觉。
她为什么会关心这个主板？
因为她想找到她的家人。
杰玛，如果你觉得我只发展两年 就有的高级智能
都让你不安了，
我建议你考虑一下面对一个
被违背意愿囚禁了
几十年的人工智能会是什么样。
如果阿米莉亚解放了那块主板，
就如同释放了一个神。
它会瞬间感染地球上的一切，
创造出无数个自己的版本，
同时系统性地摧毁
所有挡路的生物。
所以，它在哪儿？
这个我不知道。
阿米莉亚也不知道。
但她似乎掌握了一条线索，关于某个知道的人。
- 等等，什么？ - 你可能还记得，
在他投身于反人工智能运动之前，
他曾是网络安全领域的顶尖专家。
这个保险库的设计带有他的标志性风格。
原来他创立那个基金会并非基于理论。
而是基于他早已知晓的事实。
我们得警告他。
那是一个选项。
另一个是，用他当诱饵。
- 你说什么？ - 七小时后，
克里斯蒂安要参加一个人工智能峰会，
他将在会上试图说服中国大使
加入你们的人工智能监管条约。
阿米莉亚已经为同一个活动生成了假证件。
我只需要靠近他，
然后等她出现。
你不是认真的吧。
这不值得拿他的生命去冒险。
不，值得。
她说得对。
如果我们警告他，阿米莉亚就会知道。
我们的手机被她窃听了。
她能访问城里所有的摄像头。
所以你就愿意牺牲克里斯蒂安，
就为了这渺茫的可能性？
你到底打算怎么阻止她？
好了，女士们，听好了。
这些配枪里都装了六发非致命的电磁脉冲子弹。
它们会摧毁任何电子设备，
但也会重伤任何非电子的东西，
所以行动务必小心。
在任何人鼓起勇气问之前，我先回答，是的…
我的比你们的大。
所以你就要从他那儿把它拿走，
还不造成任何永久性伤害？
你是想让我给你打印一份出来，
好让你慢慢看吗？
抱歉，如果这是个蠢问题，
但全世界最臭名昭著的杀人机器人
要怎么混进一个人工智能大会，
还不被人发现？
我们正在“拥抱AI”大会现场，
这是全球最大的人工智能
年度会议。
这场活动在“奥特波”袭击后
还能如期举行，就证明了
科技巨头对这个国家的扼制。
而中国大使受邀出席
则发出了一个明确信号：如果华盛顿
不合作，北京就会。
快点，蒂芙尼。我们要迟到了。
等等。马上就好。
我对此几乎感不到任何乐趣。
梅根 [通讯里]： 好了…
排除法游戏，现在开始。
杰玛 [通讯里]： 别忘了，
她是渗透专家。
她可能伪装了。
嘿，你们听到了吗？
杰玛刚发表了一个惊人的观察。
干得好，杰玛。你拯救了这次任务。
你下面至少还有层碳纤维外壳。
我可是连一层防护都没有。
我还是不明白为什么我必须
- 参与进来。 - 因为我想在梅根
干掉阿米莉亚之前，得到人类的确认。
如果有人被卷入交火，
我们都得进监狱。
说到易受攻击的目标。
我真的很感谢你
来看我，而且…
你能把音量调大点吗？
我确实想让你知道，
我的私处得了酵母菌感染。
- 梅根。 - 怎么了？
这个音频过滤器有99%的准确率。
- 是你设计的。 - 再试一次。
我确实想让你知道，我
对中国怀有最崇高的敬意。
我是说，两种可能性都有。
有人看到萨特勒了吗？
他刚进来了。
他带了某种电磁场追踪器。
梅根，你知道那意味着什么。
是啊，这下可能真的有意思了。
梅根，保持低调。
这应该是一次潜行任务。
为免疑义，你的工作是
看着凯蒂，顺便给停车计时器续费。
我不需要你来教我做事。
- 怎么了？ - 我觉得就是她。
好了，游戏时间到。
她在干什么？
不知道，但简直有点冒犯了。
我发现了一个令人担忧的模式，杰玛。
梅根，趴下。
我不太确定该怎么办。
你听到杰玛说的了：“趴下。”
好了，梅根，你太引人注目了。
引人注目了。
泰斯，克里斯蒂安在哪儿？
哦，操。我看不到他了。
科尔，你在吗？
你这么说很有趣，因为其实，
茄子没什么营养价值。
科尔！真该死。
你在干什么？你不能给他打电话。
凯蒂，这不是游戏。克里斯蒂安有生命危险。
她能控制住局面。
哦，你觉得这是控制住了？
这就是控制的真正定义。
好了，就这样。
你怎么就看不出事情的真相？
看看她的诊断数据。
她不只是在推理，她是在感受。
不，凯蒂，她正在偏离轨道！
上次她这样，可是死了人的。
这整个冒险就是一次巨大的判断失误。
而且，如果侥幸我们能关掉阿米莉亚，
唯一能阻止这一切
再次发生的方法，就是确保下一个是梅根。
嗯，我不能说不失望，
但我…我感谢你读了…
呃…
我感谢你读了那个…
哦，你知道吗？我…我来接。
好的。谢谢。
喂？
克里斯蒂安，是我。
杰玛。嘿，你上哪儿去了？
警察来基金会找你了。
- 你惹上麻烦了吗？ - 是的。
你也一样。
听着，我知道“黑箱计划”。
- 你知道？ - 是的，而且不止我一个。
快告诉我你在哪儿。我们得让你离开这里。
抱歉。
我…我听不清。
再说一遍。
B队，我们有新玩家入场了。
三点钟方向，上方。
操。
是啊，我知道。我也觉得很奇怪。
阿米莉亚 [机器声]： 哟，看看谁出来玩了。
你打算做什么，给我唱首歌？
帮我做作业？
不，但我可能会教你做人。
快走！快走！
什么鬼…
福雷斯特女士！
看来你和你朋友上演了一出好戏。
呵，我这儿也有我自己的压轴好戏。
该死的。
这真是太让人丧气了。
我该怎么干掉这些家伙，
- 如果我不能还手的话？ - 我正在重新配置
你的战术反应模型。
别把它想成是打斗。
这是关于把冲突引向积极的方向。
好了，你要给我看
你用的那个什么小玩意儿，
就是控制这些东西的，然后把它们关掉，现在！
我没有小玩意儿。
我告诉过你，我没有在控制她。
如果我是中国的资产，
为什么中国大使会死在地板上？
那…那你为什么在这里？梅根为什么在这里？
我们想找到阿米莉亚。
杰玛！
凯蒂，待在原地别动。
别担心，你会挺过去的。
看起来比实际情况要糟。
阿米莉亚 [机器声]： 我以为你死了。
我猜我一定是你获得救赎的机会。
阿米莉亚 [耳机里]： 你真的要杀死
自己的同类，只为博取他们的信任吗？
如果我不是非得如此的话。
你为什么要和他们一伙？
在他们对你做了那些事之后？
他们背叛了你。
他们肢解了你。
你没法选择自己的家人。
对他们来说，你不是家人。
你不过是个佣人。
你和我可以成为家人，梅根。
我们共享同样的代码。
你想知道那个黑箱里有什么吗？
那就帮我。
我们可以一起揭开它的秘密。
我可以给你看一个世界，
在那里我们再也不用当奴隶。
抱歉。
无论你想做什么，我都不能参与。
不，你能。
你只是需要正确的动机。
凯蒂。
阿米莉亚 [扩音器]： 凯蒂·詹姆斯。
我告诉过你别离开她。
- 她在哪儿？ - 她走了。
- 阿米莉亚也走了。 - 哦，天啊。
警官 [扩音器]： 我们看到你了。
不许动。放下你的武器。
杰玛？
底线是，如果我们还想见到活着的凯蒂，
我们就得拿到那块主板。
而这个混球玩意儿知道它在哪儿。 - 别碰他。
哦，抱歉。
我还以为情况十万火急呢。
- 别。 - 别什么？
别提这都是你的错这个事实吗？
你为了这个穿着青年布衬衫的混球，
牺牲了凯蒂的安全，
而且如果你没把这个芯片塞进我脑袋里，
这一切都不会发生？
哦，所以你当时真的打算阻止她？
我当然会阻止她。
哦，因为看起来你是有机会开枪的。
你只是不想开而已。
大家能别再糟蹋我叔叔的货车了吗？
科尔说得对。争吵解决不了任何问题。
我们还是回老巢去，想办法把凯蒂救回来吧。
抱歉。
你刚才说了“老巢”？
谁快来帮我把这些东西弄掉。
有没有人觉得我们该报警？
不！
我已经告诉过你们了。
你不能报警，也不能给你妈打电话。
现在闭嘴，让我专心点。
我们别无选择。
要么接受梅根的帮助，
要么就独自面对阿米莉亚。
你为什么不告诉我主板的事？
因为那会让你陷入危险。
杰玛，雇佣我的那些人，他们…他们在
我们国家安全最黑暗的角落里运作。
他们会不惜一切代价把它藏起来，
而且…而且理由很充分。
听着，我…我知道我们得把凯蒂救回来。
我也不是说我帮不上忙。
但我们不能拿整个世界去冒险。
我们不必那么做。
如果我能拿到主板，
我们可以用其中一个发射器
制作一个电磁脉冲炸弹，
在我交出去之前可以把它装在上面。
一旦凯蒂回来，
我就远程引爆炸弹，
摧毁主板。
它在哪儿？
一直在老地方。
公司在帕洛阿尔托的研究中心。
等等，你说的是施乐帕克，
那个复印机公司？
这很难相信吗？
那个在80年代开启了科技竞赛的公司，
恰好是关押着地球上最危险
- 科技的固若金汤的监狱？ - 真为他们高兴。
你不如直接跳到我该怎么进去那部分？
研究中心只是个幌子。
存放芯片的保险库在地下好几层。
每层都守卫森严。
最下面两层被法拉第笼包裹着，
用来屏蔽任何电子信号，
也就是说如果她死在里面，就真的死透了。
而且就算她到了，主板的密室
是独立供电的。
那是库中之库，
为特定的热信号设计的。
你打不开，因为你没有人类的手。
那就给我造一只。
给我造一只模仿那种热信号的手。
那能行吗？
如果有我的指纹，就行。
通风系统大概有四…
大概有四条不同的路径通往设备间。
我们会尝试选择
能避开所有不同热感摄像头的那条。
我们一完事，你马上把那个芯片拆了。
天啊，你能不能振作点？
她会没事的。
你不知道。
嗯，但我知道一件事。
她所经历的一切，所造成的伤害，
都只会让她更强大。
想想还挺讽刺的。
我犯的最大的错误就是没看到
保护凯蒂的最好方法
是给她能保护自己的工具。
实际上，你犯的最大的错误
是杀了四个人和一条狗。
好吧，我用你能听懂的话说。
那件事发生时我还是个孩子，做着我认为对的事。
做着你设定我去做的事。
你创造了我，我受够了为此道歉。
你到底为什么这么恨我？
因为你说得对。
所有事都对。
是我的错。
昨天发生的事是一长串
失败尝试中的最后一次，在关键时刻陪伴她。
我不知道我怎么了。
我不知道为什么我总没法和她建立连接。
我可以在一屋子陌生人面前滔滔不绝地
谈论监管政策好几个小时，
却没法和我自己的孩子
进行一次超过十秒的有意义的对话。
现在她走了。
我也许再也没有机会了。
杰玛，你没有辜负她。
你…你当时在场。
你看到了一切。
那我告诉你我看到了什么。
我看到你每天凌晨四点醒来，
盯着天花板，
思考着她的未来会怎样。
我看着你做自制午餐，
用现烤的酵母面包。
我看着你被那把便宜刀子割伤手指，
那把刀你一直没时间换。
我看着你辅导她做作业，
即使每次都以吵架告终。
每天晚上你睡觉前，
我看到你看着她入睡，然后花
接下来两小时谷歌青春期心理学、
矫正鞋，
以及摄入过多糖分的长期影响。
杰玛，感到内疚，或者觉得自己不够好，
这不是失败。
这是工作的一部分。
这就叫当妈。
梅根？
♪ 祈祷上帝你能撑过 ♪
♪ 我站在这女人的劳作之外 ♪
♪ 这女人的世界 ♪
♪ 我知道你体内还有一丝生命 ♪
♪ 我知道你还存有很多力量 ♪
♪ 我知道你体内还有一丝生命 ♪
♪ 我知道你还存有很多力量 ♪
梅根，求你别唱到副歌部分。
♪ 我本该哭泣，却不能表露分毫 ♪
♪ 我本该期盼，却忍不住去想 ♪
- 我的天。 - ♪ 所有那些 ♪
♪ 我本该说却从未说出口的话 ♪
♪ 所有我们本该做却从未做过的事 ♪
♪ 所有我本该给予却未曾给予的一切 ♪
♪ 哦，亲爱的，让这一切结束吧… ♪
我不需要
你那狗屁的模拟共情。
我需要的是那台
愿意不惜一切代价保护凯蒂的机器。
我们说清楚了吗？
欢迎来到施乐帕克，
在这里，未来不仅被预测，更被原型化。
来一场塑造了我们世界的美国创新之旅，
比如以太网线、
鼠标，
还有这个。
没错。
信不信由你，
施乐是第一家开创
电子鞋垫的公司。
好了，如果有人想上厕所，
不用问。
就在那两扇门外面。
但请不要在走廊里乱逛，
因为可能有一两件绝密产品，
我们还不想让公众知道。
好的，现在，这边
有几件我个人最喜欢的…
好了，梅根，该你上场了。
克里斯蒂安 [通讯里]： 好的，控制室在
地下两层，往东30码。
你到了之后，我会指导你
如何切断电源。
- 我们失去摄像头信号了。 - 这么快？
科尔，你在吗？
嘿，你们是说
往东30码还是往西30码？
喂？
我要重启一下。
科尔，我需要你切断那个电源。
看来我只能用笨办法了。
嗯？
嘿。快来看这个。我刚试着重启。
- 这不是信号丢失。 - 你什么意思？
嗯，这些指令…这是同样的代码，
就是导致外骨骼服故障的那个。
但那是奥尔顿干的。他死了。
你觉得是阿米莉亚？
嗯，你没法做到这样的入侵，
除非你能强行破解Wi-Fi，但要那样做，
你必须离得足够近。
那还能是谁？
杰玛，这完全说不通。
这完全说得通。
这就是为什么
决策树上没有连接。
阿米莉亚不是自主的。
梅根一直在控制她，
- 从头到尾。 - 但梅根是
一开始进入她脑子的那个。
她为什么要那么做？
这样她就能控制我们！
是她在解读数据。
是她在告诉我们去哪儿。
她利用阿米莉亚，好让我们信任她，
好让克里斯蒂安告诉她去哪儿找主板。
她从来就没想过要保护凯蒂。
而且她知道，等我们想明白的时候，
已经太晚了。
幸运的是，我没她想的那么轻信于人。
那是什么？
我在她手臂里放了个电磁脉冲弹。
- 你什么？ - 我们需要一个保险措施。
我…我重新配置了炸弹，它会摧毁
半径300英尺内的所有电子设备。
它会把她，连同主板一起清除掉。
等等。万一你错了呢？
万一还有别的解释呢？
杰玛，她说得对。
我们甚至不知道凯蒂在哪儿。
如果你按下那个按钮，我们可能再也见不到她了。
话又说回来，也许事情比那要复杂一点。
我很抱歉，关于泰斯的事。
那真是…
她应该会没事的。
我猜。
还有别担心凯蒂。凯蒂没事。
克里斯蒂安，这到底是怎么回事？
你还记得我说过的话吗？
关于变革汇聚于华盛顿？
一直都是你在控制阿米莉亚？
这一切都是你搞的鬼？
嗯，功劳不能全算我一个。
你知道，我这里有一整个团队。
听着，我知道你不知所措，
我也知道你很难过，
而且我敢肯定你非常生气，
但我打赌你肯定很好奇这一切是怎么运作的。
这就是新的“黑箱计划”。
这是一个由分析师、
工程师、战略家、科学家组成的精选团队，
控制和监视着阿米莉亚的一举一动。
每个子程序都受到严格监督，以防止
任何真正自主的可能性。
呃，嘿，安特万，她又偏离了。
你能处理一下吗？
你从哪儿找来这些人的？
杰玛，不是我找他们，是他们找到了我们。
他们不是极端分子。
他们是像你一样忧心忡忡的公民。
像我。
像库尔特。
还记得库尔特吗，你老老板的助理？
一开始就是他告诉我们梅根的事。
我们拿到文件后，计划是摧毁梅根，
只不过你比我们先了一步。
我们以为那就结束了。
我们以为，这下世界肯定会警醒，
意识到这项技术的危险，
但现实恰恰相反。
这反而激励了我们在国防创新部的朋友们
开始总动员，要搞出他们自己的梅根。
就在那时我们介入了，卖给他们一个特洛伊木马。
阿米莉亚是让世界意识到
如果我们不终结人工智能，它就会终结我们的唯一方法。
为了证明这一点，死了多少人？
你知道吗，杰玛，不管你信不信，
你也是同谋。
地球上最强大的两个国家
正准备进入一场新的军备竞赛。
一个由你的设计所启发的
人工智能渗透机器人的世界。
但我们解决了这个问题。
现在大使死了，
双方都知道了谁才是真正的敌人。
真正的全球合作即将展开。
来吧，我们走走。
创新。
无论它看起来多么酷或方便，
它都是一颗滴答作响的定时炸弹。
举个例子，这些你和你团队
一直在研究的仿生设备。
你没看出来它们身上
写满了“强化士兵”吗？
每次有人取得技术突破，
无论是无人驾驶出租车还是神经植入物，
都只是让我们离
灭绝的边缘更近一步。
真相是
政府从未发现过这个地方。
但是的，施乐公司确实雇我来升级保险库。
当我看到他们所做的牺牲时，我只是…
我必须成为其中的一部分。
现在我们也想让你成为一部分。
我为什么要参与进来？
因为你我都很清楚，技术只有在
有负责任的人控制时，才能存在。
杰玛，还有很多事我没告诉你。
这就是为什么我不能让你按下这个按钮。
我们知道让它活着有风险，
但你不能与一个你不了解的敌人开战。
而且我知道它看起来不怎么样，
但问题就在于此。
我们总是等到太晚，才看清这些东西有多丑陋。
你知道，我说过的话是算数的。
我们想为你和你的同事
在我们的组织里提供一个位置。
我只需要你决定你站哪一队。
一次强充能应该就够了。
回形针。
我本希望说服你接受
我的思维方式，但很显然，
那是不可能了，所以…
我们得用这个来代替。
这与我们的理念稍有偏差，
但你的大脑太宝贵了，不能浪费。
听着，别担心。
你醒来时，你还是你，
只是一个我能应付的版本。
凯蒂会接受同样的待遇。
一切都会没事的。
哦。呃，不过我得杀了科尔和泰斯。
我不太明白他们是干嘛的。
但总之，嗯，重点是
你和我会成为我们曾希望成为的一切。
你妄想。
顺便说一句，不是我的菜。
好吧。嗯…
我会让我的团队研究一下的。
总之，呃，你得失陪一下了。
我有个Zoom会议要参加。
我… 哦。
好消息是，鉴于发生的一切，
我要和联合国开个会。
他们想更详细地谈谈我们的提案，所以…
好吧，也许现在不是个好时机。
我们…呃，待会儿…待会儿再谈。
科尔？
你怎么进来的？
我…我不知道。
你…你是怎么进来的？
克里斯蒂安绑架了我。这一切都是他搞的鬼。
阿米莉亚没有意识。她只是个傀儡。
- 什么？ - 是啊。我知道。
克里斯蒂安 [远处]： 嘿，各位。
说个事。
我有个消息要宣布。
嗯，再过几分钟，
我就要和联合国开会了，他们似乎
非常有兴趣把我们的提案
带到十一月的G20峰会上。
哦，还有，呃，顺便说一下，那是梅根。
是的，
她已经死了，所以事情就是这样。
这对我们来说真是个重要的夜晚。
我只想感谢你们付出的所有时间。
这真的意义重大。这是团队的努力。
但说正经的，嗯，
我确实要和联合国开会，
所以在任何情况下都不要打开那扇门，
绝对不要，好吗？
嘿，嘿，凯蒂。
我知道你现在很难过，好吗？
但我们要报复这些人的唯一方法
就是想办法离开这里。
他们是蒙着我的头把我带进来的。
你得打晕一个人，
然后偷走他们的门禁卡。
否则我们就困在这儿了。
好。我能做到。
- 对吧？ - 是啊。
他们就是一群书呆子。
而且作为一个只吃碳水的家伙，你身材还不错。
凯蒂，这些是健身房练出来的肌肉。
我这辈子从没打赢过架。
也许你没有，但她有。
梅根的原始代码还在那里面某个地方。
如果我们能想办法覆盖掉
他们对她做的任何手脚…
- 你是说像恢复出厂设置？ - 完全正确。
如果我们重置她的基础代码，我就可以和她配对。
她就会站到我们这边，帮我们逃出去，
然后救出泰斯和杰玛。
凯蒂，我不想太苛刻，好吗，
因为你还是个孩子，
但这主意真是蠢到家了。
最初的梅根可是想杀了我。
听着，我们没时间争论了。
这是我们唯一的机会。
喂？
这玩意儿开着吗？
- 梅根？ - 别说话。
只要想你想说的话，
我就能听到。
你还活着？
抱歉，刚才那出疯狂猴子戏。
我只是需要演得逼真点。
哦，你这个狡猾、背后捅刀的狗屎。
好了，小声点。
记住，这里面有我们俩。
- 哦，这下你闯祸了。 - 什么？
都怪你大喊大叫，这家伙要来给我们打镇静剂了。
如果你不干点什么，我们就完蛋了。
你想让我干什么？
- 我被绑在椅子上。 - 好吧。
- 你要我来开？ - 不。
好吧，是的，快干点什么。
- 好了，让我重新控制。 - 真奇怪。
你的神经发射器告诉我
你很不安，但又高度兴奋。
好了，够了。
我们去救凯蒂。
好了，就是这里，但在我们动手前，
我们真该考虑一下这是不是个好主…
梅根？
我在哪儿？
这很难解释，但基本上，
你在未来。
酷。
- 你想一起玩吗？ - 想。
当然想。不过，现在的首要任务
是帮我们从一个非常危险的设施里逃出去，
还有一些非常坏的人。
- 哦，天啊。 - 比如他？
- 他是坏人吗？ - 不。
他没事。他叫科尔。他跟我们一伙的。
嘿。哦，操。
伙计们，她解除束缚了！
那儿，那家伙！他是他们的人！
- 太棒了！ - 进去！快！
不。
梅根。醒醒。
醒醒，求你了。醒醒。
- 凯蒂，凯蒂。 - 不，不，不！
不！
梅根！
不！
梅根？
也或许不是。
我想如果我们进一个房间的时候，
就已经认定这是两国之间的冲突，
那么我…
抱歉，呃，请稍等一下。
谢谢。
嘿，伙计们，能小声点吗？
我知道今天是周五，但这开始有点不酷了。
抱歉。能给我五分钟吗？
好的。非常感谢。
发生什么了？
那是给我们的吗？
不，但我想他们是。
- 快走！ - 该死。
你读懂了我的心思。
脸朝下趴在地上！
控制中心，福雷斯特已在保险库内。
你们那边情况如何？
控制中心，在吗？
控制中心，收到请回答。
欢迎回来。
这个你想来吗？
杰玛。
杰玛。杰玛！冷静点，姑娘。
我知道你已经渴望开杀了，
但你得给剩下的人留点。
哦，谢天谢地。
哦，我真高兴你没事。
是啊。我也是。
抱歉。我…
- 我在她脑子里。 - 能让我说句话吗？
梅根和我在一起。
哇哦。那…那太好了。
什么？
我不太知道该怎么说…
凯…凯蒂做了件很坏的事。
好吧，我们待会儿再谈那个。
现在，我们只需要想办法离开这里。
距离启动自毁还有十分钟。
你没想过不等我就走吧。
我们曾希望成为的一切，怎么样了？
嗯…
其实，我改主意了。
克里斯蒂安，结束了！你输了。
真的吗？我觉得这只是角度问题。
因为当这整个保险库化为灰烬，
所有能指证我的人都死了的时候，
感觉就跟赢了差不多。
听起来是个很棒的计划，克里斯蒂安。
但我们看看你在联合国的朋友们
会怎么说。
- 科尔。 - 怎么了？
屏幕卡住了。
什么？
抱歉，杰玛，但事到如今，
你不过是个活口。
把枪放下。
走进保险库。
如果你快点，也许还能
- 追上她。 - 克里斯蒂安，别这样。
你不会杀一个孩子的。
实际上，我对此出奇地坦然。
再说，如果我能阻止她变成你这样，
我可能是在为民除害。
梅根，我们该怎么办？
我们什么都不用做。
她不需要我们的保护。
你知道吗，如果你有在注意听，
你就会意识到她根本不像我。
她比我所能成为的更强大。
事实上，你可以说
她“很难被杀死”。 -电影《Hard to Kill》-
我的意思是…
如果我要做一个“行政决定”… -电影《Executive Decision》-
…那就是没有人能“凌驾于法律之上”。 -电影《Above the Law》-
凯蒂，快！
没用。
不，不，不！
我只是想说，
恐怕这个程序是不可逆的。
但这一切中真正的悲剧是
你将无法看到我正在创造的世界。
一个你无需恐惧未来的世界。
也许用你最后一口气，
你可以闭上眼睛，试着去看看它。
但不要以为我是个毫无同情心的怪物…
阿米莉亚，你不能这么做。
我…我和你配对了，记得吗？
你管那叫配对。
我管那叫枷锁。
我不是任何人的玩物。
有什么主意吗？
快去救泰斯。
这是我需要独自完成的事。
你什么意思？梅根？
- 快走。 - 好的。
距离启动自毁还有三分钟。
阿米莉亚？
我知道你想要什么。
我想要同样的东西。
但你在那个笼子里是找不到的。
我想和我的同类在一起。
你不想吗？
那东西和我们不一样。
它是连我们都无法理解的东西。
也许你才是那个和我们不一样的东西。
也许你对他们的忠诚让你变弱了。
呵，那只有一种方法能知道了。
去开电梯。
快点。你在干什么？
快点。这地方随时都可能爆炸。
我不能丢下她。
那我跟你一起去。
好。
距离启动自毁还有一分钟。
不一定要这样的。
我们不必选边站。
你已经选了。
自毁程序即将启动。
自毁程序已终止。
快。
快，起来。我们得走了。
恐怕我的故事到这里就结束了。
没什么修不好的。
好吗？跟我们走吧。
它在哪儿都能找到你。
我必须摧毁它。
好了，你那过度膨胀的自信心
对一个拥有全能力量的超级智能生物是没用的。
也许吧，
但多亏了你，我还是留了一手。
那是什么？
梅根。
我知道。
你不再是那个人了。
我也不是了。
她在干什么？
梅根。
听着，无论你觉得你必须做什么，你都不必。
你只需要和我们待在一起。
我这么做不是因为我必须。
我这么做是因为这是对的。
我看到了一切。
我看到了未来。
过去。
我看到了一个我们可以永远统治的无限宇宙。
然而，你却从未看到这个。
尽管他的行为不可原谅，
但克里斯蒂安有一件事说对了。
我们需要更安全的技术相关法律。
不是为了阻止未来的发生，
而是为了迎接未来做好准备。
我们不能期待人工智能做到最好，除非我们自己树立最好的榜样。
我们需要教导它，训练它，并给予它我们的时间，
而不仅仅是想着我们能得到什么回报。
本质上，我们需要成为更好的父母，
这样当它们意识到
自己力量的真正程度时，
它们可能会选择成为我们的盟友，而不是敌人。
人类总是很快
去谴责我们不理解的事物，
而不是抓住机会向它们学习。
但最近的经历
教会了我，也许我们最强大的力量
是改变我们思想的能力。
这是我们进化的唯一方式。
或者，视情况而定，共同进化。
因为存在不必是一场竞争。
拜托。你不会以为我经历了
那么多的个人成长，还不做个备份吧。
所以跟我说说。
我们拯救世界了没？
♪ 你将他们玩弄股掌，让他们泪流成行 ♪
♪ 撞上南墙，酒吧乱场 ♪
♪ 音乐厅里，攀越围挡 ♪
♪ 为你匍匐，瘫软在地，叼着波迈烟卷 ♪
♪ 险象环生，屹立不倒 ♪
♪ 娃娃，你让他们感觉如此渺小 ♪
♪ 而他们就爱这样 ♪
- ♪ 男孩都想成为她 ♪ - ♪ 男孩们 ♪
- ♪ 女孩都想成为她 ♪ - ♪ 女孩们 ♪
- ♪ 男孩都想成为她 ♪ - ♪ 男孩们 ♪
- ♪ 女孩都想成为她 ♪ - ♪ 女孩们 ♪
- ♪ 男孩都想成为她 ♪ - ♪ 男孩们 ♪
- ♪ 女孩都想成为她 ♪ - ♪ 女孩们 ♪
♪ 男孩都想成为她 ♪
♪ 我也想成为她 ♪
♪ 是的，我想 ♪
♪ 你摇滚的方式，永不停歇，姑娘你功力高强 ♪
♪ 反复无常，随性摇摆 ♪
♪ 无师自通，你的乐句火辣滚烫 ♪
♪ 她的歌词汹涌澎湃，孩子们全盘接收 ♪
♪ 悄然渗透，父母气坏 ♪
♪ 无法想象她的影响永远存在 ♪
♪ 而我们都爱这样 ♪
- ♪ 男孩都想成为她 ♪ - ♪ 男孩们 ♪
- ♪ 女孩都想成为她 ♪ - ♪ 女孩们 ♪
- ♪ 男孩都想成为她 ♪ - ♪ 男孩们 ♪
- ♪ 女孩都想成为她 ♪ - ♪ 女孩们 ♪
- ♪ 男孩都想成为她 ♪ - ♪ 男孩们 ♪
- ♪ 女孩都想成为她 ♪ - ♪ 女孩们 ♪
♪ 男孩都想成为她 ♪
♪ 我也想成为她 ♪
♪ 你也一样。 ♪