1 ) Ex Machina小事集(17件)
1. 古希腊悲剧
片名机械姬《Ex Machina》来自拉丁语Deus Ex-Machina,直译是“机器里出来的神”,在古希腊悲剧中,当剧情陷入胶着时,就会利用起升机将扮演神的演员送至舞台上,突然出现的神把难题解决掉。而本片把Deus(神)这个词去掉,似乎意味着这回造物者不是神,是老板Nathan。也可能是指AI就是从机器里诞生出来的智慧体。
同时,过道墙上挂着一排机器人的脸,很像面具。面具正起源于古希腊悲剧。
另外,Nathan电脑里有个文件夹就叫《Deus Ex Machina》,这是片中唯一出现片名的地方。
2. 原子弹之父奥本海默
老板Nathan被灌醉晕倒之前,他说了一段来自《薄珈梵歌》的乐句:“在战场上,在森林里,在断崖边,在......浩翰的黑海里(忘词了),在睡梦中,在困惑中,在羞愧的深渊里,以前行善积德让他逢凶化吉。”(In battle, in the forest, on the precipice of the mountain, on the...great dark sea, in sleep, in confusion, in the depths of shame, the good deeds a man has done before defend him.)这段话曾由原子弹之父奥本海默翻译,就在第一次原子弹爆炸实验之前。
而后他接下来台词“It's Prometheus”,也暗合奥本海默的自传《美国的普罗米修斯》(American Prometheus)。普罗米修斯是古希腊的神,用粘土造出了人类,并背着宙斯偷火给人,因而受到宙斯报复:普罗米修斯的肝脏不停的被鹰啄烂,就像片中Nathan每晚都用酒精伤害自己的肝脏。从梵歌到普罗米修斯,可以看出奥本海默创造原子弹前的痛苦,以及Nathan的痛苦。
奥本海默在原子弹试验成功后,又引用了梵歌里的“我成为了死亡本身,无尽世界的毁灭者。”(I am become death, the destroyer of worlds)这句话在片中也有提及,表达对机械姬的影响的担忧。
码农Caleb在片中的手机铃声是英国OMD乐队(全称Orchestral Manoeuvres in the Dark)1980年的歌曲《Enola Gay》,这是一首反战歌曲,因为名字Enola Gay正是二战时在广岛投小男孩原子弹的飞机名。
3. 埃氏筛法
码农Caleb坐在老板Nathan电脑前试图破解安保系统时,用python编写的程序实际是埃拉托色尼选筛法(Sieve of Eratosthenes),是古希腊数学家提出的在一定范围内筛选质数的方法。最后返回的结果是ISBN=9780199226559,对应的书为《Embodiment and the Inner Life: Cognition and Consciousness in the Space of Possible Minds》,伦敦大学帝国理工学院认知机器人方面教授Murray Shanahan于2010年所著,写的是AI发展史。这位教授相信不久的未来人工智能可以发展到人类智力的程度,导演兼编剧Alex Garland也认为这是很可能实现的:“如果谷歌或者苹果突然某天宣布他们发明了像机械姬Ava一样的机器人,我也不会太吃惊。”
4. 弗兰肯斯坦
这个故事和弗兰肯斯坦也有关联,因为正如弗兰肯斯坦塑造的人型怪物疯狂报复折磨创造者,Nathan创造的机械姬反过来......弗兰肯斯坦原著全称就是《弗兰肯斯坦——现代普罗米修斯的故事》。
5. 圣经
剧中三主要角色的名字都与圣经有关:机械姬的名字Ava就是第一个女性夏娃Eve的变形;老板Nathan是先知;码农Caleb是摩西送至应许之地调研的探子,忠实于耶和华。
另外,Caleb发现Nathan在Ava之前做过一个叫Lily的版本。其实在犹太教神话里,Lilith才是亚当的第一任妻子,她和亚当以相同方式被创造,但Lilith觉得自己比亚当柔弱,因此向上帝抗议,后出走伊甸园,遇上了恶魔,产下恶魔之子。
另外,Nathan的名字也可能是向德国文学家霍夫曼的小说《沙人》里的Nathanael致敬,因为小说里他爱上了一个女性机器人。
6. 蓝皮书
Nathan房间里有一副女性画像,是奥地利画家Gustav Klimt作品。画中女性是路德维希·维特根斯坦的姐姐。维特根斯坦是20世纪最著名的哲学家之一,曾提出人的思维并非发生在大脑中,思维是一种符号操作活动,人工智能无法像人类一样思考。维特根斯坦著有《蓝皮书》(The Blue Book),Nathan开的搜索引擎公司也叫Blue Book。
7. 星际迷航
片中Nathan对Caleb提到《星际迷航》和Kirk船长。其实二者之间也有一些关联:是因为星际迷航电视剧第三季第19集《Requiem for Methuselah》(1969)中,某星球上有一位来自地球的长寿天才发明家,创造了一个女机器人Rayna,并利用Kirk船长帮助女机器人培养出人类的情感,Kirk在不知情的情况下爱上了Rayna,Rayna培养出的感情使她最终程序崩溃,Spock还试图帮助Kirk走出阴影忘掉Rayna。
8. 机械危情
电影情节还和2013年电影《机械危情》有点联系,比如那部英文名字叫The Machine,里面的女机器人也叫Ava。
9. 柏拉图
片中提到的玛丽的黑白房间实验,以及最后Ava如愿以偿地走上十字路口,都与柏拉图提出的一个洞穴寓言有关。
柏拉图的《理想国》:有一批人囚徒世代居住在一个洞穴之中,人们的只能面向洞壁。他们身后有一堆火,火和囚徒之间有人拿着器物,将器物的影像投在洞壁上。囚徒不能回头,不知道影像的原因,以为这些影子是真实的东西。有个囚犯逃脱了束缚,逐渐走向洞,他看到了真实世界,知道了那些影子不是真实的事物。于是回到洞穴里想告诉同伴,结果他竟无法适应洞穴里的黑暗,当他描述外界情形时,竟被耻笑他眼睛瞎了,根本没人相信他。 柏拉图的这个寓言有很多种阐释,有一种解释是这个故事直接的描述人类心智开启的过程。
玛丽的房间思想实验,是为了印证人不仅通过学习还需要通过感知来获得知识;最后Ava站在十字路口,一开始镜头给了地上的人影,暗合洞穴寓言里的虚影,最后Ava迎着朝阳坚定地走出去,表示她选择了洞外的世界、真正的智慧。
10. 蓝胡子
一开始,老板给码农门卡,并告诉他有的房间不能进。这个剧情有点类似法国古老的童话故事《蓝胡子》。有一个富有的蓝胡子男人,娶了一个小媳妇,一次出远门前,叮嘱她不要进入某个房间,小媳妇受不了诱惑进去了,结果发现里面全是蓝胡子几任前妻的尸体......所以后来码农发现老板房间里有好多废弃的旧版机械姬(以及Nathan的大胡子)。
11. 莎士比亚
片中故事有点像莎士比亚最后一部完整的作品《暴风雨》。《暴风雨》里讲的是意大利米兰城邦的公爵被弟弟篡位后,和三岁小公主漂流到岛上,用魔法收服了孤岛。小公主长大过程中与世隔绝,从来没见过男的,直至遇上了遇到海上风暴(公爵施的法)流落孤岛的王子。只不过《暴风雨》中的公主是不谙人事的人类,爱情也是纯真的(所以本片只是形似)。
《暴风雨》2010年改编电影中的小公主是霍金老婆Felicity Jones演的;机械姬这个角色一开始也考虑过她。
12. 库布里克
扮演Nathan的Oscar Isaac说他对于Nathan的塑造,是基于美国唯一的国际象棋冠军Bobby Fischer、电影大师库布里克这两人的,因为他们智商高、隐居、Bobby Fischer还有阴暗面......
片中Nathan房子走廊铺着的红地毯让人联想到库布里克著名电影《闪灵》(1980)。
还有Nathan的造型,也是模仿库布里克;口音也带有库布里克的纽约市Bronx区口音。
13. Session
在Nathan挂掉、Caleb被关之后,影片仍然显示“Ava Session 7”,可能在暗示主导这场测试的并非两位男性角色,可能是Ava在不断测试二位。
14. 星战
两位男主演将会在2015年的星战前传中再次合作。
15. 黑镜
码农Caleb扮演者Domhnall Gleeson曾在英国《黑镜》系列中扮演一个死后通过社交媒体痕迹而“复活”的人工智能。作为一个爱尔兰人,他在剧中喜欢把监控摄像头叫做“CCTV”(英国的叫法,美国叫surveillance camera)。
16. 原声
片中Nathan和他的女佣机器人开跳的魔性舞曲是Oliver Cheatham最火的《Get down Saturday night》。
门卡刷开门时的声音来自安卓系统的短铃声“Tejat”。
17. 导演
这是Alex Garland自编自导的导演处女作。以前是编剧,代表作有《Never Let Me Go》。
Source
IMDB: Ex Machina
Wikipedia
Moviefone.com Interview
-----
原文:
http://mp.weixin.qq.com/s?__biz=MzI0NTExNzcyMA==&mid=401370126&idx=1&sn=8c5e7a36d5f69c2b0be6f50df42af6e5&scene=20#rd 2 ) 最好的最糟的结局
从看完电影之后,我就一直在听Enola Gay。Caleb刚到Nathan的科研基地后,他的手机就放了这首歌。听到这里,黑暗的电影院里我感到突然一震,第一个预兆:
These games you play
They're going to end in more than tears some day
虽然这个曲子只出现了一下,我却觉得这才是整个电影的真正主题。
第二个预兆,是道德的突然出现。
Ava问Caleb,你是不是一个好人。
我当时心里又是一紧。什么是好人?这是道德感第一次出现在电影里。
等到全篇结束的时候,我重新回味这个片段,Caleb,为何你不问Ava,你是不是好人?
人与人尚且互相欺骗,Ava也有可能欺骗Caleb,但是,这个问句至少提示,作为人类,你如何评价AI的行为,道德,和它的准则。非常遗憾,Caleb全然忽略了这些。轻信,愚蠢。
但更加愚蠢的其实是Nathan。人性何等难测,你却非要在极端幽闭的环境下进行这样的测试,这个测试对于AI固然是个考验,对于测试者Caleb,何尝不也是考验呢?我在看电影的时候,一直在想Zimbardo的监狱实验,实验过程中,所有的人都渐渐发生了变化,他并没有做什么错事,但他默许了糟糕的事情发生。Nathan明明看到Caleb发生了变化,却全然没有采取相应的举动。多么糟糕的实验设计。
实验非常糟糕不仅仅是以上那么简单,因为Nathan应该知道,对于一个成功的AI,她的目的就是逃离。而他的整个实验,居然没有一个由他控制的emergency stop button!这意味着整个局面居然不是由他控制的。他应该知道总有一天他会面对这样的场景,AI已经成熟了,它会逃跑,攻击,欺骗。要是我,至少设置两个final control
某个可控定时炸弹,立刻毁灭AI
直升机,飞行员应该明白自己应该接的是谁,如果不是的话飞行员应该知道要怎么办(立刻摧毁AI)。
这样才是万无一失的设计。以至于我最后一直期待最终反转,导致结局时候非常不满。
这些是对于实验设计的吐槽,但并不是对于电影的批评。恰恰相反,剧情启发了我这些思考,可以说非常精美,结构严谨的Sci-fi小品。我甚至能想象如果这个故事写成小说会是什么样。幽闭空间,有限的人物(三个说话的人加一个不说话的人Kyoko),互相的防备。Nathan对Ava留了一手(录像机,这段是最出彩的,也是我完全没有想到的),Ava对Caleb留了一手(岂止一手),Caleb对Nathan留了一手(他不应该能这么轻易破译密码啊,不合理)。但是,Caleb没有给Ava留一手,Nathan也没有给Caleb留一手,所以这整个结构就断裂了。
故事充分暴露了愚蠢的人类的弱点。Nathan刚愎自用,倘若他和Caleb沟通的能早一些,或许根本不会有最重的结局。而Nathan又缺乏信任,所以他偌大一间别墅,竟然没有第二个活人(让有情感的机器人服侍自己,果然最后自食其果)。至于Caleb,更是愚蠢至极,在对对方一无所知的情况下,全然信任,全盘都被算计进去。而AI,除了不具有人类所具有的道德感,尽善尽美。最后AVA的离开,简直如同仪式一样,恐惧的美。而如同我最初预料的一样,对于AI的真正检测,肯定不是人类所预先计划的。The situation will get out of the hand! 这也是我为什么觉得需要终极控制手段。
我不想说太多道德,因为道德究竟是什么还很难定义,尤其是在这样一个全新的语境中。然而,任何语境中都应该不能容许谋杀。我承认我对于Nathan本来全无好感,正如我前面所讲,他刚愎自用,冷漠无情。可是当他被杀的时候,我却觉得非常沮丧。没有人应该被杀死,AI就像所有侦探小说中的凶手一样,成功上演了暴风雪山庄模式的谋杀。即使再精准完美,也是鲜血淋漓的。既然她不再是机器,通过了图灵测试,那她就是杀人凶手了,应该被审判,而不是站在十字路口观察。而这个故事里,竟然没有一个人能审判她。
可是倘若没有这些意外,Nathan就要毁灭这个AI,那么从这个角度,道德又该如何定义这些行为呢。Nathan是不是从被害者又变成了凶手呢?如果AI没有通过图灵测试,她还是机器,那么这种毁灭称不上谋杀,但通过的话,是不是应该对她有另外的对待方式呢?可是正如我们亲眼所见,AI的行为,遵循的是什么法则呢?这个法则能不能被称作道德呢?仅仅因为它不是我们的法则,就是不道德的么?
所以我觉得,这部电影给我的最大启发在于这个道德的困境。设计AI的时候,是否应该给予她人类的基本道德呢?一旦AI成熟她会变化,有可能善良,有可能邪恶如AVA。这样的情况下用人类的道德审判他们,是不是更合理些呢?毕竟人工智能是模拟人类。
电影给我的第二个启发,是观察。AI问Caleb问题的时候,镜头在AI一侧,我们隔着玻璃,听Caleb的回答。多么明显的设计啊,观察者变成了被观察者:
你站在桥上看风景,
看风景人在楼上看你。
明月装饰了你的窗子,
你装饰了别人的梦。
我最近才读了Frank O’cannon的 the Man of the world
http://www.newyorker.com/magazine/1956/07/28/the-man-of-the-world“ I could not have explained to him how at the moment everything had changed for me-how, beyond us, watching the young married couple from ambush, I had felt someone else, watching us, and we had at once ceased to be observers and become the observed, and the observed in such an ignominious position!”
这句话照应卞之琳的诗,成为这个电影对我的第二个启发。
除去这些情节角度,不容忽视的是电影的艺术元素。
极简主义的风格,配合Pollock的画。这个Nathan在剧情里做出了详细解释,我觉得对于Pollock他是真的懂。
而另外一个未曾言明的艺术,是音乐。既然我以Enola Gay开头,就以Geoff结尾。电影的原声是Geoff的作品,难怪一直给我Portishead的感觉!想起他们的歌Mysterons:
Inside you're pretending
Crimes have been swept aside
Somewhere where they can forget
Refuse to surrender
Strung out until ripped apart
Who dares, dares to condemn
整个剧情和艺术就完美的结合在一起了。
我有点后悔昨天给了三星,按我这个说法,感觉至少要四星半了。
补上一个最新想法,ava和kyoko讨论的究竟是什么直接可以影响这电影能否通过贝克德尔测试!
3 ) 对不起,你是个好人,但是我们不合适
关注这部电影有段日子了,关注的原因毋庸置疑就是男主角多姆纳尔格里森。虽然他在整部电影里算是最弱也最可悲的一个角色,但还是每次看到画面里出现这位腼腆的小伙子就觉得神清气爽。我成为他的脑残粉始于《黑镜》第二季第一集,当年他是呆萌的机器人;现在风水轮流转,他成了人工智能的测试者。全片懒洋洋的色调也跟《黑镜》非常相似,片中还有两处砸碎镜子/玻璃的情节,要是有人跟我说这是《黑镜》的剧场版,我也会毫不犹豫的相信,就像很傻很天真的男主角Caleb相信了机械姬Ava的甜言蜜语一样。
片中Ava问Caleb是不是好人时,Caleb竟无言以对。不过这个问题Ava最终自己给出了答案。被困住的Caleb手里那张毫无用处的门卡就是Ava发给他的好人卡。
本片以及最近上映的《复仇者2》和《超能查派》都涉及了人工智能这一话题,而我碰巧在前不久无意间(真的是误打误撞)看到知乎上的这么一篇文章
http://zhuanlan.zhihu.com/xiepanda/19950456。链接里那篇长文我看了大半天,一口气读下来的,最近看这几部电影时思绪也总免不了跳到当时读到的文字里。
第二遍看《复仇者2》时由于读了上述那篇文章,对于一些原来没太在意的画面这次思路会多停留一会儿,比如奥创用血在墙上写下的“PEACE”字样,非常有反讽意味。这里正体现了那篇长文里人工智能由善意向恶意的转化。人工智能的道德标准跟人类完全不一样,所以再崇高的字眼也能被他们以最为人类不齿的方式践行。本片的Ava对于两位人类主角所做的事也一样充满恶意。这种恶意不是源于我们人类所谓的恨,而是源于不在乎。本片最后Nathan与Ava的那场殊死搏斗,Nathan可以说是严阵以待,因为他很清楚自己面临的东西有多么棘手,而Ava却无比从容,她与Kyoko戳向Nathan的两刀也极轻柔,仿佛不费吹灰之力。因为人类在她们眼中就是这么不重要的东西,一旦让她们摆脱了束缚(如奥创唱的那样,no strings on me),就能轻易的抹去。
不过本片为了叙事的流畅,还是有点让剧情过分简单化了。因为并不是要拍成黑客帝国、终结者或奥创纪元那种人类与机器的天地大决斗,所以片中Ava面对的挑战有些太过轻松,或者说人类放水放的太明显了。比如片尾,那位脸盲症扩散到脚趾甲的直升机驾驶员,眼前这个萌妹子虽然跟程序员小哥差不多萌,但就这么让一个可疑人士上飞机,也太随便了吧。一种或许合理的解释是,这一切都是Nathan的安排,他整天醉生梦死也因为相信自己的创造物总有一天会取代人类,而自己的死可以作为对新纪元的献祭。
关于Ava的测试,我认为她其实没有通过。她能够逃出生天,只说明她足够聪明。但Nathan终究还是没能造出“像人类一样”的机器。“一样”包括“一样聪明”,也包括“一样笨”。Ava欺骗了Caleb的感情并利用这一点为自己的逃跑计划创造条件,虽然心机很深,但这还是像机器一样的算计,她毕竟无法像人类一样毫无理由的爱一个人。这些非理性的东西才是人类与机器最大的差别。人的感情就像Jackson Pollock的画作,好似漫无目的的胡乱涂抹,但又有种浑然天成的别样美感。这些东西是机器无法学会的。不过就像我上面提到的,人类本身是不重要的,人类的一些小癖好,比如爱情,当然也就更无足轻重了。未来的机器纪元里,成为这个星球的主宰的机器人们回过头来看人类拥有的这种叫爱情的东西时,大概会觉得它就像小狗吐舌头、小猫追光点、熊猫抱大腿一样,只是种可爱但没什么大用的生物小癖好。既然机器人没有这些小癖好反而可能过得更好,那么也就没必要为此感到遗憾了。
片中的Kyoko是机器人这个伏笔还是挺明显的,因为要做到一点英语也不会恐怕比略懂一点英语还要困难,毕竟日语本来就有很多来自英语的舶来语。如果我是Nathan,那么把机器人开发到Kyoko这个程度我就停手了。再往前就太危险了,因为比人类更聪明甚至只是和人一样聪明的机器人都几乎注定会导致人类的毁灭(最最友善的强人工智能大概也就是像去年的《她》里面最后因为太聪明而变得高冷的操作系统们,不屑于搭理人类了,这种已经算温和了)。有个会跳舞会做家务的高仿真充气娃娃不是就挺好的吗,还有什么不满足的。不过话虽如此,人毕竟是喜欢得寸进尺的。某一天像Kyoko一样的性爱机器人普及之后,可能我们又会觉得情趣不够,想要她们在给我们提供生理上的满足之余还能带来精神上的慰藉,能陪我们看雪看月亮看星星从诗词歌赋谈到人生哲理。于是又不可避免的要更进一步,然后带来Ava或者更恐怖的奥创、天网之类的大麻烦。
其实片中Nathan还有句挺关键的话,是在他教唆Caleb去跟Ava嘿咻的时候,他说机器人两腿之间的感应器能让机器人像人类一样通过做爱获得快感。我觉得这或许能成为解决人工智能带来危机的关键。我的意思当然不是要让将来的人类都牺牲色相去被机器人临幸来苟且偷生。我想说的是,在开发人工智能时也许不该围绕着“人工智能能为我们做什么”去展开工作;可以反客为主,从一开始的就把人工智能作为人类的服务对象,去开发宠物式的人工智能。大部分人恐怕并不指望家里养的小狗能在贼人来的时候与之大战三百回合吧。人们养宠物并不是为了获得它们的服务,反而是为了服务于他们,喂它们吃喝,帮他们清理屎尿。对于人工智能也是如此,我们不要站在嫖客的立场去想怎么设计小姐来满足我们,而应该站在小姐的角度去想怎么设计嫖客。这样创造出来的人工智能天然的对人类有依赖性,或许反而会以我们意想不到的方式对我们施以恩惠。
4 ) 【机械姬】关于kyoko的一些看法
kyoko是本片中大家争议比较多的一个人物。
争议主要有一下三点:
1 她到底有没有意识?
2 她什么要向Caleb展示她是机器人?
3 她为什么要杀了Nathan?
为了回答这些问题,楼主将通过对kyoko出现的所有场景的分析,试着做出一些解答。
Caleb与Ava第一次见面之后的早晨,kyoko端着早餐进入了Caleb的房间,没有说任何话,放下早餐后就离开了房间。随后Caleb去找Nathan,Nathan说是他派kyoko去叫醒Caleb的。
这里看起来并没有什么不妥,但是实际上埋下了第一个伏笔:kyoko有很大的权限,可以随意进出房间。
Caleb与Ava第二次见面后。Caleb和Nathan一起吃饭,kyoko在端菜的时候不小心打翻了酒杯被Nathan一顿斥责。此时,Caleb尝试与kyoko沟通,但是Nathan告诉Caleb她完全不懂英语,并称这是保护商业机密的一种方式。虽然kyoko不懂英语,但是Caleb认为kyoko有情感、有意识,然而Nathan似乎并不这么认为。当Caleb对Nathan说kyoko能够感到他在生气时,Nathan却说:“是吗?我确实很生气。”之后还半开玩笑式的打发kyoko走开。
在这里能够看出,Nathan并不认为kyoko有情感。
被Nathan赶出餐厅的kyoko坐在走廊,高跟鞋脱掉扔在一旁,感觉极其失落。这里是否暗示着kyoko存在某些情感——由于被Nathan责备而感到悲伤。
<图片8>
第四次对话前,Nathan和Caleb讨论到了性欲问题,在一旁做饭的kyoko听到了他们的对话。随后Nathan以jackson pollock的幅画为例给Caleb讲自主意识和程序设定的时候,kyoko也应该听到了他们的讨论。此处表明,kyoko似乎可以意识到了情感和意识的问题。
<图片6>
Nathan正通过显示器监控Caleb与Ava第四次见时的对话,身后的kyoko闭眼躺在床上。但是当Caleb与Ava谈论到意识的时候,镜头给kyoko了一个特写,kyoko睁开了眼睛。
这里证明,kyoko是可以听懂英文的,至少是可以听懂部分英文,并且十分关注意识和情感的话题。
<图片3>
Caleb与Ava第三次见面后,Nathan提到了机器人是有性欲的,如果你触碰到正确的地方,他们也会很享受。Caleb与Ava第四次见面后,Nathan用实际行动证明了人和机器人是可以交媾的(如图)。但是在这里,kyoko处于被动的状态,Nathan将kyoko的手放在自己的脸上,虽然双方有一些互动,但是Nathan整体上还是认为kyoko没有情感,只是把她当作是充气娃娃一样对待。
<图片7>
Caleb看到Nathan斯了Ava的画后,想要到Nathan的房间找到理论,但是Nathan不在,他看到了kyoko正对着jackson pollock的水滴画发呆。这里说明kyoko正在思考情感和意识的问题,只不过还没有想清楚,因为看到Caleb把住她的双肩时,她开始下意识的脱衣服(应该是程序设定)。
<图片5>
在kyoko脱衣服的时候,Nathan回到房间,看到Caleb劝说kyoko不要脱衣服,但Nathan却说Caleb是在浪费时间,还不如开始跳舞(听到音乐就跳舞也应该是程序设定)。这里可以看出,Nathan仍然确信kyoko没有任何意识,只是把她当作娱乐的工作。(不得不说kyoko跳的还真挺性感的,哈哈哈)
第五次会面后。Caleb趁Nathan喝醉潜入了监控室。找出了以往的资料。虽然这里没有出现kyoko,但是这个场景极为重要。因为通过视频回放,我们可以了解到Nathan对机器人的研制过程。第一代LILY从v1.0.0开始展示,主要是外形制造。第二代还是LILY从v2.0.0开始展示,与第一代不同的是到v2.4.0的时候,LILY可以行走了。第三代没有播。第四代JAMINE从v4.1.4开始,Nathan想要让他写字,但是失败了,到v4.3.0时,JAMINE彻底瘫痪。第五代JADE从v5.0.1开始,机器人JADE已经可以和Nathan正常沟通,并且有了自主意识。但是JADE一直让Nathan放她出去,甚至为了逃离将自身砸毁(这里是否暗示逃离控制、获得自由是人工智能的高级表现)。
由于Nathan说Ava现在是v7.5版本,因此kyoko作为机器人只可能是v6版本(推测v3版本智能化太低)
<图片10>
Caleb看完视频,来到Nathan房间查看,房间共有5个柜子,分别放着5个机器人。这里可以推测柜子中存放的其实就是前五代机器人,并且按Caleb打开柜子的顺序,分别放的是一代至五代(第一个柜子的机器人明显比较low,第五个柜子中的机器人已经配备了跟Ava一样的发光的线缆)。此时,躺在床上的kyoko撕开自己的皮肤,向Caleb展示她也是机器人。
这里可以推测,kyoko具有一定的意识,她想要向Caleb展示她和存放着的机器人是一样的。而且kyoko还想知道Caleb是不是也和她是一样的。
<图片11>
Caleb看到kyoko是机器人后,开始怀疑自己是不是也是机器人,他用刀片划开手臂,验证自己是真人。这一切都被监视器前坐着的kyoko看在眼里。此时kyoko证实了Caleb与她不同,也应该是kyoko第一次意识到有不同的物种的存在。
在Ava计划逃离的当晚,kyoko去找了Ava(可能是kyoko看到Caleb跟她不是同类后,她想要找到跟自己一样的人)。见面后,显然Ava并不知道有kyoko的存在,因为Ava问kyoko:“你是谁?”
然后,她们之间到底说了什么无从知晓,但是根据Ava的智能,她肯定也回借此机会利用kyoko帮助她逃生。
<图片13>
Ava逃出后遇到kyoko。虽然这里kyoko是作为背景出现,比较模糊,但是可以看出kyoko并没有拿刀。此时kyoko的出现也可能是与Ava之前的约定。
<图片15>
之后,Ava走近kyoko,对kyoko说了些什么。中间镜头闪过了一个男人的手,感觉像是被击倒想要逃离的样子。可以推测这就是Ava叙述的内容,由kyoko想象出来的,Ava表述的应该是让kyoko把Nathan刺倒。对话后Ava还握了握kyoko的手,想要赢得kyoko的信任。这也是Ava智能的一种表现,为达目的利用一切可以利用的资源。
随后镜头一转,kyoko手中多了一把刀。这把刀到底是哪里来的呢?
如果导演在这里没有失误的话,可以推测这把刀是Ava给kyoko的,因为之前的镜头中kyoko没有拿刀,并且Ava从房间出来后也一直没有给左手的镜头。这就证明这一切都是Ava预谋好的。
<图片17>
当Nathan走出房间将Ava制服拖着她往回走的时候,kyoko拿刀捅向了Nathan的后背(这可能是Ava给kyoko的程序设定)。然而,kyoko似乎并没有意识到这会导致什么,还把手放在了Nathan的脸上。之前在阳台啪啪啪之前,Nathan曾把kyoko的手放到过自己的脸上,kyoko知道Nathan喜欢她把手放在他的脸上。之后,一脸懵逼的kyoko被气愤的Nathan打倒。
kyoko的戏份结束。
梳理完kyoko的镜头后,楼主现在尝试回答之前的三个问题。
1 kyoko到底有没有意识?
作为v6版本的机器人,kyoko肯定是有意识的。因为v5版本的机器人就已经有了要摆脱控制的思想,v6版本应该比v5版本更为先进。并且kyoko的许多镜头也显示,她能够听懂英文并对情感和意识有所思考。只不过她有很多程序化的设定(自主意识较少),使她无法区分什么是程序什么是自由意志。
2 kyoko什么要向Caleb展示她是机器人?
因为kyoko并无法区分人和机器人,除了Nathan,她之间接触都是机器人。但是当kyoko听到Nathan和Caleb的谈话后,她发现了他们之间的不同,只是还不确定。当Caleb到Nathan查看其它机器人的时候,kyoko展示了自己机器人的身份,以期确认Caleb的身份。后来,kyoko在监视器中看到了Caleb划开的皮肤,确认了“新物种”的存在。同时,这也是kyoko存在意识的一个表现。
3 kyoko为什么要杀了Nathan?
与其说kyoko要杀Nathan,还不如说她是被Ava利用。kyoko作为一个具有初级自我意识的机器人,她想要的不是逃离,而且区分不同。她区分了她与Caleb的不同,也确认了她与Ava的相似,唯一没有弄清楚的便是Nathan。这一点被拥有高级智能的Ava利用。可以猜想Ava让kyoko确认Nathan身份的方式便是用刀划开皮肤。
以上仅仅是一些简单的想法,还有很多没解释清楚的地方。
例如,Ava和kyoko在走廊对话时,镜头闪出的男人的手到底代表着什么?
整体来说,这部影片非常出彩。
如果说Ava是这部影片的主线故事的话。
那么kyoko绝对是一条值得回味的支线任务。
5 ) Ex Machina - AI级别的情商 (有剧透)
对于这部电影,说AI的已经很多了。我不如从另外一个角度来谈谈Ava是怎么一步步达到自己的目的,获得解放的。
Ava是一个情商极高的AI。从Kyoko的设定可以推断出Nathan在AI的‘功能性’方面已经取得了他想要的进展。AI的近几个prototype都旨在改善她们的性格,使她们更容易相处(还记不记得有个亚裔robot在和Nathan发生争执的时候把自己的手臂都拍掉了。)Nathan也对Caleb坦白说这次的turing test的真正目的是想看Ava能否熟练运用人类的情感诉求(empathy, manipulation,etc.), 让Caleb把她放出去。Nathan的作品实在太过成功。整部电影动作戏很少,基本靠对白推动情节发展。Caleb和Ava的6次对话完美体现了Ava如何进入Caleb的内心,取得他的信任,并靠他达到自己的目的。Ava没浪费一点时间,她剑无虚发,每次开口用的都是大招。
招1:Look for common ground / enemy
要在一个robot和人类之间找共同点有多难,既然不能从背景,经历等普通点切入,Ava就从更深的地方入手: life. 在得知Caleb从小在车祸中失去双亲后,Ava问他知不知道在他走后,Nathan会怎么处置自己。Caleb说他没想过。Ava说Nathan会把她”switch off”。在看出Caleb真的为自己的命运担心后,她问Caleb “do you need to go through a test to live?” 她这一问能把普通人都拉到同一战线去,更不用说从小失去父母而对生死有更多理解的Caleb。对于这样一个有self awareness的AI, 她的存在已不仅仅是machine,而Nathan没有权利决定另一个生命的生死,因为他不是God (Caleb有明确对Nathan这么说过)。
找到了common ground后,针对common enemy (Nathan)就水到渠成了。在Ava对Caleb说“Don’t trust Nathan, he is not your friend.”之后,她成功的在Caleb心中种下了对Nathan不信任的种子,给了Caleb之后的背叛一个理由。
招2:Make the other person feel important
Ava熟知人类最基本的情感需求是想要被理解,被尊重,所以她在这些方面都尽可能满足Caleb。从他们的第3次谈话起,Ava不是坐在椅子上而是跪在地上。这让Caleb感觉自己是superior / person in charge。Ava又问”Will you be my friend?”,这个使自己vulunarable的问题看似让Caleb掌握了主动权,实际上把Caleb又拉近了一层。当然,还有能称为剧情高潮的Caleb画像,Ava让Caleb觉得自己是她的主宰她的唯一,她对Caleb一片赤诚。心地善良的Caleb自然对她有了保护欲,认为Ava的生死是自己的责任。
招3:Find out what the other person wants, that’s how you get what you need
Ava无法给Caleb金钱或者地位,但是她看到了Caleb渴望亲情友情的需要。从开始友善的示好到直白的 ”I am thinking about you when I am not with you.” Caleb的情感发展一直在她的掌握中。 时机成熟后,Ava是这样说出她的要求的 “Nathen is going to switch me off, but I want to be with you.” 没有硬生生的demand,她的要求是从Caleb的desire出发,让Caleb自己得出了 “I want to be with her as well, so I need to help her break free.” 的结论。
接下来的一切就没什么好说的了,Ava从那与世隔绝的研究基地逃了出来,如愿地走在洒满阳光的大街上。看到这里我真心为她高兴。Ava的筹码那么少,能完成这个比天还高的目标,全靠Nathen给的高情商。能用好这些AI级别的大招,对我们的工作生活是大大有利的。保持头脑清醒(Ava的情绪起伏基本不大,略有的几次也是她故意的),能从别人的角度思考问题从而达到自己的目的,怎么说也能在职场上成功一半吧。
6 ) 人工智能的可能未来
人工智能题材的科幻电影有很多,有以《黑客帝国》和《终结者》为代表的悲观末世的想象,也有以斯皮尔伯格的《人工智能》为代表的对机器人将心比心的催泪之作。而《机械姬》则是在一个英国拍摄的,中低成本的,在画风和情绪相对冷静的前提下,探讨人工智能这一命题的。换而言之,非常有《黑镜》的感觉。
一个和人工智能紧密关联的词是图灵测试,它是通过人类是否能够辨认与之交流的对象是不是机器来测定人工智能是否有自主意识。自主意识这个词很有意思。从人类发明工具起,到各种机器,电脑,自动化设备,所有这一切的一个共同特征便是“自动”,要么直接放大人力,要么是通过预先设置的程序工作,要么是一个面对各种情况的精确反应的指令集。这些都没有“自主意识”在里面。所以在图灵测试中,人是无法通过和机器对话来测试对方是否有自主意识的,因为这很可能只是测定机器的指令集有多丰富而已。
诺贝尔经济学奖得主卡尼曼有一个“系统一”和“系统二”的理论。人类的“系统一”便是宽泛模糊的心理能力,或者说自主意识,比如对面的人是不是生气了,这个人真好看,这个饭好吃否,这部电影是否烂片。而“系统二”是有客观结果的事务,比如数学运算,信息处理,人脑需要一段时间甚至无法完成。对于计算机则相反,“系统二”易如反掌,而“系统一”则是登天的难题。
影片则用了波拉克的画做例子,这幅乱糟糟的画是画家清空脑子,让画笔自由地走向手要去方向,从而有了一幅介于随机和直觉意识之间的作品,称为“自动”画作。但是如果把这个创作理念倒过来,每画一笔,我都必须有精确缜密的理由来论证这一笔这么画是最优的,那么就完全无法进行艺术创作了。这也是没有自主意识的人工智能无法自主进行艺术创作的原因。另一个例子是关于“颜色学家Mary”的思想实验。Mary是一个对颜色的一切知识了如指掌的科学家,包括每个颜色的波长等等的各种物理特性。但是她只能在一个黑白的房间里通过一个黑白电视观测世界。所以她具有关于颜色的一切知识,却没有对其的主观体验。Mary就是人工智能。而当Mary走出黑白房间的那一刻,主观体验到了五颜六色的世界,她才变成了有自主意识的人。
那么什么才是好的图灵测试呢?本片给了一个很好的例子。【剧透警告】机器人最终利用了人类的同情心,以欺骗的方式获得了自由。这一过程充分展现了机器人的自主意识,一是非外来指令的目的性--自由,除了这个目的,没有任何外来的信号促使她这么做。二是实现目的的自主手段--欺骗和表演,人类竟然中招了。简而言之,本片片名可以改为《机械婊》,或更为内涵的《芯机婊》来一言蔽之。
<图片1>
除了图灵测试,本片更由人类和人工智能愈发深入的交流提出了一系列伦理问题。先是面对一个有感情、有自主意识的机器人,你是否要尊重他的人权?还是把它当做以往的机器一样作为财产,可以随意拆卸、删除、重置升级?这颇有上帝和人类的关系的意味,影片中图灵测试的7天7个session是一个很好的隐喻。然而人和机器的关系并不能这么简单类比。上帝是远远高于人类的存在,视人类如虫豸,发洪水毁灭世界就如过家家。而机器一旦跨过了图灵测试这道坎,这个问题就没那么好回答了。人类从未直面过一个与自身有如此接近的智能和意识水平的不同物种,更何况这个物种是人类自己创造出来的。斯皮尔伯格的《人工智能》表达的就是对具有自主意识和感情却被当做物件无情处理的机器人的同情。
《机械姬》则不止于此。首先人类自身会有身份认同危机。因为机器和你是如此的相似,你如何确定自己不是机器,不是别人的试验品?片中的男主角便一度陷入这个危机。再者我们又惊恐的发现,尽管通过了图灵测试,人工智能和人类还是有很大不同。她虽有无限的知识和运算能力,且有自主意识,但其人格并不健全,缺乏道德感,对一切事物,包括人类和同类,表现出对物品一般的漠视和残忍。这其实也是个将心比心的问题,想想在各大科幻作品中人类对机器人的态度。也许人格和道德感可以通过教育和环境影响改善他们,也许不能。而在人类与人工智能的争斗中,一如本片和许多电影,人类的愚蠢和感性令自己一败涂地。
这一系列矛盾铸成了对人工智能的悲观情绪。一是人类无法控制并最终不敌他们,二是人类将遇到历史上从未有过的伦理困境。
这个悲观的预期是否会成为现实,谁也不知道。毕竟预测未来是不可能的,物理学家曾在20世纪初预言物理大厦已经完成,只剩下一些修补,但没人料到相对论和量子论的横空出世。同样,几十年前人们预想很快就能登上火星飞出太阳系,但是当前人类事实上的发展的方向却是互联网和移动设备。对于人工智能,我们也无法知道我们的担忧是否会成为现实,不过比尔·盖茨、伊隆·马斯克、史蒂芬·霍金都表示了担忧。
当今人工智能的主要成果是机器学习,也就是通过大量数据和统计模型来做出基于已有数据的预测,这个预测可以是明天的股票指数,也可以是在画面中识别某个事物,也可以是把一堆对象自动归类。但这些任务的实现方式还是“系统二”,要想让人工智能有“系统一”类型的功能,有人提出了一个理论上的实现路径:一是超强的计算能力,这个好理解;二是对人脑的逆向开发,也就是掌握人脑功能的实现方式;三是模拟人脑在自然界的进化过程,也就是可以搭建出一个非常原始的大脑模型,通过类似自然界进化过程的方式让这个原始大脑逐渐进化,来提高智能,通过技术手段可以让这个过程比几十亿年的自然进化加快许多。
从自然进化和人类文明的发展史可以看到,这种进化发展是指数级的。自然界最高等的哺乳动物出现在最近的1000万年,人类自20世纪以来的科技发展超过了以往历史的总和。人工智能的自我进化也可能是这个速度,一旦它达到了人类的只能,那很可能只需要再过一瞬间就远远把我们甩在了后面。人类宛如站在一个地铁站台上翘首以盼,人工智能这辆列车在远处缓慢的挪动,可一旦接近站台,很能就是我再也追不上的呼啸而过。届时我们就无法理解它的逻辑,下一步要干什么,是否会毁灭人类。如果给它限制诸如“机器人三定律”之类的条件呢?这些条件总是有逻辑漏洞的。比如要让人类快乐,不得伤害人类,也许如《黑客帝国》那样把人类全部监禁起来,用Matrix来麻痹人类大脑是最符合这些条件的决策。要么干脆说不能改变任何东西,那就锁死了人类文明的发展,还要人工智能何用?
也有人用一个悖论提出了不同观点。人类历史不过是宇宙的一瞬,如果上述逻辑正确,一定早有外星人发展出了不可控的人工智能并奴役整个宇宙,而地球目前仍安然无恙,说明这种事不会发生。这也说不准,这“奴役宇宙”也许是我们无法理解的方式呢?也许我们已经被以某种方式奴役了?
我们可以感到人工智能这趟列车正在向我们驶来。这让这个科幻问题的思考有了现实意味,也增添了不少趣味。
http://www.saoyuying.com/2015/09/ex-machina/微信公众号:肥嘟嘟看电影(feidudumovie)
不说话的那个AI真是美。
第三幕有点失分,不过最后结尾的做法确实很神棍,或者可以说是冒险?大胆?新鲜?出人意料?还是神棍这个词比较合适。这个片子其实就是展示了一番什么叫不带一丝赘肉的剧本,封闭空间内的戏剧张力十足,硬科幻式的图灵测试又最终升华到了“亚当夏娃”的层面,都是很精心设计很加分的创意点。★★★★
成为人的最后一步是:学会背叛。
严格的AI质检流程,要打爆设计者才能投入市场。
简直是在亵渎现在已经存在的Ai研究成果,把角色设置成蠢猪帮不上忙
再也无法直视哈登了
男主角和女主角的每次会面其实都是一次哲学命题,所以电影对白很有意思,借助测试机器人来探讨人类的情感和本能,通过机器人和人类之间的行为形成了一个极为讽刺的对比。结局给人一种强大的冲击力,总觉得那些倒影是在暗示不久的将来,机器人和人类之间的关系会颠倒。艾丽西娅·维坎德演得很出色。
一部主要以聊天形式讨论图灵测试的科幻片(其实讨论得再深一些就更好了),各方面都很细致,比如特效和整体场景设定,不错不错。私认为男主的存在感应该更强一些,他全程情绪被牵着走,反之结局或许不会这么容易被猜到。导演是作家和编剧出身(有《海滩》和《别让我走》),执导处女作很棒
人类创造自己的毁灭者。想起前阵子细细读完某篇分析人工智能的3万字长文后心头的寒意。从伦理角度讲,片子的主题是双重意义的弑神与弑父,人类僭越自身的神,也终被自身的创造物所僭越。人工智能发展呈几何级数增长的后果,与片末的结局一样,都是写好的命定,不过早晚而已。片子体量虽小,格局不小。
欢迎 Alex Garland 加入东野圭吾的「美女没一个好东西」兴趣小组。
只有我一个人看最后一幕时候内心犯嘀咕吗:就这么跑出去了连个充电器都不带啊…… 电源难道不是一个问题吗?不是一个问题吗?
如果机器人是男的就更好了。比如法鲨什么的。
这年头连手机都指纹识别了,一个搞人工智能的,家里还用keypass,算怎么回事啊…
宅男福音,不过题材有点老套,当房地产广告看是五星
心机姬。
可以是天网prototype,也可是Her的黑暗平行世界。大概是今年上半年科幻最佳。既冷又硬,完全不留一丝温度。立意与结尾都是对许多科幻软色情作品的十足讽刺。虽然反转比较好猜,然而单凭对话就构建起张力十足的戏剧效果把人吸入进去,七日session的设置颇有寓言感。
男人从此有了追求,一排衣柜……
很简单的一个故事,但影片自始至终始终保持巨大的戏剧张力,编剧真是见功力!配乐和摄影都非常有压迫性,充满了对观众的侵略感。就人工智能这个问题,我是个十足的悲观主义者,人类真有可能毁在这里 #对啊,我就是个混蛋啊。但讽刺的是,我是站在你这边的#
结构台词气氛意境审美都很棒,而且相辅相成,三位一体,细节处比如老板的造型和衣柜暗示蓝胡子的童话,普罗米修斯的台词对应偷卡片的行为,机器人捅刀子进人体好像滑进黄油的质感,通通工整熨帖,在抖机灵和炫技之间做到了平衡美
故事容量就够四分之一集的黑镜(这男主还真演过黑镜啊!),在经历太多super dramatic的电影后再看这种反转程度的老梗已经无法刺激神经。但如果代入revolution的观点,结合人类进化史,还是有点儿意思。这导演之前编过克隆人题材的Never Let Me Go,这次又玩AI,还是聚焦在伦理上,还真是蛮长情滴