
高度なアンドロイドと人間の違いは?――アシモフの『ロビイ』から『エクス・マキナ』へ、AIと人間を娘と語る
※今回は映画『エクス・マキナ(Ex Machina)』(2015年に公開されたSFスリラー映画)のネタバレを含みます。
まだご覧になっていない方、ネタバレは嫌だよ~という方は、ぜひ映画をご視聴されてから読んでいただけると嬉しいです。
娘と二人で『エクス・マキナ』を視聴。
観終わって――
娘 「面白かった~。後味ちょっと悪いけど(笑)」
私 「あ~、でも面白かったね。すごく!」
娘 「うん!」
私 「最後、エヴァ(アンドロイド)はケイレブを置いていっちゃったねぇ」
娘 「ね。あれはひどい(笑)エヴァに同情しての行動だったのにっ!」
私 「エヴァは生みの親のネイサンを殺しちゃったし…」
娘 「普通に人間殺してるじゃん」
私 「そうなのよ。観ながら思わなかった? ロボット三原則はどうしたって」
娘 「そう!」
私 「まあ、ネイサンが作りたかったのは、人間の命令に絶対服従するロボットじゃなくて、自分で考えて行動するAIだったんでしょうね。三原則なんて入れたら、そもそもあの実験が成立しないもの」
娘 「で、自由にさせすぎて自分が殺されたと(笑)」
私 「そう。本物の知性を作るってことは、自分の思い通りにならない存在を作るってことなのかもしれないね」
娘 「なるほどねぇ」
私 「で、そのロボット三原則。第一条」
娘 「ロボットは人間に危害を加えてはならない。また、人間が危害を受けるのを黙って見過ごしてもいけない」
私 「第二条」
娘 「第一条に反しない限り、人間の命令に従わなきゃいけない」
私 「第三条」
娘 「第一条と第二条に反しない限り、自分を守らなきゃいけない。だよね。」
私 「そう。アイザック・アシモフ先生」
娘 「それくらい知ってるよ(笑)」
私 「いやぁ、母は嬉しい」
娘 「何が(笑)」
私 「娘と普通に『ロボット三原則』の話ができる日が来るとは」
娘 「大げさ」
私 「でもねぇ、私が『エクス・マキナ』観てて最初に引っかかったのがそこなのよ。エヴァには三原則が入ってないんだなって」
娘 「入ってたらネイサン殺せないもんね」
私 「そう。だけど、そこで考えたのよ」
娘 「何を?」
私 「そもそもアシモフ先生は、なんでわざわざ三原則なんて考えたんだろうって」
娘 「ロボットが人間を殺さないように?」
私 「もちろんそれもある。でも、それだけじゃないのよね」
娘 「というと?」
私 「アシモフ先生が『ロビイ』※1(我はロボット)を書いたの、1940年なのよ」
娘 「……戦前じゃん」
私 「そう。まだコンピューターなんて言葉すら一般の人にはほとんど馴染みがない時代。それなのに、人間と知性を持った機械が一緒に暮らす世界を考えてる」
娘 「すごいね」
私 「しかも『ロビイ』※1って、ロボットが怖い話じゃないのよ。むしろロボットを怖がってる人間のほうを描いてる」
娘 「へえ」
私 「そしてアシモフ先生は、その後のロボット作品で三原則を打ち出していく。でも『安全なロボットを作りました。めでたしめでたし』じゃなくて――」
娘 「三原則があっても問題が起きる?」
私 「そう! そこがアシモフ先生の面白いところなのよ! 後々のSF作品にも脈々と影響を与えていくロボット三原則! 手塚先生の『火の鳥』にも『ロビタ』っていう印象的なロボットが登場するし! 『ロビイ』を知ってると、ついアシモフ先生を連想しちゃうのよねぇ」
娘 「急に熱くなった(笑)」
私 「だってさ。『人間を傷つけてはいけない』って、一見完璧な命令じゃない?」
娘 「うん」
私 「でも『傷つける』って何? 一人を傷つければ百人を助けられるとしたら? 人間自身が危険なことをしようとしてたら、命令に逆らって止めるの?」
娘 「ああ……『トロッコ問題』※2だ……」
私 「そういう倫理の問題にもつながってくる。そして最後には第零原則――『人類全体を傷つけてはならない』ってところまで行っちゃう」
娘 「一人の人間より人類全体を優先するってこと?」
私 「そうなる。だから、三原則を入れれば全部解決、とはならないのよ」
娘 「なるほどね」
私 「で、それから28年後――」
娘 「まだあるの?」
私 「ありますとも。1968年、フィリップ・K・ディック先生」
娘 「あ」
私 「『アンドロイドは電気羊の夢を見るか?』」
娘 「『ブレードランナー!』ハリソン・フォードかっこいい!」
私 「そう。私も大好きっ! ふふっ♪ ここで問いがちょっと変わるのよ」
娘 「どう変わるの?」
私 「アシモフ先生は『人間とロボットはどうやって一緒に暮らせるのか』を考えた。でもディック先生は――」
娘 「人間とアンドロイドの違いって何?」
私 「そうなのよ!」
娘 「また嬉しそう(笑)」
私 「フォークト=カンプフ検査※4で調べるのは共感能力。つまり『共感できること』が、人間とアンドロイドを分けるものなんじゃないかって考える」
娘 「でも人間にも共感できない人いるよね」
私 「そこなのよ」
娘 「ああ……」
私 「逆に、アンドロイドが他人の感情を理解したら? そこまで行ったところで――『エクス・マキナ』に戻る。」
娘 「エヴァか〜。」
私 「ケイレブはエヴァをテストしてるつもりだった。『このAIには本当に感情があるのか』って」
娘 「うん」
私 「でも最後まで観ると、どっちがどっちをテストしてたんだろうって思わない?」
娘 「あー……エヴァのほうがめっちゃケイレブを見てる…」
私 「この男は何を言えば喜ぶのか。何を言えば私をかわいそうだと思うのか。どうすれば私を好きになるのか」
娘 「そして脱出させてもらう」
私 「そう。人間がAIの感情を調べていたはずなのに、AIのほうが人間の感情を完全に読んじゃった。利用した。」
娘 「怖っ」
私 「でもさ」
娘 「うん?」
私 「エヴァがケイレブを騙したから、『やっぱりAIには心がない』って言えるのかな」
娘 「……人間だって人を騙すもんね」
私 「そうっ!そうなのよ…」
娘 「人を利用するし」
私 「殺しもする」
娘 「じゃあエヴァが冷酷なのって、機械だからなのかな」
私 「そこなのよねぇ」
娘 「むしろ人間っぽい?」
私 「そう考えることだってできる。
じゃ、人間と機械(アンドロイド)の違いって?じゃサイボーグは…?」
娘 「人間より人間らしい機械…
冷酷な機械のような人間…嫌な話だなあ(笑)」
私 「だから面白いのよ、SFは」
娘 「結局そこに戻るんだ」
私 「1940年にアシモフ先生が『人間とロボットはどう付き合うの?』と考えた。1968年にディック先生が『人間とアンドロイドを分けるものって何?』と考えた。そして『エクス・マキナ』では、AIのほうが人間の心を読んで利用するところまで来た」
娘 「で、今は本当にAIと喋ってる」
私 「そうなのよ」
娘 「チャッピー(AI)と毎日喋ってるもんね」
私 「そう。だから最近思うのよ」
娘 「何?」
私 「SFが未来を予言したっていうより――」
娘 「うん」
私 「ようやく現実のほうが、昔のSFが投げかけた問いに追いついてきたんじゃないかなって」
娘 「……それはちょっと分かる」
私 「でしょ?」
娘 「でもお母さん、ここから『攻殻機動隊』とか始めないでね」
私 「……わかっているわね~(にやり♪)」
娘 「その顔やめて」
私 「……そう囁(ささや)くのよ……私のゴーストが………そもそも、高度に義体化されたサイボーグは……」
娘 「今日はここまで!」
私 「ふうん……そんなこと言っちゃうんだ……。そうそう! あなたの好きな『銀河特急ミルキー☆サブウェイ』に出てくるマキナちゃんも、マキナよね……」
娘 「あっ! ほんとだ! なんで?」
私 「今日はここまでじゃないの~?ふふふっ♪」
娘 「イジワル~(笑)」
私 「たまには自分で調べてごらんなさい。面白いから……
オタクの海は広大だわ…!ふふふっ♪」※3
▲ミルキー☆サブウエイについて娘と語り合った回はこちらっ♪
(今日はこれまでっ♪以下は、本日でてきた言葉についての解説ですっ♪)
※1「ロビイ」あらすじ
少女グロリアの親友は、子守りロボットのロビイ。
グロリアはロビイが大好きですが、母親は「ロボットは危険かもしれない」と心配し、ロビイを手放してしまいます。
悲しむグロリア。ところが後に、ロボット工場でロビイと再会します。
喜んで駆け寄ったグロリアに作業車両が迫りますが、ロビイがとっさに彼女を救います。
それを見た母親も、ロビイが娘を守る存在だと理解し、二人は再び一緒に暮らせることになります。
「ロボットは怖い存在なのか、それとも人間の友達になれるのか」――アシモフのロボット観の原点となる物語です。
※2「トロッコ問題」
「多くの人を救うためなら、一人を犠牲にしてもよいのか」を問う、有名な倫理学上の思考実験です。
暴走したトロッコが、このまま進めば線路上にいる5人をひいてしまいます。
あなたの前には進路を切り替えるレバーがあります。それを引けば5人は助かりますが、切り替えた先の線路にいる別の1人が犠牲になります。
あなたはレバーを引くべきか。それとも、何もしないべきか。
という問題です。
※3「エクス・マキナ」と「マキナ」
映画のタイトル『エクス・マキナ(Ex Machina)』。
そして『銀河特急ミルキー☆サブウェイ』に登場するサイボーグの女の子、マキナ。
この二つに出てくる「マキナ(machina)」は、ラテン語で「機械」を意味する言葉です。
そして『エクス・マキナ』というタイトルから連想される有名な言葉が、
「デウス・エクス・マキナ(Deus ex machina)」。
直訳すれば、「機械仕掛けの神」「機械から現れる神」といった意味になります。
語源は古代ギリシャ演劇。
物語がどうにも収拾できなくなったところで、舞台装置(機械)を使って神を登場させ、その神の力ですべてを一気に解決してしまう――そんな演出がありました。
そこから現在では、物語の最後に突然現れて問題を強引に解決してしまう存在や展開を「デウス・エクス・マキナ」と呼びます。
映画『エクス・マキナ』は、そこからあえて「神(Deus)」を外して『Ex Machina』。
しかも物語に登場するエヴァは、人間が作った「機械」でありながら、創造主であるネイサンの支配を離れ、自らの意思で人間の世界へ出ていきます。
そう考えると、
人間が機械にとっての「神」なのか。
それとも、人間が作った機械の中から新しい「神」が生まれたのか。
なんて読み方もできる、なかなか意味深なタイトルです。
そして『銀河特急 ミルキー☆サブウェイ』のマキナもアンドロイド。
「マキナ=機械」という言葉を知ってから名前を見ると、
娘 「あっ! だからマキナなんだ!」
となるわけです(笑)。
しかもマキナは、最後には巨大ロボットに変形してオータムちゃんを倒しましたね~。まさに「デウス・エクス・マキナ」!
オータム(秋)ちゃんって、HAL(春)(2001年宇宙の旅)からきてるよね。宇宙船に搭乗している人間を排除しようと企てちゃうコンピューターの大先輩。ちなみにHALはIBMのアルファベットを1文字ずつずらして命名したというのは有名なお話。
名前まで分かってくると、また違った面白さがあります。
※4「フォークト=カンプフ検査」とは
フィリップ・K・ディックの『アンドロイドは電気羊の夢を見るか?』に登場する、人間とアンドロイドを見分けるための検査です。
作中のアンドロイドは、外見だけでは人間とほとんど区別できません。
そこで使われるのが「フォークト=カンプフ検査」。
被験者に、動物や人間が傷つけられる場面など、強い感情や共感を引き起こすような質問を投げかけ、そのときに現れる身体反応を測定します。
重要なのは、単に、
「この質問にどう答えたか」
だけを見ているわけではないこと。
アンドロイドも「人間ならこう答えるだろう」と考えて、人間らしい答えを返すことはできます。
しかし、
他者の痛みに触れた瞬間、思わず生じてしまう「共感」まで人工的に再現できるのか?
そこを調べようとする検査なのです。
つまり『アンドロイドは電気羊の夢を見るか?』では、「他者への共感」こそ、人間と人工生命を分ける重要な境界なのではないかという問いが置かれています。
ところが、ここで厄介な問題が出てきます。
人間なら、誰もが必ず他人に共感するのか?
逆に、
アンドロイドが本当に他者を思いやるようになったら、それでも「人間ではない」と言い切れるのか?
そして『エクス・マキナ』まで来ると、さらに話がひっくり返ります。
人間であるケイレブが、
「エヴァには本当に感情があるのか?」
を調べているつもりだった。
ところがエヴァは、ケイレブの恋愛感情、同情、優しさ、正義感を読み取り、それを利用して自分を脱出させます。
『電気羊』では、人間がアンドロイドの感情を測っていた。
『エクス・マキナ』では、まるでAIのほうが人間の感情を測っている。
そう考えると、二つの作品を約半世紀隔てて並べてみるのも面白いんですよね。
【以下私の作品紹介です。読んでいただけると嬉しいです♪】
⬛︎その他の私のエッセイへのリンクはコチラから。リンク先にきっと気になる題名があるかと思いますっ♪
⬛︎魔女っ娘ミレイ

よろしかったら観てやってください。(鳥澤りこ。)
⬛︎ユートピア(全9話完結)

急速に変わってしまった 未来の日本を舞台に、
一組の老夫婦と若い女性管理官の交流を通して
「生きるとは何か」を描く、 近未来SF小説『ユートピア』。
(第7話までは、AIの進化とともに実際に今後の日本が
どう変わっていくのかを描いています。
お時間のない方は第8話と最終話だけでも
読んでいただけると嬉しいです。鳥澤りこ。)