いや～、凄い作品でした(≧▽≦) 何度も言っていますがSF好きのバニラには大好物のストーリーです。本作のテーマの一つは人工知能ですが、SF系でよくあるような人工知能が人間に反旗を翻して、虐殺するという話ではありません。どのようなストーリーかといいますと――
2030年代末に太陽のフレア光が増加したことで、地球は砂漠化が進行し、人口の99.7%が失われた。生存者は安全な都市網を再構築し、過酷な環境で人類の手助けを行う原始的なヒューマノイドロボット「オートマタ」（ピルグリム7000型）を開発した。オートマタには、生命体に危害を加えてはならない、自他のロボットの改造を行ってはならない、という2つのプロトコル（制御機能）が設定された。当初は人類の救世主であるとされたが、砂漠化の抑制に失敗したことから肉体労働に追いやられた。ある日、自己改造を行っているオートマタが発見され、保険調査員のジャック・ヴォーカンが調査に派遣された。
（Wikipedia 引用）
この作品のミソになるのは、ロボットに二つのプロトコルが設定されていることなのです(*'ω'*) その二つとは生命体に危害を加えてはならないというものと、自他のロボットの改造を行ってはならない、というものです。生命体に危害を加えてはならない、というのはロボット工学の三原則に明記されている通りですが、どうして自他のロボットを改造してはならない、という設定がされているのか？
それはですね、ちょっとネタバレになりますが、人間の能力が及ばなくなってしまうからなのですね。2045年問題、技術的特異点（シンギュラリティ）という言葉を知っているでしょうか？ そうです、AIが反旗を翻し人類を根絶やしにすべく、殺人兵器オートマタの製造を開始するという（どこのターミネーター！( ｀ー´)ノ）。
間違えました、AIの知能が人間を超えると言われている問題です、はい。本作の設定は正にシンギュラリティから取られていると思われ、AIが人間を超えるのを防ぐために、このようなプロトコルが設定されたのです(/・ω・)/ が、ある日、自己改造を行っているロボットが発見されて、保険調査員のジャック・ヴォーカンが調査に乗り出すことになりました。ロボットのプロトコルを変更したのは誰なのかを見つけ出す、という物語になっています。
ネタバレを言いますよ、言いますからね(≧▽≦) 言ってしまうと、この物語は種の交代を題材にしている話なのですよ。この作品の世界観では、地球は放射能で汚染されていて、これから先人間が暮らしていくことができなくなっているのです。だから、近い将来人類が滅びるのは目に見えていて、人類に変わって、ロボットが人間の意思を継ぐ人工的に作られた新たな種になるということです。
実際に映画だけでなく、リアルでもこれから先何千年と経って地球が汚染されていったら、この映画のようになるかもしれません。ですが、ここで疑問が生じるのはロボットが人間に代わることができるのか？ ということですね。AIは意識を獲得するのか？ というのはよく問題にされます。
ですが、バニラはAIが意識を獲得することはないと思うのですよ。確かに、生物が有する意識も電気信号による、シナプス（脳細胞）の結びつきによって生じる産物なのかもしれませんが、AIには意識は生まれるか？ と問われると生まれるとは思いません(。´･ω･)? まず、他我問題的な意識があるかどうかの証明が難しいのですが、AIに意識が生まれない理由として、意識とは生物だけが備える生物性だと思うのです。
意識は神によって作られただとか、そういう神聖視している訳ではありませんよ当然。どれだけ、AIが進化しても、意識は獲得することはできないと思うのです(´・ω・｀) だから、意識のないAIに人間の代わりは務まらないという訳ではなく、本当に意識など必要なのか？ ということなのです。
SF好きのバニラはSF作家の伊藤計劃さんという方の小説が好きなのですが、伊藤計劃さんが『ハーモニー』という小説の中で、人類から意識を無くす”ハーモニクス計画”という思想を説くのです。『ハーモニー』では本来意思と言う機能は、生物が繫栄するために必要な機能でしたが、社会のインフラが整い機械化が進んでいくと、非合理性を生み出す不確定要素たる意思はかえって邪魔になると説かれるのですね。
人間は進歩すればするほど、死人に近づいてゆくの。というより、限りなく死人に近づいてゆくことを進歩と呼ぶのよ。（p.134）
精神は、肉体を生き延びさせるための単なる機能であり手段に過ぎないかもって。肉体の側がより生存に適した精神を求めて、とっかえひっかえ交換できるような世界がくれば、逆に精神、こころのほうがデットメディアになることにはなりませんか？
（伊藤計劃『ハーモニー』引用）
こんな文章があったのですよ。つまり、人間は進化すればするほど、合理的になり、意識＝魂なんていうものをそぎ落としていくのです。もし人間から意識を取り去ることができれば、この一文のように体をとっかえひっかえできるようになり、自己の同一性を克服して人間は不老不死にだってなれると思います。
しかも意識がなくてもインフラさへ整っていれば、生きることはできると説かれていますし。確かに生物には自由意思がないというのが科学の定説ですし、意思を取り除いて刹那主義的に生きる方が人間は幸福になれると思うことがあります(・ω・) だから、ロボットは意識を持つ必要などなくても、人類にとって代わることができると思うのですよ(´-ω-`) この作品を観ていると、意識を持っている人間よりも、意識が希薄なロボットたちの方がより高次元の存在のように思えました(´・ω・｀)
