映画の世界から読み解くAIの“ココロ”：“AI”はどこへ行った？（2）（2/2 ページ）

[世古雅人，カレンコンサルティング]

　他にもAIが登場する映画は多いが、ここで挙げた4つの中で、AIだけでなく、AIを搭載したロボットが一緒に出てくるものは唯一、「ターミネーター」だけである。実はこのターミネーター、1作目のものは、感情を全く持っておらず、人間を殺すことだけをプログラミングされた“殺人マシン”だ。だが、2作目以降では、ジョンという少年と出会ったことで徐々に感情を持ち始める。2作目のラストで、ターミネーターは自ら溶鉱炉で消滅する前に、「人間がなぜ泣くのか分かった」と言い残す。

　この場面はとても考えさせられるところだと思う。そもそも人間は、「泣け」とプログラミングされて泣くわけではない。悲しいとき、あるいはうれしさのあまり感極まったときなどに、自然と涙が出てくる。涙は、人間の感情によって出てくるものだ。そして、感情はどこからくるのかと言えば、まぎれもない脳である。

　ターミネーターの場合、脳の代わりをするのがAIであり、埋め込まれたプロセッサが役割を果たす。だが、この感情というものをどのようにして得たのか、それはいまだに謎である。本シリーズは今も続いており、2014年には「ターミネーター5」が公開される予定らしいが、そこでこの辺りの謎が解き明かされてはいないだろうか。

　ターミネーターの話を出すと、同時期の映画「ロボコップ」（1987年）と比べてみたくなる。ロボコップは、殉職した警官マーフィーの体をロボット化し、街の悪党どもをやっつけるというヒーローものだ。身体全てが機械のターミネーターとは異なる。したがって、ロボコップと名前が付いてはいるが、正確にはロボットではなくサイボーグだろう。元が人間なので、生前の記憶や意識が時折フラッシュバックし、マーフィー自身が葛藤する場面も少なくなく、どこか人間くささが残る。

　多少、人間としての自我も持っているロボコップだが、「法の順守」というルールが定められていて、これには逆らえないようにプログラミングされている。これは映画の中では悪党の黒幕に都合のいいように利用されるが、実は2004年の映画「アイ,ロボット」（「ルンバ」を出しているiRobot社ではない）にも、似たようなシーンが見られる。この映画は、ロボットが反乱し人間を襲うものであるが、もともとは、ロボットが「ロボット工学三原則」を破ることから始まる。

「ロボット工学三原則」と「フレーム問題」

　ロボット工学三原則とは、アイザック・アシモフのSF小説で登場したものだ。先の「アイ,ロボット」の原作でもある。

ロボット工学三原則（抜粋）
第一条：ロボットは、人間に危害を加えてはならない
第二条：ロボットは、人間に与えられた命令に従わなければならない
第三条：ロボットは、第一条及び第二条に反しない限り、自らの存在を守らなければならない

　これは、ロボット自身が意志を持ち、判断ができる場合に有効であり、ロボットと人間の共存には欠かせない。一方で、三原則をそのままロボットに適用しようとすると、ロボット工学だけではなく、AIの分野でも最大の難問とされる「フレーム問題」にぶち当たることになる。

　フレーム問題とは、「有限の情報処理能力しかないAIは、与えられた世界の全てを処理することはできない」ことを提示するものだ。1969年にジョン・マッカーシーとパトリック・ヘイズによって提唱され、現在もこれを解決できる手だては見いだせていない。

　チェスのように情報処理の枠を有限的に与えてやれば計算できるが、「これから行うことに関係のある事柄だけを、無限の可能性の中から抽出して行う」ことは、非常に難しいのである。AIは、現実に起こり得る全ての事象に対処するか、無限大の計算を行おうとする。その結果、延々と計算し続け、実質的に答えをはじき出せなくなる。あるいは、はじき出すまでに恐ろしく時間がかかり、見かけ上の“思考停止状態”に陥ってしまうのだ。要は、「ロボットがパニくる」ことになる。

　近未来において、AIの進化によりロボットが意思を持ち、思考力や判断力を備えるようになった場合、ロボットは必ずフレーム問題に直面することになる。パニックになった揚げ句、暴走すれば、SF映画や小説のように人間に危害を与えないとも限らない。

ロボットは“ココロ”を持てるのか

　では、人間のように感情を持つロボット（ロボットに搭載しているAI）は、できるのだろうか？

　少なくとも、“見た目”については、より人間に近づいてはいるようだ。

　「人間らしさ」にこだわってロボットの研究を続けているのが、大阪大学の石黒浩教授（関連記事：アンドロイドが問う「人間らしさ」）である。外見だけではなく、感情を持ち、それを表現するロボット（同教授はアンドロイドと呼ぶ）の開発を目指している。同氏のアンドロイドは、冒頭に紹介したAdam Z1に比べて見た目も仕草もはるかに人間っぽい。ただし、これはあくまでも“見た目”であり、何歳児相当の知能を有するのかは正直分からない。

　さて、1作目のターミネーターは、意志は持たず、「人類抹殺」のプログラミングをひたすら実行していた。ロボコップは、多少残る人間の心と、法の順守というプログラムとの間で葛藤した。感情があるが故に涙を流すし、表情や態度でそれらの感情を表現することができる。

人工知能が“ココロ”を持つ日はくるのだろうか（画像はイメージです）

　今のテクノロジーでは、感情表現はできても、感情そのものをAIで作り出す（＝ロボット自らが生み出す）レベルには至っていない。これはAIの専門家だけで実現できるものではないし、ロボット工学の専門家だけで実現できるものでもないだろう。医学分野との連携、脳科学の分野や心理学、哲学などにも触れ、人間の思考のメカニズムにもっと踏み入らないと、自らが考えて行動するロボットは当分、できそうにない。また、人間の脳に匹敵するAIがそうたやすくできてしまうのも罰当たりのようにも思える。

　ロボットの“ココロ”が、近い将来、どのように形成されていくのか、今から楽しみでもある。

Profile

世古雅人（せこ まさひと）

工学部電子通信工学科を卒業後、1987年に電子計測器メーカーに入社、光通信用電子計測器のハードウェア設計開発に従事する。1988年より2年間、通商産業省（現 経済産業省）管轄の研究機関にて光デバイスの基礎研究に携わり、延べ13年を設計と研究開発の現場で過ごす。その後、組織・業務コンサルティング会社や上場企業の経営企画責任者として、開発・技術部門の“現場上がり”の経験や知識を生かしたコンサルティング業務に従事。

2009年5月に株式会社カレンコンサルティングを設立。現場の自主性を重視した「プロセス共有型」のコンサルティングスタイルを提唱している。2010年11月に技術評論社より『上流モデリングによる業務改善手法入門』を出版。2012年4月から2013年5月までEE Times Japanにて『いまどきエンジニアの育て方』のコラムを連載。