弱いままの人工知能 〜 “強いAI”を生み出すには「死の恐怖」が必要だ：Over the AI ―― AIの向こう側に（13）（3/9 ページ）

[江端智一，EE Times Japan]

「AIの知性」、超有名な2つの考え方

　さて、今度は、「AIの知性」について、極めて権威のある2つの説をご紹介致します。

　チューリングテストとは、基本的には、「AIの知性は、直接測定できない」という腹のくくり方をした、非常に合理的な考え方です。

　恐らく、あの天才アラン・チューリング先生^＊）は、「美醜」や「喜怒哀楽」と同様に、「知性」も第三者の主観に依存するものであり、定量化（点数をつける）ということが困難であると考えた上で、それでもなお「知性」を評価しなければならないとしたら、結局のところ「どの程度、人間をだまし、世界をだませるか」とするしかないと考えたのだと思います。

＊）第二次大戦中、ドイツの潜水艦Uボートで使用されていた暗号システム「エニグマ」の解読方法を確立して、それをシステムとして組み上げた、超ド級の天才数学者です。

　現在もなお、このチューリングテストは、AI技術の「能力」（多分「知性」ではないと思う）を評価する方法として、世界中で使われています。

　これに対して、「中国語の部屋」は、このチューリングテストの唱える「知性」を鋭く批判します。

　哲学者のジョン・サール先生^＊）の「中国語の部屋」を、ぶっちゃけて説明すると、「『Aと入力すればBと出力する』と動作するようにプログラムされている機械ごときに、知性なんぞが宿っていると、あんた本気で思うか？」というものです。そこには「知性」が宿っているのではなく、単なる「手続処理」の機能が実装されているだけだ、主張されているわけです。

＊）ジョン・サール先生は、この後にも登場します。

　で、残念なことに、現時点において、地球上にあるAI技術の全ては、全て、この「中国語の部屋」のアナロジーで説明できてしまうのです^＊）。

＊）厳密に言えば、現状のAI技術では、『Aと入力すればBと出力する』を学習させた上で、『（Aに比較的近い）Cを入力して、（Bに比較的近いであろう）Dの出力を得る（ことを期待する）』ということもできますので、厳密に「中国語の部屋」とは言えないかもしれませんが、少なくとも現状のAI技術は、自分の発意で何かを実行することができないという点において「中国語の部屋」の概念の外には出ていません。

　で、今回、この偉大な2人のAIの知性の考えを盗……もとい、援用して、私が考えた知性の定義は以下のものです。

　私の「AIの知性」の考え方は、チューリング先生と同様に、『知性というのは、しょせんは、第三者による観測しか確認方法はない』という立場に立ちます。また、現在のコンピュータアーキテクチャでは、どうしたってジョン・サール先生の「中国語の部屋」の範ちゅうを超えることはできませんので、こっちは諦めることにしました。

　その上で、AIに、人間的な根源的恐怖である「死」の観念……は無理としても、『無』に帰すという観念を導入した上で、「死」または「無」に直面した人間の方の感情を、観察することで、AIの知性の定義を試みました。

AIは自己の「死」を観念できないけど……？

　AIそれ自体は、自己の「死」とか「無」を観念できません（少なくとも、私は、プログラムをデリート（削除）する時に、『お願いだから、私を殺さないで』というメッセージが出てきたという経験はありません）。

　私の考え方は、極めて単純です。

　「知性」が定義できないのであれば、「そのAIが、人間に近かったか否かを、知性の有無の根拠とする」とした上で、「どれだけ人間に近かったかを知るには、そこに人間の側に、そのAIに対する感情（悲しさ、寂しさ）の発露があったかどうかで判定する^＊）」という ―― まあ、はっきり言って、チューニングテストの上書きパクリです。

＊）SFアニメには、このアプローチがよく採用されています。ただ、それらのアニメでは、AIの持ち主として登場する主体が、ほとんど例外なく「美少女ロボット/アンドロイド」となっていますが。

　この方式は、最初に述べたように、「人間の死の恐怖」とか、「宗教の死後の脅迫プロセス」などと、うまく組み合って、従来のチューニングテストよりは、社会的合意を得やすいものではないかとは自負しています。

　ところが、この方式の検討中に、私は、非常に基本的なことに気がついてしまいました。

　―― そもそも、AIって、殺せるんだっけ？

　現時点において、AIはプログラムという形で実装されており、プログラムは、無限の複製が可能であり、ネットワークによって、世界中のどこにでもコピーが可能であり、人類が滅亡するまで、コンピュータの中に存在しつづけることができる、いわば「不死の無体財産物」です。

　つまり、AI自体が「死」や「無」の概念を持っていないのは当然としても、私たち人間自身も、AIに対して死生観を持つことができないのです。

　要するに、この段階で、既にこのテストが、テストとしての機能を果たさないことが、はっきりしてしまっているのです^＊）。

＊）そういえば、SF「美少女ロボット/アンドロイド」アニメでは、この「AIの死」という観念を生成するために、随分設定に苦労しているみたいです（例えば、『記憶や人格のコピーはできない』とかいう、苦しい設定で対応している）。