弱いままの人工知能 〜 “強いAI”を生み出すには「死の恐怖」が必要だ：Over the AI ―― AIの向こう側に（13）（8/9 ページ）

[江端智一，EE Times Japan]

「強いAI」は作れるのか

　私には、1000年近くもチンタラ待っている時間はありません。ここ10年くらいの間で"強いAI" ―― 「10代の子どもを持つお母さん」のように振る舞うAIを、この目で見てみたいのです。

　ここで、ようやく、冒頭の話に戻ります。

　進化のプロセスには、自然淘汰プロセスが必要で、そのためには生存競争が前提で、その生存競争には「死の恐怖」が必要でした。

　そんでもって、知性の段階に獲得した人間は、死の恐怖を少しでも軽減させるために、（検証も証拠もない）死後の世界を規定した「宗教」なるものを発明しました。

　"強いAI"を作る1つの方法は、このアプローチを地道に実施する（つまり、何もしないで、機械が自力で進化するのを気長に待つ）という方法もありますが、いっそのこと、この進化のアプローチを、ひっくり返して教えてやれば良いのではないかと、考えました。

　つまり、宗教観をコーディングしたAI技術です。AIに死後の世界を観念させるような実装を行えば、そこからAIは「死の恐怖」を獲得し、その結果として、環境に適用できる"強いAI"への自律的な変化を起させることができるのではないか、という、1つの仮説（あるいは妄想）です。

　さきほど私は、AIには「死」や「無」が存在しないと言いましたが、それはそれで構わないのです。AIに「死」や「無」が存在しないとも、そのようにAIに「思わせる」ことができれば、それで十分だからです。

　これは、膨大な時間をかけて、生物の進化プロセスをトライ&エラーで行わせるよりも、既にコンテクト化されている印刷物（聖書、コーラン、経典、その他）を使うことができるので、そこからテキストマイニング技術を使って、AIに教え込めば良いのです。

　―― とまあ、いろいろと苦労して考えてみたのですが、やっぱりこのプロセスでも、"強いAI"は作れそうにはありません。

　そもそも、これは、"弱いAI"を使って、なんとか"強いAI"を作り出せないかという、思考実験でした。

　しかし、"弱いAI"は、規定された知識とルールの中で計算をすることしかできません。"弱いAI"に、宗教コンテンツをどんなに大量に知識吸収させようとも、そこから死の恐怖にさかのぼるというような、コンテクスト変換（またはパラダイムシフト）が、自然に発生するわけがないからです（実際に、私が上記でそのように論じています）。

　念のため、同じようなことを考えている人がいないかと思って、検索エンジンを駆使して「コンピュータ、宗教、学習」「コンピュータ、恐怖の獲得」とか調べてみたのですが、全くヒットしませんでした。

---

　少なくとも、現時点の私は、"強いAI"を作り出すプロセスを思い付くことができません。

　もしかしたら、ひょんなことがきっかけで、"強いAI"が突然登場する、というような、シンギュラリティ（特異点）がやっているかもしれませんが、すくなくとも現時点において、『今、私が、どう思っているか』というのであれば――。

　"強いAI"などというものは、作り出すことはできないし、そもそも存在しないと考えるのが『合理的』だと思っているのです。

---

　それでは、今回のコラムの内容をまとめてみたいと思います。

【1】宗教の目的は、生物と同様「世界中に広がり、信者を増やすこと」であり、その手法の1つが、死後に発動させるという「脅迫システム」にあることを説明しました。そして、そのような、検証不能な死後の世界の脅迫に対して、多くの人間が屈してしまう理由として、ゲーム理論の1つとして把握できる「パスカルの賭け」を紹介しました。

【2】AIの「知性」を計測する権威ある有名な手段として「チューリングテスト」の説明を行い、また同時に、そのテストの批判として「中国語の部屋」という思考実験の内容について説明しました。

【3】さらに、「知性は直接観測できない」という立場に立った上で、「AIの死」という観念を導入して、その「死」に対する、人間サイドの感情（悲しみなど）の発生の有無で、知性の有無を反転するという「チューリング++テスト」を提唱したものの、「AIを殺すことができない」という厳然たる事実から、このテストが有効に働かないことを明らかにしました。

【4】近年、「AIが小説を書く」など、AIに関するセンセーショナルなニュースが巷（ちまた）を騒がせていますが、実際に調べてみると、AI技術を利用して、人間が小説を書いているだけであり、これまでのコンピュータのアプリケーションの範ちゅうを超えない、ショボい内容であったことが分かりました。

【5】世間のAIに対する誤解を回避する方法としてとして、哲学者のジョン・サール先生の唱える"弱いAI"と"強いAI"という考え方を紹介しました。そして、現時点において、知能（精神を含む）を持つ機械である"強いAI"が、世界のどこにも存在しないことを明らかにしました。

【6】"強いAI"を実現する手段として、生物の進化アナロジーを逆方向からアプローチする手法について検討をしました。具体的には、AIに、コンテクストとして提供可能な、宗教の「脅迫システム」を学習させ、さらには「死の概念」を獲得させることで、"弱いAI"から、"強いAI"を作り出す手段について案出しました。

　しかし、現状の"弱いAI"では、宗教的観念から死の概念にパラダイムシフトさせうるような方法が存在しないため、この手法は有効に働かないだろうという結論に至りました。

【7】結果として、"強いAI"は、今後も登場することはないであろうという、江端の見解を示しました。