弱いままの人工知能 〜 “強いAI”を生み出すには「死の恐怖」が必要だ：Over the AI ―― AIの向こう側に（13）（7/9 ページ）

[江端智一，EE Times Japan]

機械は自然淘汰などできない

　一方、SF作家のジェームズ・P・ホーガン先生は、小説「未来の二つの顔」の中で、「進化プロセスにおける、生命体の逆エントロピー現象」について言及しています。

　「知性は複雑性の増大によって向上している」ことは、（小説とは関係なく）現実として確認できる事項です。その事実から、この小説の中では、「さらに複雑化していく無機的知能（コンピュータ）が最終的に人間の知能を凌駕（りょうが）することは、十分にありえる」と、登場人物の1人に語らせています。

　しかし、私は、その意見に対してもネガティブです。なぜなら、生物は環境に適用するために自然淘汰（とうた）メカニズムを使ってきて、その適用能力が進化を促し、その結果として知性を獲得したと考えられますが、機械を複雑にできるのは人間だけであり、機械は自然淘汰メカニズムを使えません（例えば、パソコンを屋外に野ざらしにしておけば、確実に壊れますよね。自動的に防水機能を具備したパソコンに変化することはできません）。

　先ほど、"強いAI"は、独善的な世界観とルールを作って、その世界を運用することのできる「10代の子どもを持つお母さん」のようなものだと申し上げましたが、これは、当然のことなのです。

　生物は、独善的な世界観（生き残るためなら何をしても良い、など）を自力で確立し、そして、そこに正当性やら論理性や合理性なんぞを踏みにじっても、生き残る必要があったからです。

　これに対して、コンピュータは、ちょっとしたプログラムの矛盾記述や、データフォーマットのミスで、たちまち停止（最悪の場合は、暴走）してしまいます。これは、"強いAI"のアナロジーの真逆に立っていると言えます。

　ここまでの話を図でまとめてみると、こんな感じになると思います。

　気まぐれででたらめに変化しつづける自然環境に対して、生物は、自然淘汰というメカニズムで、自らを変化させ続け、対応する能力を獲得してきました。その中でも人間は、運良く「知性」にたどり着くことができたのです。

　さらに、生物の中でも人間だけが、自然に対抗し始めました（農作物を計画的に作ることから、地形に手を加えてダムを作ることまで）。加えて、機械を発明して、人間の仕事の一部を代替させることを実現し、さらにはその機械の効率を恐ろしいレベルまで引き上げました（前述の4700兆倍など）。

　しかし、それは、逆に言えば、機械は人間にのみ依存しており、人間というアシストなくして、進化する手段を持たないということでもあります。少なくとも、機械には、自然淘汰メカニズムを使える可能性がないからです。

　ならば、人間と同様の知性を有する"強いAI"を生み出すにはどのような仕組みが必要になるのでしょうか。それを、図示してみます。

　もし、機械が生物と同じように自然淘汰メカニズムを使って、自らを変化させる能力を獲得すれば、人間と同様の知性を得た"強いAI"となる可能性があります。

　そして、このような"強いAI"は、人間と同様、自力で自然に対抗するようになるだけでなく、人間にすら対抗するようになるはずです。

　しかし、機械が、自然淘汰メカニズムを獲得する可能性は、絶望的に低い（というか、正直にいうと"ゼロ"）だろうと思います。例えば、先ほどの「雨ざらしのパソコン」のように、壊れるだけで終了してしまうでしょう。

　もっとも、移動機能やエネルギー変換機能を具備したパソコンである「ロボット」であれば、いずれは、自然淘汰メカニズムを取り込むことができるようになるかもしれません。

　しかし、それでも、まだ問題は残ります。

　自然淘汰メカニズムは、生存競争が前提になります。そのためには、大量の個体を自己生成する「生殖」機能が必要です。しかし、パソコンがパソコンを自分で作り出す（あるいは、ロボットがロボットを作り出す）機械の生殖メカニズムが、私には、どうにもイメージできません。

　その上、ものすごく長い時間が必要となりそうです。100万年とまでは言いませんが、どんなに少なく見積っても（コンピュータの加速的進化を考慮しても）1000年くらいは必要なのではないかと思います。