困惑する人工知能 〜1秒間の演算の説明に100年かかる!?：Over the AI ――AIの向こう側に（5/8 ページ）
コンピュータは、入力値から出力値に至る演算のプロセスを、順番通りに説明できます。ところが、「なぜ、その結果になったのか」と尋ねると、途端に説明できなくなってしまいます。困惑し、黙りこくったり、自分が行った演算を“言い訳”のごとく延々と説明したりと、迷走を始めるのです。
「なんで？」を人工知能に説明させると……
ここで、本連載の第2回「我々が求めるAIとは、碁を打ち、猫の写真を探すものではない」で登場した、コンピュータブレイン、ナンシーを使って説明します。
ナンシーは、推論計算のプロセスを、入力値から出力値に至るまで、その処理を行ったの順番に説明することができます。しかし、あなたの疑問である『なんで、その結果となったのか』の『なんで』に対しては、説明ができないのです。
ナンシーは、何も考えずに、プログラムされた通りのことをやっているだけだからです。ナンシーに上記のA＋B＝Cという「足し算」というプログラムが施されていれば、A＝2、B＝3という入力を与えられたナンシーは、C＝5という値を出力するだけです。
ナンシーは、あなたの疑問の『なんで』には説明はできませんが、その“人工知能技術”プログラムの計算プロセスを説明することはできます。
しかし、皮肉なことに、コンピュータの性能が上がれば上がるほど、その説明は、どんどん難しくなっていくのです。
前回、私がAmazonで購入した5000円のコンピュータ「Raspberry PI3（ラズパイ3）」は、（私の試算で）1581MIPSの性能を持っています。これは1秒間に15億8000万回の計算ができることになります。
もしナンシーを、ラズパイ3に実装して、ナンシーに「1秒間分の推論の計算プロセスを説明しろ」と命じたら、ナンシーは、15億8000万回の数値と関数の説明を開始することになります。
早口で1回分（例えば「Aの初期値は10」）を2秒で口述したとして＊）、ざっくり31億6000万秒＝100.26年を必要とします（31.6億秒÷3600秒÷24時間÷365日）。
＊）非線形関数や微分積分のプロセスを、ナンシーがどうやって説明するのか、さっぱり分かりませんが。
もし、私たちが、人間と同程度の振る舞いをする"人工知能技術"が欲しいのであれば、“人工知能技術”の推論結果に対する『なんで』を説明する“人工知能技術”が必ず必要となります。人間は理由なしに行動することができない生き物で、人間の世界において、『なんで』が登場しないコミュニケーションは、存在しないからです。
しかし、そうなると『なんで』を説明するその人工知能に対する『なんで』を説明する人工知能が……と、無限のループを描いて、もう、訳が分からなくなります。
こうして考えると、人工知能と比べて、人間の知能は、本当にすごいです。
上司：「なんで、月曜日の朝が締切の資料が出来上がっていないんだ！」
（意訳：「『土日に働け』と言ったハズだ」）
部下：「いや、だって、週末は友達とスキーの約束があったし、作らなければならない資料の量が多すぎて、どっちみち間に合わないと思ったからです」
（意訳：「そもそも命令がムチャだろうが」）
と『なんで』に対して、しっかりと回答ができる「人間知能」のなんと素晴らしいことか。
少なくともこの上司は、この部下を怒鳴りつけるか、どっかの部署に飛ばすか、それに対してこの部下は、この上司のパワハラを訴えるか、―― ともあれ、次のアクションに進むことができます。
いずれにしても、黙りこくるか、1秒間の推論結果の言い訳に100年もかかるような、そんな知能なんか ―― 私はいらない。
ともあれ、この人工知能の『なんで』の問題が未解決であるために、これまで、人工知能を試したいと考える若手研究員の志が、どれだけつぶされてきたのか分かりません（お忘れかもしれませんが、私は第2次人工知能ブームの時には、夢と希望にあふれる若手研究員だったのです）。
そして、今なお、私はさまざまなワークショップや研究発表会で、この『なんで』の問題に苦しめられている研究員やエンジニアの話（泣き言）を、リアルタイムで聞いています。（これは、週末研究員ではなく、平日研究員としての話も含まれるので、詳しくはお話できませんが）、とにかく、このネタだけで、私たちは、1滴のアルコールもなく、大いに盛り上がることができるのです。
そして現実に ―― 25年以上も前に、1人で「人工知能」のチームを立ち上げ、そして、その後、自分の研究を進めるために（または、誰からも邪魔されないために）「人工知能」という看板を下げ、「人工知能」という言葉を使うことを封印した ―― そういう研究員を、私は、少なくとも1人知っています。
では、ここからは後半になります。
この連載の後半は、「私の身の回りの出来事」を使った、「数式ゼロ」のAI解説になります。
Copyright © ITmedia, Inc. All Rights Reserved.