不幸な人工知能 〜尊敬と軽蔑の狭間で揺れるニューラルネットワーク：Over the AI ―― AIの向こう側に（21）（8/9 ページ）
今回のテーマは、第3次AI（人工知能）ブームを支えているといっても過言ではない花形選手、ニューラルネットワークです。ただしこのニューラルネットワーク、幾度もダイナミックな“手のひら返し”をされてきた、かわいそうなAI技術でもあるのです。
ネガティブデータは開示されない
これは、研究分野の世界に限ることなく、人間としての本質的な問題なのですが ―― ネガティブデータは開示されない、ということが背景にあります。
現在、第3次AIブームの真っ最中であって、「囲碁や将棋のマスターがAIに敗れた」というニュースや、強化学習がゲームを後略している様子を撮影した動画などが、山のように報道あるいは公開されています。
NHKは、夜の7時のニュースで「AI」という言葉を連発しています。1990年代も、同じことしていました ―― そして、それは成功例だけ、です。
囲碁や将棋のマスターに負けるAIは、ニュースソースとしての価値がありませんし、ゲームに失敗する映像なんぞで、視聴回数を稼げる訳がありません。
そして、学会論文、学会発表でも、素晴しい成功例の桜吹雪状態ですが ―― ここからは、ドラマ『家政婦は見た』の市原悦子さん風に言いますと、こんな感じになります。
奥さま。私見ちゃったんです。旦那さまが……
- たまたまうまく出てきたデータ（これを、私たちの世界では「チャンピオンデータ」と言う）だけを使って（それ以外のデータは使わずに）博士論文を執筆して、博士号を取得していたことを ――
- 他の人には同一の実験環境が構築できないということを使って、実験条件を不必要に複雑にして、意味のある実験データと思わせるように、データの見せ方に工夫を加えていたことを ――
- アーキテクチャのコンセプトだけを紹介して、1行もコーディグされていないシステムに対して、我田引水の学会発表をしていたことを ――
- ネットワークシステムの権威とされている旦那様が、TCPとUDPの違いすら説明できなかったことを……
私は家政婦ではありませんが、そういう話を山ほど知っています。しかし、その詳しい内容については誰にも語らずに、墓場まで持っていくつもりです（私、サラリーマンですから）。
ただ、一つだけイクスキューズ（言い訳）をさせて頂くとすれば、われわれエンジニアや研究員は、絶対にデータの改ざんは行わないし、うそは言いません。それがエンジニアや研究員の最後の矜持（きょうじ）であるからです。
ただ、その結果を「どのように見せるか」ということに関しては、私たちは超一流の技術者です。残念ながら、素人さん（？）に「それ」を見抜くことは不可能だろうと思います。
AI研究者もエンジニアも、被害者面をしていてはいけない
ネガティブデータは今後も開示されることはないでしょう。そして、ネガティブデータを開示しないAI研究者たちは、マスコミ、政府、企業、そして、市井の人々に負けず劣らず、今回のAIブームの当事者であり、そして、近くやってくるはずの、このAIブームを消滅させる加害者そのものです。
だから、ここで申し上げます。
―― AI研究者やエンジニアは、いつまでも、被害者面をしていてはいけない
と。
私たちのパソコンの中に山ほど溜っているネガティブデータは、ポジティブデータと同様に価値があります。自分の失敗した方式の開示は、他人の成功へのプレゼントになるはずなのです。
膨大な失敗は隠され続けて、世界のAI技術を停滞させています。その隠蔽（いんぺい）の核心は、教授や上司や会社への「忖度（そんたく）」、あるいはその後に控える「予算」であることは間違いないでしょう。
しかし ――
他の技術分野はともかくとして、AI技術は、未来の技術であり、誰が権威者であるとは言い切れません ―― というか、権威者たちが、ぶざまな未来予測をしてきたことは、既に「陰湿な人工知能 〜「ハズレ」の中から「マシな奴」を選ぶ」などで説明した通りなのです。
はっきり言って、AI技術くらい権威というものが当てにならない世界はありません ―― だから、私たち研究員やエンジニアは、「私はそう思わないのですが……」を言っても大丈夫だと思うのです ―― 例えば、私のこの連載コラムを、ネタ元にするのも、一つの手段だと思います。
それでは、今回のコラムの内容をまとめてみたいと思います。
【1】今回は、ニューラルネットワークの前半として、ニューラルネットワークの歴史を簡単に説明しました。ニューラルネットワーク技術が、ある手法をきっかけに爆発的にブームとなり、ある限界をきっかけにいきなり下火になる ――それを繰り返してきた歴史をご紹介しました。そして、恐らく現在のニューラルネットワーク（深層学習）も同じ道をたどるだろう、という江端予測をしました。
【2】技術者たちが、これらのブームにやすやすとのせられて、ニューラルネットワークに対する「リスベクト（敬意）」と「デイスリスペクト（軽蔑）」を繰り返してきたこと、そして、その事に対して、一切の自己批判を行っていない事実を開示しました。
【3】ニューラルネットワーク技術の目的は、「その原因と結果を導く、『何か』を、論理化したり、数値化したり、コーディングしたりすることをせず、「丸ごと暗記させる技術である」と定義し、さらに非線形分離問題を解決する技術であることを紹介しました。
【4】ニューラルネットワーク技術のアプリケーションの一つとして、「『バカの人』判定プログラム」という架空のプログラムを想定して、ニューラルネットワークの学習方法と利用方法について説明をしました。
【5】ニューラルネットワーク技術の学習方式である、逆伝搬学習――バックプロパゲーションについて、その本質が「強制的な矯正」にあることを説明しました。さらに、この学習方式の問題点である、（A）学習できるかどうかは運任せであること、（B）学習に成功しても学習データ以外の部分について妥当な出力を出すか一切保証できないことを、説明しました。
【6】AI技術については、華々しい成功例のみが開示され、膨大な量の失敗例が完全に隠蔽されていることと、その隠蔽によってAI技術の発展が妨げられている事実を紹介しました。そして、その責任は、AI技術の研究者や開発者に帰するものであると主張しました。
以上です。
Copyright © ITmedia, Inc. All Rights Reserved.