「スカイネット」が現実に？ AIの未来像は“自我”がキーワード：“AI”はどこへ行った？（3）（1/3 ページ）

10年前は、「最も革新的なAIは、自己学習すること」と言われていた。実際、自己学習するAIの開発は進んでいて、実用化が可能なレベルまで達しているものもある。“自己学習”がもう一歩進めば、AIに“自我”が芽生える可能性も否定できない。映画「ターミネーター」に登場する「スカイネット」のような、自我を持つ人工知能がAIの未来像になるのだろうか。

[世古雅人，カレンコンサルティング]

　今回は、AIの未来像を考えてみよう。

　実は、この「AIの未来像」のキーワードを導き出せる、ちょうどよい出来事が最近起こっている。それが、宇宙航空研究開発機構（JAXA）の「イプシロン」ロケットだ。

「イプシロン」ロケットに搭載のAI“ROSE”

　当初は8月27日がイプシロン打ち上げ予定日であったが、打ち上げの19秒前で中断された。JAXAのプレスリリースによれば、管制センターの地上装置が、ロケットに搭載されたコンピュータから姿勢データが届くよりも0.07秒(70msec)早く姿勢計算を開始したことが原因だという。そして、このロケットに搭載されたコンピュータこそ、「ROSE」と呼ばれるAI（人工知能）である。ちなみにイプシロンは、「AIを初めて搭載したロケット」としてメディアで報じられた。

“自己”と“自我”

画像はイメージです

　8月27日のイプシロン打ち上げの中止は、AI「ROSE」が、自己診断（セルフチェック）機能により自らを診断した結果、0.07秒のずれを異常と判断し、自ら停止命令を出した結果だった。

　ここで「自己診断」について考えてみたい。

　そもそも、イプシロンに限らず、自己診断機能を“AIの機能”と言い切るにはショボく感じる。自己診断機能そのものは、身近な家電製品のほとんどに搭載されるなど、既に実用化されているからだ。電源投入時はもちろん、異常発生時にユーザーにそれを知らせ、場合によっては自らをシャットダウンする。自動車も勝手に停止するかどうかは別にして、似たような自己診断機能を持っている。

　イプシロンの責任者であるJAXAの森田泰弘氏は、ROSEによる発射中断について興味深いことを述べている。ROSEが取った行動は、「形の上では人間の思い至らない部分を機械が発見して止めるという基本精神に基づく」というのだ。これはいろいろな意味に解釈できると思うが、筆者的には2つあるかなと考える。

• 1つ目は、「人間が検知できないようなことを、機械が検知して止めること」
• 2つ目は、「人間が考えもしなかったことを、機械が検知して止めること」

　今回のイプシロンは前者の例で、0.07秒のずれをROSEが異常と検知して発射を止めたことになる。では、2つ目はどうだろう。止まれば“めでたし”だが、万が一、止まることなくAIそのものが制御不能となり、自分自身で停止すらできなくなることはないのだろうか？

　SF映画などでよく見かけるシーンのように、AIに“自我”が芽生えると、「止める」のではなく「止めたくない」ということも起こり得る。

AIの“自我”といえば、既に本連載に何度も取り上げた映画「ターミネーター」に登場する「スカイネット」だろう。これは、“自我”を持つコンピュータの典型である（映画の中の話ではあるが）。

将来は「スカイネット」のようなAIも……？

　現在のインターネットのようなネットワークと、軍用ネットワークを接続する基幹コンピュータであるスカイネットは、あるとき“自我”に目覚める。人間を排除しようとし、これに気づいた人間がスカイネットを停止しようと試みるも、スカイネットはそれを“攻撃”と受け止め、人間を全て敵とみなし、核ミサイルを発射して世界は終えんを迎える――、というストーリーだ。この場合、スカイネットに自我が芽生えたことで防御本能が働き、それが度を越して攻撃モードに入ってしまったのだろう。

　さて、現実にこのようなことが起こり得るかは分からないが、将来的に絶対にないとも言い切れない。「ターミネーター」の初期の作品が公開された頃はまだインターネットもない時代であったが、今やインターネット上で自ら学習するAIの研究が始まっているからだ。10年近く前の全米アカデミー出版局の刊行物の中で、「最も革新的なAIとは、自らオンライン学習するマシンである」と書かれている。さらに“推論”を行うシステムが実現すれば、AIが問題を理解し、意思決定を行うようなイメージさえ持ってしまう。

　アメリカでは、音声や画像などの“非構造化データ”に代表されるビッグデータの分析・データマイニングの研究に最も力を入れているのが、国防総省をはじめとする軍や政府機関だという。AIを活用したビッグデータ分析などが本格化すれば、それこそスカイネットのようなものができるかもしれない。スカイネットは映画の世界の話だと思っていたが、ひょっとしたらひょっとするかも……いやはや何とも言えないところだ。

　余談ではあるが、スカイネットを開発したサイバーダイン社（もちろん、架空の会社である）とGoogleが、似ているそうだ。近い将来、GoogleがスカイネットのようなAIを作り上げるのでは……という声もちらほら上がっているという。