ニューラルネットだって混乱する！その対策は？：自動運転車向けの安全性評価（2/2 ページ）

安全な自律性を実現すること」は、AIベースの自動運転車の開発者にとって、解決することが最も難しい問題の1つとして挙げられる。米国ペンシルベニア州ピッツバーグに拠点を置く新興企業Edge Case Researchは、認識スタック のエッジケース（境目ぎりぎりで起こる特殊なケース）を識別する安全性評価プラットフォーム「Hologram」を開発している。

[Junko Yoshida，EE Times]

Elon Musk氏は間違っているのか？

　シミュレーションは、仮想的に走行マイルを構築することで、認識ソフトウェア、AI、深層学習アルゴリズムがどのように状況に対処するかを確認する方法として、自動走行車メーカーに広く評価されている。

　ただし、Teslaは例外だ。TeslaのElon Musk氏は、シミュレーションを特に支持しているわけではない。米国カリフォルニア州パロアルトでTeslaが開催した「Autonomy Day」で、Musk氏が「開発者は、数百万もの“エッジケース”のシナリオに沿って仮想の自動運転車を走らせて、数十億の走行マイルを蓄積する。そのために使用するシミュレーションプログラムは、良いものだが十分とはいえない。当社にも非常に優れたシミュレーションプログラムがあるが、それが実世界で起こる奇妙なことの隅々まで捉えるわけではない」と述べたのは有名な話だ。

　Musk氏は間違っているのだろうか？

　Wagner氏は、Musk氏の指摘を認めつつ、「その指摘はシミュレーションの持つ意味を、過小に表現している」と付け加えた。

　「自動運転車メーカーが実際の自動運転車を使って、自社のシステムの安全性を示せるまで数百万、数十億ものマイルを蓄積するには、何カ月ないし何年もの月日がかかる。だからこそ、シミュレーションは不可欠であるのだが、一方で、シミュレーションでは"未知の未知（unknown unknowns）"を全て知ることはできないのもまた事実だ」と、Wagner氏は述べた。

　Wagner氏によれば、より重要なのは、ニューラルネットワークの実世界データに対する反応を継続的に監視、分析することだという。

　道路を横断する母子の例に戻ると、Wagner氏は、ニューラルネットワークが母親の周りに作り出した境界ボックスは確実なものだとHologramが判断したことを説明した。幼児に割り当てられた境界ボックスは点滅していた。Hologramは、幼児の境界ボックスが現れたり消えたりするようにすることで、自動走行車の開発者らが状況の曖昧さを把握し、幼児が自動走行システムを混乱させる存在であることを分かるように促しているのだ。

認識ソフトウェアをテストするプラットフォーム

　Wagner氏はHologramを「シミュレーションソフトウェア」とは表現しなかった。Hologramはむしろ、自動運転車メーカーが記録した全てのマイルを活用して、ニューラルネットワークが実世界のデータに対してどのように反応するかを分析するためのツールとして機能するという。

　現時点では、ニューラルネットワークが見たものと各オブジェクトに割り当てられたラベルを比較することで、恐らく同じことができる。だが、ラベルを割り当てられ比較されるべきオブジェクトが多いことを踏まえると、規模を拡大することは難しくなるだろう。

　それとは対照的に、Edge Case Researchによると、Hologramは「対峙した例について、認識ソフトウェアを知的にテストする」プラットフォームだという。自動運転車メーカーは、独自のセンサーデータを使って、Hologramにリスクを特定させることができる。Hologramは本質的に、信頼性をより高めるために、開発者がアルゴリズムを再学習させる上で必要な情報を提供するものだ。

　それでは、Hologramソフトウェアは実際には、どこに適用されるのか。

　Wagner氏によると、Hologramはデータセンターに統合され、特定の認識ソフトウェアが実際のデータにどのように反応するのかを分析するという。その分析は、将来の学習に利用されることになる。将来的な話として、Wagner氏は、「Hologramをカメラや自動車の中に搭載したい。そして、どんな不意な状況でもリアルタイムでキャプチャーし検出できるようにしたい」と語った。

Edge Case ResearchのCEO、Michael Wagner氏（左）とEdge Case Researchの共同創設者兼CTO、Phil Koopman氏　出典：Edge Case Research

【翻訳：青山麻由子、田中留美、編集：EE Times Japan】