「汎用人工知能」の研究、一時的に止めるか否か：AI業界で論争が巻き起こる（1/2 ページ）

汎用人工知能（AGI）の進化をめぐって、論争が巻き起こっている。虚偽の情報の発信など、人間にとって危険性がないことが証明されるまでは、AGIベースのシステムを世界規模で展開すべきではない、と警告する側と、それに異議を唱える側が、互いの主張を戦わせている。

[Sally Ward-Foxton，EE Times]

　非営利団体Future of Life Instituteは、AI（人工知能）技術関連の学者や技術業界の主要人物たちが署名した公開書簡を発表し、GPT-4を超える強力なAIシステムのトレーニングを6カ月間、停止することを求めている。これに対してAI業界が反応した。この書簡に署名したAI専門家としては、「Turing Award」の受賞者であるYoshua Bengio氏や、カリフォルニア大学バークレー校（University of California, Berkeley）のコンピュータサイエンス学部教授であるStuart Russell氏、Appleの共同創設者Steve Wozniak氏、TwitterのCEO（最高経営責任者）Elon Musk氏などが名を連ねる。

　書簡は、「この一時停止は、全ての主要な関係者たちが関与し、一般に広く検証可能でなければならない。一時停止を迅速に実行できない場合は、各国政府が介入して一時停止措置を実施する必要がある」と述べている。

　最近、OpenAIの「ChatGPT」のような、GPT-4を搭載したAIエージェントが大々的に宣伝されている。そのさなかで書かれたこの書簡で、専門家たちはさまざまな懸念を示している。例えば、AIにより情報チャンネルがプロパガンダや虚偽であふれかえってしまうことや、現在充実している仕事も含め、あらゆる職業が自動化されること、人類の文明が制御不能に陥る危険性があることなどを挙げている。

　書簡によると、「このような決断は、選出されていない技術リーダーに委ねてはならない。強力なAIシステムの開発は、それによってプラスの影響が及び、そのリスクを管理可能であることが確信できる場合にのみ行うべきだ」という。

　書簡の署名者の1人であるカリフォルニア大学バークレー校教授のStuart Russell氏は、The Observer紙の記事の中で、「問題の核心は、GPT-4の機能について、OpenAIだけでなく他の誰も実際のところを分かっていないという点にある」と述べている。

　Russell氏は、Microsoftが挑発的なタイトルの論文の中で、「GPT-4は、汎用人工知能（AGI：Artificial General Intelligence）システムの不完全な初期バージョンであると見なすのが妥当だ」と主張していることについて言及しながら、「未知の内部原理に従って動作し、独自の内部目標を追求しているのかどうか分からないようなシステムを世界規模で展開するのは、無責任ではないだろうか」と述べている。

　さらに同氏は、「OpenAIが独自に行ったテストでは、GPT-4が、ボットをブロックする目的で設計されたCAPTCHAテストを通過するために、人間に対して意図的にうそをつくことができた」と指摘する。

　Russell氏によると、一時停止案では基本的に、「開発者たちが、過度の危険が生じないことを実証できるようになるまでは、システムをリリースすべきではない」と考えられているという。