「汎用人工知能」の研究、一時的に止めるか否か：AI業界で論争が巻き起こる（2/2 ページ）

[Sally Ward-Foxton，EE Times]

何のための「一時停止」なのか

　CerebrasのCEOであるAndrew Feldman氏は、米国EE Timesの取材に応じ、「署名者たちの利害関係を考慮することなく、またその動機について疑問を持つことなく書簡を読むことは難しい」と述べている。

　Feldman氏は、「書簡では、一定規模を超えるモデルに対して一時停止を求めている。優れたアイデアかもしれないが、私欲を取り除くことは難しい。最大規模ネットワークを確保している人々は書簡に署名しておらず、最大規模ネットワークを保有していない人々が最も不安を抱えているのだ。その不安はもっともなことだが、それはまるで、最前線にいない人たちが、『自分たちが最前線に物資を移動させるまでは停戦しよう』と言っているような、残念な様子に見えてしまう」と述べている。

　また同氏は、「ChatGPTのようなAIアプリケーションを、規制を必要とするカテゴリーに分類すべきかどうかを判断する必要がある。航空機のように米国連邦航空局（FAA：Federal Aviation Authority）の規制が必要なのか、または書籍や情報のように、規制すべきではないものとして分類するのか、ということだ」と付け加えた。

　「これは、他に良いたとえがないため、悪いたとえだといえる。しかし社会全体として、それをどのバケツに入れるのかを判断しなければならない。そしてその判断は、書簡ではなくオープンな場で、最大規模の能力を持つ人々と、その影響について大きな懸念を抱いている人々とによって行われるべきだ」（Feldman氏）

　同氏は、「OpenAIの開発チームは、非常に思慮深く素晴らしい科学者たちであるが、企業に自社の製品を規制させるのは間違った措置だといえる」と警告する。

　「書簡の目的について否定的な見方をすると、『彼らは非常に賢明な人々であるため、この書簡が、話し合いを始めて規制を始動させること以外は何の役にも立たないということを知っている』といえるだろう」（Feldman氏）

　Google Brainの共同創設者であり、現在は米スタンフォード大学（Stanford University）の非常勤教授を務めるAndrew Ng氏と、Turing Awardの受賞者で、現在はMetaのAI部門責任者を務めるYann LeCun氏は最近、書簡に対する返答として、ライブでオンライン討論を行った。両氏とも、書簡には署名しておらず、研究開発の一時停止についても支持していないが、最終的に適切な規制を実行することに賛成している。

　LeCun氏は、「研究開発の遅延を求めることは基本的に、新たな蒙昧（もうまい）主義の波を起こそうとしているように見える。なぜ知識と科学の発展を減速させるのだろうか。そして、製品に関する疑問点もある。私は、人々の手にわたる製品を規制することについては全面的に支持するが、研究開発を規制することは無意味だと考える。より優れた安全性の高い技術を実現するために利用できる知識をただ減らしてしまうだけで、何の役にも立たない」と述べる。

　同氏はこの書簡を、印刷機が発明された後のカトリック教会の反応に例えている。カトリック教会は、「この技術によって社会全体が崩壊し、数百年に及ぶ宗教戦争を引き起こした」と主張する点では正しかったが、それによって近代科学や合理主義、民主主義なども実現されたのだ。

　「このように新しい技術が導入されるときに必要なことは、メリットやプラス効果を最大化し、マイナス効果を最小化することだ。だが、それは必ずしも“止める”ことを意味するものではない」（LeCun氏）

　LeCun氏は、署名者たちの動機について推測している。AGIが普及し、短期間で人類（の知能）を上回ることを純粋に懸念する人々もいる一方で、より合理的な人々は、対処すべき害や危険性が存在すると考えている。

　Ng氏は、「少なくとも、人類の知性に到達する可能性のあるシステムの青写真のようなものができるまでは、そのシステムをいかに適切に、安全に使用するかという議論は時期尚早ではないか。クルマが存在しないのに、クルマ用のシートベルトを設計しようとしているのと同じことだ。現在の疑問のいくつかは時期尚早であり、未来に向けたパニックはやや見当違いだと感じる」と語った。

　Ng氏は、「例えば、AIを安全に研究するために、より透明性を高めたり、監査を入れたり、AIの基礎研究に公的資金を提供したり、といった提案の方が、建設的だ」と続ける。「AIの研究開発に減速を求めるよりも悪いことは、政府が介入し、AIの研究を一時停止させる法律を制定することだろう。これは最悪のイノベーション政策だ。政府ですら（完全に）理解していない技術の進歩を遅らせるべく、政府が法律を制定するのは、良い考えとは到底思えない」（同氏）

【翻訳：田中留美、編集：EE Times Japan】

原文へのリンク