メディア

ハラリ氏が超知能の開発競争に警鐘 「神を奴隷にはできない」:超知能より用途限定のAIを(1/3 ページ)

歴史家のYuval Noah Harari氏は、AIの超知能化を目指す技術業界の開発競争について、経済的合理性を欠いた「市場の失敗」だと警告した。AIは人間の指示に従う単なる道具ではなく、自ら判断する存在であり、人間が制御し続けられる保証はないと指摘。超知能の開発競争をやめ、安全性の研究や医療/交通/環境など具体的な課題を解決するAIに投資を振り向けるべきだと訴えた。

» 2026年11月18日 10時30分 公開
[Pablo Valerio,EE Times]

 歴史家であり哲学者で、「サピエンス全史」などの著書でも知られるYuval Noah Harari氏は、米調査会社Gartnerがスペイン・バルセロナで2026年11月9〜12日に開催したイベント「Gartner IT Symposium/Xpo 2026」に登壇。企業のIT部門の幹部らに向けて、人工超知能(ASI:Artificial Superintelligence)の開発を巡る技術業界の競争は、経済的合理性ではなくイデオロギーに基づく幻想に突き動かされた、歴史的な「市場の失敗」だと警告した。

 Harari氏は、英Financial Timesの編集者であるJohn Thornhill氏とステージ上で対談し、自律的に動作するソフトウェアを単なるツールとして扱うことは、その本質を根本的に見誤ることになると主張した。

同氏は、企業の最高情報責任者(CIO)や政策立案者らに向けて、制御不能な「デジタルの神」を生み出すことを目指すのではなく、資金や研究開発のリソースを汎用的な超知能から、具体的な課題を解決する用途を限定した検証可能なAIシステムへと振り向けるべきだと訴えた。

自ら判断し、次の技術を生み出すAI

 Harari氏は「AIは、火や印刷機、電気、コンピュータなどに匹敵する歴史的な転換点となる技術なのか」とする質問に対し、AIが自ら判断/行動する「エージェント」であることを挙げた。「AIは、エージェントである初めての技術だ」と述べ、火や原子力の利用は人間の意思によって決まる一方、AIは自律的に行動できると説明した。

 「火を使って料理を作るか、森林を焼き払うかどうかは、人間が判断を下すのであって、火が決めることではない。AIは、自ら判断を下すことができるという点で異なる。新しいアイデアを自ら生み出したり、次の技術を自ら発明したりすることもできる。印刷機はラジオを発明できなかったが、AIは、より優れたAIを生み出すことが可能だ」と語った。

「Gartner IT Symposium/Xpo」に登壇したYuval Noah Harari氏 「Gartner IT Symposium/Xpo」に登壇したYuval Noah Harari氏[クリックで拡大]

 「AIシステムを単なるツールと見なすのは間違っている。AIを本当に理解するには、それを動物や生物、宇宙人のような存在として考える方がよい。AIは人間の手中に収まるものではなく、人間との関係の中で捉えるべき存在だ」(Harari氏)。Thornhill氏から「自律エージェントを人間に従属する存在にとどめることは可能なのか」と問われると、「人間よりもはるかに高い知能を持つようになれば、それは不可能だ」と答えた。

 こうしたAIの特性は、ビジネス上の解消しがたい矛盾を浮き彫りにする。Harari氏は「まず1つ目の疑問は、『AIは、人間よりもはるかに高い知能を持つようになるのか』という点だ。技術業界はそうなることに賭けている。そして2つ目の疑問は、『人間は、自身よりもはるかに高い知能を持つ存在を制御する方法を知っているのか』という点だ。その答えは明らかに『NO』である。神を人間の奴隷にして、自らの思うままに利用することができるという前提に基づいて神を作り出すのであれば、『神』の意味を理解していないことになる」と述べた。

 Harari氏は、超知能を進化の次なる段階と見なす研究者たちに対し、知能と意識は異なるものだと指摘した。「そこには愛も美もなく、痛みも悲しみもない。完全な暗闇のような世界であり、そんな文明には何の価値もない」と述べている。

       1|2|3 次のページへ

Copyright © ITmedia, Inc. All Rights Reserved.

特別協賛PR
スポンサーからのお知らせPR
Pickup ContentsPR
Special SitePR
あなたにおすすめの記事PR

RSSフィード

公式SNS

All material on this site Copyright © ITmedia, Inc. All Rights Reserved.
This site contains articles under license from AspenCore LLC.