Harari氏は、社会への影響について、AIが文明を支える官僚制という「オペレーティングシステム」に入り込もうとしていると指摘した。「官僚制は、歴史の中で過小評価されてきた立役者だ」と述べ、さまざまな制度が言語を通じて信頼を生み出してきたと説明した。今やソフトウェアもその領域に進出しているという。
「AIは、官僚制の世界に生まれたネイティブだ。人間にとって官僚制が異質で奇妙なものに感じられるのは、人間の方が官僚制より数百万年も古いからだ。人間は森の中で生まれ、官僚制は人類の進化の歴史の中でかなり遅い段階になって登場した。AIは官僚制の世界に生まれたネイティブだ。AIはみな、森ではなくオフィスで生まれた。そして金融から宗教に至るまで、世界中のあらゆる官僚的な仕組みを掌握しようとしている」と語った。
同氏は、AIがもたらす最大の危険は、事故が起きることではなく、人間が取って代わられることだと指摘した。「全てが順調に進んだとしても、AIは人間の理解能力をはるかに超えた新しい世界を作り出す。人類は、集団で認知症に陥ったかのような状況に直面するだろう。かつて人間は、最も知的で有能かつ強力な主体であり、自分の生活のあらゆることを理解し、制御していた。しかし、状況が変わり、人間は取り残されてしまう」と述べた。
同氏は、市場が自らの終焉につながりかねない技術に資金を投じていることへの疑問を示した。「市場は合理的であるはずだ。神を生み出すことに対する投資利益率(ROI:Return on Investment)は、誰にも計算できない」と述べた。Elon Musk氏が「10年以内にはお金がなくなる可能性がある」と予測したことや、Anthropicによる「人類の存亡に関わるリスク」を認める新規株式公開(IPO)目論見書が存在することなどを挙げ、超知能を巡る開発競争は合理的なビジネスではなく、イデオロギーに突き動かされた運動だと指摘した。
Harari氏は、企業の経営幹部や市民が直面している差し迫った課題について、システムの複雑化がもたらす脆弱性に警鐘を鳴らした。最近発生したスーパーマーケットの冷蔵庫へのハッキングに触れ、「『賢くない』冷蔵庫の方が、スマート冷蔵庫よりもはるかに優れている。100個の輪でつながった鎖のようなもので、たった1カ所でも安全性が確保されていなければ、全てが破綻してしまう」と述べた。
同氏は経営幹部に対し、「ソフトウェアエージェントを業務に組み込む場合、社会学的な視点で考える必要がある。AIを単なるツールと見なしてはならない。自律的に行動する主体、独立した存在として捉えるべきだ。われわれは、新しい種類の移民を社会に迎え入れようとしている。人間の移民ではなく、デジタル移民だ。彼らは独自の目標や行動様式を持ち、次第に独自の集団を形成し、協力するためのネットワークを構築するようになるだろう」と語った。
欧州にとって、技術的な依存は主権の喪失につながるとHarari氏は警告する。「病院から空港、軍隊に至るまで、国のインフラ全体が海の向こうから提供されるAI技術に依存し、ボタン1つで停止させられるとしたら、その国の国民にはもはや主権がない」と述べた。
同氏は、欧州が取りうる戦略として3つの選択肢を示した。1つ目は米国または中国の属国となること、2つ目は5000億ユーロ超(約5540億米ドル)を投じて各国が独自のシステムを構築すること、3つ目は欧州の連邦化をさらに進め、共通のインフラを構築することだという。
Harari氏は、3つ目が最善の選択肢だとする一方、「現在の欧州が進んでいるのは1つ目の道だ。スペイン、ドイツ、英国などで政治の中心的な争点となっている問題を見れば、今の欧州がその方向に進んでいることは明らかだ」と警告した。欧州は人間の移民問題に気を取られるあまり、「デジタル移民」の問題を見過ごし、知らず知らずのうちに他国への従属に向かっていると指摘した。
Copyright © ITmedia, Inc. All Rights Reserved.
記事ランキング