倫理観に基づくAI規格の策定へ、IEEEが始動：イニシアチブを始動

IEEEが、AI（人工知能）を活用したシステムの設計プロセスに倫理観を取り入れることを掲げたイニシアチブを立ち上げた。エンジニアからだけでなく、ビジネスマンや弁護士、経済学者、哲学者からも広く意見を求めている。

[Rick Merritt，EE Times]

AIに“倫理感”を

　IEEEは2016年12月13日（米国時間）、AI（人工知能）を活用したシステムの設計プロセスに倫理観を取り入れることを掲げたイニシアチブを立ち上げた。IEEEは、「1年以上をかけて準備してきたこの取り組みが、活発な議論を呼び、コンセンサス（意見の一致）を得た活動につながることを期待している」と述べている。同イニシアチブでは既に、3つの標準規格の策定を進めているという。

報告書の表紙 出典：IEEE

　IEEEは、AI技術とその有用性の間で発生するさまざまな問題をまとめた138ページの報告書を発表した。同報告書の内容は、個人情報にまつわるプライバシーの取り扱い方や対処方法、自律兵器システムに対する人間の責任を定義、監査する方法まで多岐にわたる。

　同報告書では、「複合現実（MR：Mixed Reality）システムをマインドコントロールやセラピーに活用することは可能か」など、活発な議論を呼びそうな質問を提起している。また、AIを適用した事例を提案するとともに、これらの事例に対して一般からも意見を募っている。

　「IEEE Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems（AIおよび自律システムにおける倫理規定に関するIEEEの国際指針）」のチェアマンとして同イニシアチブを率いるRaja Chatila氏は、「重要なのは、AI技術の開発に携わる人々が倫理を考慮できるような体制を整えることだ」と述べている。

　同イニシアチブでは、エンジニアからだけでなく、ビジネスマンや弁護士、経済学者、哲学者からも意見を求めている。Chatila氏は、「専門家だけでなくシステムのユーザーや出資者など、社会全体から意見を募っている」と述べている。なお、Chatila氏は、フランス国立科学研究センター（CNRS：Centre National de la Recherche Scientifique）のリサーチディレクターで、パリのピエール・マリー・キュリー大学（Pierre and Marie Curie University）でAIおよびロボティクスについて教えている。

Raja Chatila氏

　Chatila氏は、「懸念事項を並べるだけでは不十分だ。当イニシアチブでは、方法論の考案や標準規格の提案を行いたい」と述べている。

　同氏は、1年以上前のIEEEの会議で同イニシアチブのアイデアを出したグループの1人だ。同氏は当時、IEEEのロボット／オートメーション学会でプレジデントだった。また、フランスの同様の学会でもプレジデントを務め、設計倫理に関する報告書を発表していた。

　こうしたグループが核となって、学会や業界の100人以上のメンバーで構成するチームへと成長し、今回の報告書が作成された。同イニシアチブには、Cisco SystemsやIBM、Google、NXP Semiconductorsなども参画している。

　これまでのところ、同イニシアチブは3つのアイデアを作成し、それらは既にIEEEの標準規格策定プロセスを通過している。このうち「P7001」と「P7002」では、自律システムにおける個人情報保護について詳述している。

　IEEEは2017年3月6日までの期間、同イニシアチブの見解や提案に対する意見をオンラインで募集している。

【翻訳：滝本麻貴、編集：EE Times Japan】