生成AI監査技術は、法令や企業規則に対応するナレッジグラフを活用して、出力結果が法令や企業規則に準拠しているかを検証する。生成AIが回答を出力する際に、従来はブラックボックスだった回答の判断根拠を提示すると共に、回答内容と判断根拠を再度比較することで回答の妥当性を検証する。ただし技術担当者によると、法令や企業規則が更新/変更された場合は、与える情報を更新する必要があるという。
デモでは、道路交通法や労働安全衛生規則をインポートしたナレッジグラフを活用して、自転車で走行中の画像から法令違反の有無を判定した。また、OpenAIが2024年5月13日に発表した「ChatGPT-4o」を使用して同様の判定を行った場合と比較して、判断根拠の提示/検証により、誤った回答を受け取る可能性を下げられることが示された。
園田氏は、生成AI市場について「ChatGPTをはじめとした汎用的な大規模モデルの活用が拡大している。一方で、企業は、生成AIを活用する上で、ここまで挙げてきたようなさまざまな課題を抱えている。エンタープライズ生成AIフレームワークの提供を通じて、課題を解決し、生成AI活用をけん引するグローバルトッププレイヤーを目指す」と語った。
Copyright © ITmedia, Inc. All Rights Reserved.