LLMの1ビット量子化、エッジ対応「MONAKA-X」も 富士通の最新戦略:「AI分野で最も強いCPUを目指す」(2/3 ページ)
富士通は2025年12月2日、技術戦略説明会「Fujitsu Technology Update」を開催。生成AI関連の新技術や次世代CPU「FUJITSU-MONAKA」のロードマップについて説明した。
16ビットのLLMを高精度のまま1ビットに 生成AIを再構成
AIに関しては、特に行政や製造業、防衛といったソブリンAIプラットフォームが不可欠な業種をターゲットに、エンタープライズ向け大規模言語モデル(LLM)「Takane」やAIプラットフォーム「Fujitsu Kozuchi」を提供していく。
富士通 富士通研究所長の岡本青史氏はLLMの課題として開発/運用コスト増大、消費電力増加、エッジAIへの対応の3点を挙げ、それに向けた「生成AI再構成技術」を発表した。これは「量子化」「特化型AI蒸留」の2つの技術からなる。富士通の量子化技術は、16ビットで表現される一般的なLLMを1ビットで表現するというものだ。これによって、推論速度を3倍高速化し、消費電力を98%削減しながら、精度は89%維持できるという。1ビット量子化技術は、Takaneに限らず汎用的に使える技術だといい、オープンソースソフトウェア(OSS)として2025年12月2日に公開した。
特化型AI蒸留技術は、顧客の業種や業務内容に合わせてLLMから必要な知識のみを抽出して再構成することでパラメータサイズを100分の1に縮小するというものだ。推論速度は11倍高速になり、メモリ使用量は70%削減できるうえ、精度は43%改善することが確認できたという。
2030年までのAI技術ロードマップも紹介した。Takaneは2026年にはモーダル融合による企業の業務理解深化、2030年には自ら学習方法を改善して進化する「自己進化型モデル」の構築を目指す。フィジカルAIにも注力するという。
Copyright © ITmedia, Inc. All Rights Reserved.


