メディア

LLMの1ビット量子化、エッジ対応「MONAKA-X」も 富士通の最新戦略「AI分野で最も強いCPUを目指す」(2/3 ページ)

» 2025年12月03日 15時30分 公開
[浅井涼EE Times Japan]

16ビットのLLMを高精度のまま1ビットに 生成AIを再構成

 AIに関しては、特に行政や製造業、防衛といったソブリンAIプラットフォームが不可欠な業種をターゲットに、エンタープライズ向け大規模言語モデル(LLM)「Takane」やAIプラットフォーム「Fujitsu Kozuchi」を提供していく。

富士通のAI研究戦略 富士通のAI研究戦略[クリックで拡大] 出所:富士通

 富士通 富士通研究所長の岡本青史氏はLLMの課題として開発/運用コスト増大、消費電力増加、エッジAIへの対応の3点を挙げ、それに向けた「生成AI再構成技術」を発表した。これは「量子化」「特化型AI蒸留」の2つの技術からなる。富士通の量子化技術は、16ビットで表現される一般的なLLMを1ビットで表現するというものだ。これによって、推論速度を3倍高速化し、消費電力を98%削減しながら、精度は89%維持できるという。1ビット量子化技術は、Takaneに限らず汎用的に使える技術だといい、オープンソースソフトウェア(OSS)として2025年12月2日に公開した。

 特化型AI蒸留技術は、顧客の業種や業務内容に合わせてLLMから必要な知識のみを抽出して再構成することでパラメータサイズを100分の1に縮小するというものだ。推論速度は11倍高速になり、メモリ使用量は70%削減できるうえ、精度は43%改善することが確認できたという。

「生成AI再構成技術」の概要 「生成AI再構成技術」の概要[クリックで拡大] 出所:富士通

 2030年までのAI技術ロードマップも紹介した。Takaneは2026年にはモーダル融合による企業の業務理解深化、2030年には自ら学習方法を改善して進化する「自己進化型モデル」の構築を目指す。フィジカルAIにも注力するという。

AI技術ロードマップ AI技術ロードマップ[クリックで拡大] 出所:富士通

Copyright © ITmedia, Inc. All Rights Reserved.

特別協賛PR
スポンサーからのお知らせPR
Pickup ContentsPR
Special SitePR
あなたにおすすめの記事PR

RSSフィード

公式SNS

All material on this site Copyright © ITmedia, Inc. All Rights Reserved.
This site contains articles under license from AspenCore LLC.