1つのGPU／CPUで推論可能な超軽量LLM「tsuzumi」を24年3月から提供へ：学習コストは「GPT-3」の300分の1に（2/2 ページ）

NTTが、独自開発した大規模言語モデル（LLM）「tsuzumi」を2024年3月から提供開始する。tsuzumiは、パラメーターサイズが6億または70億と軽量でありながら、世界トップクラスの日本語処理性能を持つLLMだ。

[半田翔希，EE Times Japan]

金融業界や医療業界での活用事例を紹介

NTT 社長の島田明氏［クリックで拡大］

　NTTは2023年10月から、パートナー企業と共同でtsuzumiの実証実験を行っている。会見では、NTT 社長の島田明氏が登壇し、tsuzumiの活用事例を紹介した。

　東京海上日動火災保険は、事故対応部門においてトライアルを実施。tsuzumiを活用することで、オペレーターが通話後に行う事務作業の時間を50％削減できる見込みだという。

　同社には、全国で1万人のオペレーターが所属している。オペレーターは、顧客から事故やケガの状況を電話でヒアリングした後、必要な情報を整理してシステムに入力している。現在、この作業時間を削減するため従来のAIを活用しているが、専門用語が多く、要約が難しい通話も多いことから年間で合計80万時間を要しているという。同社担当者は「tsuzumiを活用することで、従来では難しかった専門的な通話を要約する仕組みを検討し、快適な事故対応プロセスの実現を目指す」と語った。

東京海上日動火災保険による「tsuzumi」の活用事例［クリックで拡大］ 出所：NTT

　京都大学医学部附属病院は、tsuzumiに電子カルテのデータを学習させることで、システムが電子カルテに記載された医療データを読解した上で、共通フォーマットに適切な形で整理し、分析できる状態にすることを目指している。

　日本では、電子カルテの導入が進んでいる。しかし、同じ症状や疾患でも病院や医師によってカルテの書き方が異なるため、電子カルテのデータを収集しても分析／活用することが難しい。tsuzumiの活用によって、電子カルテの情報を分析／活用できるようになれば、患者一人一人に最適な治療が可能になる。また、医薬品の効果や副作用に関する情報も分析できるため、医薬品開発の時間短縮や経費削減などに貢献できると考えられる。

左＝京都大学医学部附属病院による「tsuzumi」の活用事例／右＝電子カルテへの「tsuzumi」の活用［クリックで拡大］ 出所：NTT

　木下氏は、AI分野におけるNTTの強みについて「NTTは、2022年のAI分野の論文数ランキングで世界12位、国内では1位と、AI分野で世界トップクラスの研究力がある。tsuzumiは、NTTが持つ40年以上の自然言語処理研究の知見／技術を結集したLLMだ」と説明した。

左＝世界のAI分野の論文数ランキング／右＝自然言語処理分野（日本語）での実績［クリックで拡大］ 出所：NTT