NEC Generative AI ServiceではNECの独自LLMに加えてプロンプト生成を支援するソフトウェア、オンプレミス環境での利用が可能となるハードウェア基盤やLLM活用シナリオの企画に関するコンサルティングサービスなどの提供を予定している。
NEC Generative AI Serviceで提供するサービス[クリックで拡大]
2023年10月提供開始予定のソフトウェア「NEC Generative AI Framework」は、LLMに加えてプロンプトテンプレートや質問情報の付加、ファインチューニングなど、生成AI利用に必要な機能をまとめたものだ。千葉氏は「生成AIに質問を投げかけ、適切な回答を得るにはコツがいる。NEC Generative AI Frameworkでは顧客の社内データやノウハウを学習させることで、生成AI利用のそうした独特の難しさを解消できる」と述べた。
NEC Generative AI Frameworkのデモでは、NEC社内のデータを学習させたLLMから、同社独自の需要予測手法を検索する活用例を紹介していた。社内データを学習させることで、例えば金融業では顧客データを入力してその顧客に合った金融商品を検索するなどの使い方ができるという。デモ担当者は「人間の仕事を奪うという考えではなく、心強いパートナーと思ってほしい」と説明した。