NTTのLLM「tsuzumi」が商用提供を開始、オンプレミス環境でも利用可能

日本電信電話（以下、NTT）グループは3月25日、独自開発のLLM（Large Language Models：大規模言語モデル）「tsuzumi」について、法人向けに商用提供を開始することを発表し説明会を開いた。説明会は、重要無形文化財保持者で能楽師小鼓方の森澤勇司氏の演奏で幕を開けた。

能楽師森澤勇司氏

tsuzumi発表後の反響は500件超

tsuzumiと、その名の由来ともなっている鼓には、次のような共通点がある。鼓は邦楽器であり小型だ。一方のtsuzumiは日本語性能の高さを特徴としており、パラメータ数が70憶と小型軽量である。GPT-3は1750憶パラメータともいわれ、tsuzumiが非常に小型であることが分かる。鼓は調べ緒と呼ばれる麻ひもを締めたり緩めたりすることで調律できるが、tsuzumiも手軽で柔軟なチューニングが可能な点で共通している。

NTTが2023年11月にtsuzumiを発表して以来、ヤマト運輸や富士薬品、東京海上日動などの企業をはじめ、福井県や町田市、千葉大学など、自治体や学術機関などから500件以上の相談があったそうだ。ちなみに、2023年10月時点ではGPT-3.5に対し勝率52.5%だった日本語性能は、説明会の時点で81.3%と約3割向上している。

NTTの代表取締役社長である島田明氏は「すでに500件も問い合わせがあったのは、正直に言って嬉しい。LLMをチューニングできるエンジニアなど問い合わせに対応可能な人材を社内で育成しながら提供する予定だったので、予想以上の反響ではあるが、しっかりとお客様に対応していきたい」と反響に対する心情を語った。

NTT 代表取締役社長社長執行役員島田明氏

約500件の相談の内訳を見ると、「個人情報や機密性が高いデータを顧客の環境でクローズドでセキュアに学習させたい」が63%と圧倒的に多い。37%は汎用的な活用を検討している。業界別に見ると、「製造」（18%）、「自治体」（14%）、「金融」（12%）、「IT」（11%）などが多い。利用用途では、「CX・顧客対応改善」（31%）、「EX・社内業務改善」（32%）、「IT / 運用自動化」（14%）が並ぶ。

利用環境やソリューションに応じて柔軟に対応

tsuzumiの利用環境はオンプレミス、プライベートクラウド、パブリッククラウドから選択可能。これにより、機密性が高いデータを扱いたいという要望にも対応する。

用途に応じて利用環境を選べる

また、サービスCXソリューション、業界・業務別EXソリューション、IT運用サポートソリューションの3つのメニューを展開し、幅広い業種を支援する。各メニューについて、コンサルティングからインフラの導入支援までトータルでサポートする。

展開する3つのメニュー

金融、小売、サービス、流通などの業種向けに展開するCXソリューションでは、コンタクトセンターや店舗での接客などさまざまな顧客接点をサポートする。コンタクトセンターのオペレーション業務を例にとると、リアルタイムな情報検索や自動要約、情報抽出により、通話の待ち時間の削減や応対品質の向上、アフターコール業務の効率化などが見込める。

「CONN」のようなデジタルヒューマンと組み合わせれば、資産運用や不動産、旅行などの複雑な手続きも支援できるという。店舗型の顧客接点の他にも、Webや電話などを介してAIが接客可能になる。

バーチャルコンシェルジュの例

EXソリューションはさまざまな業種に向けて、各業種に特化したサービスを展開する。議事録作成や要約、業務マニュアルの作成、レポート作成の支援など、企業や自治体の生産性向上に寄与するという。

行政窓口を例にすると、行政に関する業務の情報を学習させたLLMを活用して、実際の窓口業務のプロセスに適した生産性向上サービスが構築できるという。このような場合にも、オンプレミスやプライベートクラウド上のデータを利活用できるtsuzumiの特長が使えそうだ。

行政の窓口業務にLLMを活用する例

IT運用サポートソリューションは、社内ITヘルプデスクや情報システム部門、セキュリティ対策などを対象に提供。リモートワークなど多様な働き方が取り入れられる中でもセキュアな環境を維持するために、IT運用や社内ヘルプデスク業務の効率化と高度化を支援する。

セキュリティ対応のIT運用サポートソリューションの場合は、LLMが得意とする自動化と簡易化によって、セキュリティ運用の軽減を図る。LLMを活用したAIアドバイザーのようなものを構築すれば、操作手順などの運用サポートやセキュリティレポート、セキュリティ対策の相談、脆弱性診断などをAIで自動化できる。

IT運用におけるLLM活用の例

tsuzumiユーザーによるパートナープログラムなども開催予定

NTTグループは今後、tsuzumiを活用した新たなサービス開発やソリューションメニュー開発を支援する、パートナープログラムを開始する。生成AIを導入するサービスを開発するソリューションパートナー、および特定の業界のデータを持つモデルパートナーは5月以降に、コンサルティングから構築まで対応可能な企業や地域顧客とのリレーションを持つ企業のインテグレーションパートナーは9月以降に順次募集を開始する。

パートナー企業らにはAPI（Application Programming Interface）を一部無償提供するなど、サービスへの組み込みや業界・業態特化モデルの共同開発、tsuzumiを用いたインテグレーションを促進する予定だ。

パートナープログラムの概要

さらに、tsuzumiをはじめAIを利用する企業同士が実際の具体的なユースケースを共有可能なメンバーズフォーラムなども開催する方針としている。会員制のWebサイトでは具体的な事例やその効果が共有されるほか、NTTコミュニケーションズの共創空間であるOPEN HUBではネットワーキングなども計画されている。