NTTドコモ、NTTコミュニケーションズ、NTTコムウェアの3社は8月21日、大規模言語モデル（LLM）を活用した生成AI（人工知能）による社内業務のDX（デジタルトランスフォーメーション）推進や、生成AIの付加価値を高める新たなサービスの提供を目指し、生成AIの社内活用を行う実証実験を開始すると発表した。

同実証実験では、ドコモが開発した「LLM 付加価値基盤」を3社で活用する。まずは、３社の全従業員の業務効率化に向けて、例えば、業務における専門性の高い問い合わせに対し、社内ルールやマニュアルをベースにLLMが生成した文章で回答を行うなど、社内業務において同基盤を活用する。

  • LLM 付加価値基盤構成・活用イメージ

    LLM 付加価値基盤構成・活用イメージ

また、利便性や回答の正確性を検証し、顧客応対業務などへの適用可否を検討する。同基盤は、今回の実証実験で得られたノウハウをもとに最適化を行い、2023年度中のサービス提供開始を目指す。さらに同基盤を、ドコモが保有するビッグデータや音声認識/画像認識などのAI技術と組み合わせ、新たな付加価値サービスの検討も行う。

昨今、あらゆる業界において生成AIの活用が進む一方で、企業が利用する際には、情報漏洩につながる懸念や、大規模データゆえの正確性の担保の難しさなどの課題がある。また、差別・暴力表現や社会規範に反する表現などの不適切回答から利用者を守り、安全に生成AIを活用するための仕組みが必要だ。

同基盤はこれらの課題に着目し開発されたもので、プロンプト入力時に回答の元となるマニュアルなどのファイルを追加で投入すると、ファイルの内容を元に回答を生成し、回答にファイル内のリファレンスを表示する機能などを備えているという。

さらに、機微情報の外部送出フィルタリング機能やLLMからの不適切回答のフィルタリング機能を追加。また、同基盤は「Azure OpenAI Service」と連携して利用可能。今後はNTT研究所が独自開発する分野特化型のLLMをはじめ、オープンソースソフトウェアや各ベンダが提供するLLMの活用も検討していくとのことだ。