ネットワンシステムズは8月2日、業務の効率化・品質向上、新たなビジネスモデル創出、顧客への価値提供の最大化を目指し、独自の生成AIを活用した、netone LLMシステム「NELMO」を開発し、運用を開始したと発表した。

LLMシステム「NELMO」の主要機能

同社のエンジニアが多くの工数を割いている社内における技術のQ&A業務をVirtual Agent(（質問に基づいて回答や指示を提供する機能)機能で自動化している。

問い合わせ数が多いメーカー1社から実装を開始し、この機能を既存業務フローに組み入れました。これにより、問い合わせのために別システムにアクセスするという手間を減らし、かつ利用者が生成AIを意識することなく、従来の業務の中で自然に利用できるようにしまた。同機能により、一部業務ではエンジニアの工数を約22％削減したという。

「議事録生成機能」では、Web会議などの録画データをアップロードすることで、文字起こし、要約、結論、課題などを出力する。従来、人がこれらを行う際は1時間ほどかかっていたが、同機能は1分程度で出力できるという。

LLMシステム「NELMO」の特徴

生成AIの業務適用においては、自社のビジネスに適した形でのデータ活用が重要であることから、「NELMO」にRAGやプロンプトエンジニアリングを実装し、生成AIの精度を向上しているという。

例えば、Virtual Agent(社内技術Q&A支援)機能において、過去ナレッジが存在しない質問は、従来の人が対応するフローを残しつつ、その回答を新たにRAGに取り込む実装している。

  • Virtual Agent(社内技術Q&A支援)機能の仕組み

「NELMO」の開発にあたっては、米Databricksの開発支援サービス「Delivery Solution Architect」、「Professional Services」を利用た。業務への効果が高い順に実装計画を立て、設計、実装およびLLMOps（大規模言語モデル運用）の仕組みづくりをDatabricksの「データ・インテリジェンス・プラットフォーム」上で行ったことで、3カ月で本番環境を実現したという。

今後の展望

Virtual Agent機能は対応メーカーを増やすことで、工数削減効果を最終的には50％にすることを目指す。また、2024年度中に保守サービスにも「NELMO」を活用し、過去の社内技術Q＆Aナレッジ、メーカーのBug情報等から、生成AIによる切り分けの迅速化、品質向上につなげる。

ネットワーク設計等の提案書や設計書のドキュメント生成、機器コンフィグの生成およびIaC（ Infrastructure as Code）と連動する自動検証・デプロイなど、ネットワーク運用フェーズにおいても「NELMO」を活用していく予定としている。