NECは4月24日、NEC開発の生成AI「cotomi」のサービスラインアップを拡充し、専用アプライアンスサーバ「cotomi Appliance Server」を、ソフトウェアやサービスと組み合わせたソリューションとして、同年6月より販売することを発表した。なお同製品には「cotomi Light」が搭載される。

NECは、金融業とコンタクトセンター向けから提供し、これらの取り組みを通じて、生成AI関連事業において、2025年度末までに約500億円の売り上げを目指す。

ソリューション提供の背景

昨今の生成AIの急速な発展に伴い、さまざまな企業や公共機関が生成AIを活用した業務変革の検討・検証を進めており、その需要は今後も増加すると予想されている。ビジネスシーンにおける利用においては、情報漏洩や脆弱性などのセキュリティ面や導入・利用時のコスト面など、ニーズにあわせた柔軟な提供形態が求められている。

今後NECは、開発したcotomi Lightを軸に、セキュアで安全・安心な生成AIサービスの活用を推進する構え。その1つとして、今回、専用アプライアンスサーバを活用した、オンプレミス環境での生成AI利用を実現するソリューションを提供する。

これにより、コンサルティングサービスを通じて、顧客の状況に合わせて適切なLLMやその利用環境を選択することができるようになるという。

  • NEC Generative AI Serviceメニュー

    NEC Generative AI Serviceメニュー

  • 柔軟なLLM提供形態

    柔軟なLLM提供形態

ソリューションの特徴

同ソリューションでは、顧客に合わせたプロンプトテンプレート設定など、cotomiの利用に必要な機能をソフトウェアにした「NEC Generative AI Framework」があわせて提供される。これによりプロンプトエンジニアリングなどの専門知識がなくとも、Web画面での簡単な操作でcotomiを活用することが可能となる。

また、今回開発された専用アプライアンスサーバは、NVIDIA GPUを搭載しており、推論モデル、推論+ファインチューニングモデルの2モデルがある。顧客の拠点へ設置することで、レスポンス時間が短く、セキュアな生成AI利用環境を実現する。

オンプレミス環境での利用は、秘匿性の高い業務に適しており、金融業とコンタクトセンターでの活用が期待できるのに加え、推論+ファインチューニングモデルを活用することで、顧客の業務に特化させた生成AIモデルを短期間で構築することが可能となる。