Linux Foundation Researchはこのほど、企業などの組織に所属したAIに精通する316名からの生成AIに関する調査レポート「Shaping the Future of Generative AI」を公開した。
2024年8月から9月にWebアンケートで行われた調査を基にしたレポートは、中核となる活動に65%が生成AIモデルの推論(inference)と回答するAIに精通する技術者にアンケートを行っており、訓練済みのモデルを使用して新しいデータに対する予測や判断を行うような専門家を対象としている。52%がモデルを社内で提供しているような組織での生成AI周辺の取り組みが垣間見える。
AIモデル改善の代表的なテクニックとなるプロンプトエンジニアリング、RAG(Retrieval Augmented Generation)、モデルのファインチューニングの3つにおいて、プロンプトエンジニアリングが7割の導入で8割が効果を示し、RAGは5割導入だが21%が顕著な効果を得ている(プロンプトエンジニアリング15%、ファインチューニング12%)。生成AIモデルの構築やトレーニングでもっとも使われているフレームワークはPyTorch(63%)、TensorFlow(50%)、CUDA(42%)。モデルの推論(inference)では、LangChain(44%)、LlamaIndex(30%)、AutoGPT(13%)などツールの使用状況も掲載している。