ニュース
NTT版LLM「tsuzumi」サービス開始 軽量でも日本語処理はGPT-3.5超え
2024年3月26日 08:00
NTTは、同社が開発した大規模言語モデル(LLM)「tsuzumi(つづみ)」の商用提供を企業向けに開始した。
tsuzumiの名称は、邦楽器の「鼓」に由来するもの。日本の楽器であり「鼓」は小さく、調べ緒による調律によってさまざまな音が出せるほか、見た目や音、演奏時の所作が美しいことが、日本語が得意で小型軽量、さまざまなカスタマイズにも対応するtsuzumiのイメージに合致したという。
tsuzumiは、パラメタサイズが7B(70億)と軽量で、OpenAIのGPT-3(175B)に比べて1/25のサイズであることから、企業などのクローズド環境でも導入が可能。そのほか、専用線(閉鎖網)を使ったNTTグループのデータセンターでのプライベートクラウドによる運用や、パブリッククラウドでの運用など、企業のニーズによって利用方法を選択できる。
日本語と英語に対応するが、特に日本語性能では世界トップクラスとし、日本語LLMの性能を評価するRakudaベンチマークでは、GPT-3.5を上回り、同規模の国産LLMを大きく上回るという。
高いカスタマイズ性も特徴で、チューニングを低コストで実現。社内環境に導入できるため、機密性の高いデータの学習や企業独自のドキュメント、業界特化等のカスタマイズが容易に行なえる。
マルチモーダル性を備え、言語だけでなく、図表の読解も可能。PowerPointのファイル等を読み込み、解析が可能。
また、2023年11月の発表時点から、さらに日本語性能が向上しており、GPT-3.5に対する勝率は約30％アップしているという。
tsuzumiの導入相談はすでに500件以上に達し、そのほとんどは大企業からの引き合い。その理由は、オープンデータのみを使ったOpenAIでは、社内業務への適用が難しいことや、機密データをセキュアに学習させたいなど、機密性の高いデータの取り扱いに関するものが6割を超える。
業界別では製造業が18％、自治体が14％、金融が12％と上位を占める。用途は、CX・顧客対応の改善(31％)や、EX・社内業務改善(32％)、IT/運用自動化(14％)などが上位となっている。
3つのソリューションを提供
NTTコミュニケーションズでは、tsuzumiの商用提供開始に合わせ、tsuzumiのソリューション展開を開始。ニーズの高いCXソリューション(業務・業界別)、EXソリューション(業務・業界別)、CRXソリューション(IT運用自動化)の3分野に特化したソリューションを提供する。
CXソリューションでは、カスタマフロントソリューションとして、デジタルヒューマン技術や生成AIを活用した顧客応対ソリューションを提供するほか、コンタクトセンターソリューションとして、コールセンターの効率化を実現するソリューションを提供。オペレーターにリアルタイムで顧客への回答候補を提示したり、アフターコールワークと呼ばれる、顧客対応後の報告も、やりとりの要約を自動化することなどで作成を支援する。
EXソリューションでは、金融・医療・行政・小売・運輸などの業界を中心に、業界、業務に合わせ従業員の生産性向上に繋がるソリューションを提供。プライベート環境に生成AIの動作環境を構築することで、社内に閉じた業務マニュアルや製品仕様書、設計書など秘匿性の高いデータを学習させ、業務改善に貢献する。
CRX(事業継続性強化)ソリューションでは、ITシステム運用の自動化ソリューションに加え、顧客のシステム情報とセキュリティ情報を学習したAIが対応アドバイスを生成することで顧客の環境にもとづいたサポートを提供する。セキュリティ運用の負担を低減することで、マルウエア対策など年々増え続けるサイバー攻撃へのセキュリティ対応稼働の増大に対応する。
NTTの島田明社長は、tsuzumiの商用提供により、2027年に1,000億円の売上げを目指すとした。