PKSHA、RetNetを活用したLLMを開発　3.3倍の速度で回答

PKSHA Technology(パークシャ)は、世界で初めて「Retentive Network(RetNet)」を活用した日英大規模言語モデル(LLM)を開発すると発表した。開発は日本マイクロソフトの技術支援のもと行なわれ、ビジネスにおける生成AIの実用性を向上。コンタクトセンターや社内ヘルプデスクにおける生産性向上を支援していく。4月以降、段階的にビジネス現場での実運用を開始する。

現状ほとんどのLLMは、基盤となるアーキテクチャに「Transformer」を使用しているが、新モデルは、その後継といわれるRetNetを使用。RetNetは、Microsoft Researchによって開発され、学習速度、長文入力時の推論速度やメモリ効率が優れている上、従来と同等以上の精度を持つという。メモリ効率に優れることから、従来よりも少ないGPUで運用可能で、コスト面でのメリットがある。このアーキテクチャを活用し、効率的な長文理解と優れた回答速度を両立する日英対応のLLMを実現する。

モデルのパラメータ数は70億。この値はコンタクトセンター等における実装を視野に、出力精度と運用コストのバランスを考慮したもの。例えば日本語の2万字(新聞紙2ページ)の情報量を入力した際に、精度を保ちながら従来モデルの約3.3倍の速度で出力でき、入力情報量が多くなるほど優位性が高まるとする。

モデルの開発にはMicrosoftによって研究開発された深層学習フレームワーク「DeepSpeed」を採用。LLM学習ノウハウとAzure上のGPUサーバー群は日本マイクロソフトから提供されるなど、マイクロソフトの支援のもとで実現している。

LLMの用途としては、コンタクトセンターや社内ヘルプデスク業務を想定。

PKSHAでは、2012年の創業当初からコミュニケーション領域を中心にAIの社会実装を行なっており、コンタクトセンターや社内ヘルプデスク領域など6,000件以上のAI活用の実績をもっている。こうした領域における高度化を実現するために本LLMの活用を進めていく。

コンタクトセンターでは、リアルタイムのCRMを提供し顧客満足度の向上を目指す。個別の顧客の登録情報や対話履歴、その時系列を、LLMが読み取りアドバイスすることで、オペレーターの最適な回答につなげるほか、専門性や複数の参考情報を必要とする問合せに対し、大量の規約や社内ドキュメントからLLMが高速に回答を抽出。顧客を待たせずに高度な回答を行なえるようにする。

社内ヘルプデスクでは、従業員問合せの対応力を高める。社内マニュアルや、過去の議事録、労働規定等、多岐にわたる情報をLLMが読み取りアドバイスすることで、情報検索や問合せにかかる時間を効率化する。

また、即時性の高い回答ができるため、今後はリアルタイムでの商談において、顧客のニーズを満たす商品をAIが即時に提案することや、営業資料から最適な情報を抽出するなどの応用も想定。営業職等のフロント業務での実用化も目指すという。