PKSHA、日本マイクロソフト支援のもと新たなLLMを開発。従来の3倍の速度で回答生成、4月から現場展開へ

最終更新日:2024/03/28

株式会社PKSHA Technologyは、世界で初「Retentive Network （RetNet）」を活用した日英大規模言語モデル（LLM）を開発することを発表しました。

開発は日本マイクロソフト株式会社の技術支援のもと行われ、即時コミュニケーションに強みをもつモデルです。従来の3倍の速度で回答を生成し、コンタクトセンターや社内ヘルプデスクにおける生産性向上を支援します。2024年4月以降、段階的にビジネス現場での実運用を開始する予定です。

都内で開かれた記者会見では株式会社PKSHA Technology 執行役員兼株式会社PKSHA Workplace/Communication 代表取締役佐藤哲也氏、株式会社PKSHA Technology AI Solution 事業本部技術統括責任者(VPoE) 森下賢志氏、アルゴリズムエンジニア稲原宗能氏、日本マイクロソフト株式会社執行役員常務最高技術責任者(CTO) 野嵜弘倫氏、そして株式会社PKSHA Technology 代表取締役社長の上野山勝也氏が登場しました。

マイクロソフトの支援を受け、日英LLMを開発。70億パラメータで長文理解と優れた回答速度を両立

PKSHAは、日本マイクロソフトから学習用インフラの提供及び技術支援を受け、以下の特徴を持つ新たなLLMを開発しました。既に公開されているLLMは、基盤となる構造に「Transformer」を使用しているケースが主流ですが、本モデルは、その後継といわれるRetNetを使用する世界初の日英モデルです。

RetNetは、マイクロソフトの研究開発機関であるMicrosoft Researchによって開発され、学習速度、長文入力時の推論速度やメモリ効率が優れている上に、従来と同等以上の精度を持つことが示されています。メモリ効率に優れるということは、従来モデルよりも少ないGPUで運用することができ、コスト面でも優れています。

RetNetを使用することで効率的な長文理解と優れた回答速度を両立する日英対応のLLMを実現します。モデルのパラメータ数としては、コンタクトセンター等における実装を視野に、出力種度と運用コストのバランスに優れた70億パラメータを採用。その数はRetNetを採用した日英対応のLLMにおいて最大数となります。

このモデルを活用することで、例えば日本語新聞紙2ページ（約2万字）の情報量を入力した際に、精度を保ちながら従来モテルの約3.3倍の速度で出力することが可能となり、入力情報量が多くなるほど優位性が高まります。

また、モデルの開発にはMicrosoft Corporationによって研究開発された深層学習フレームワーク「DeepSpeed」を採用し、その強みである高い並列分散処理能力を発揮するためのLLM学習ノウハウとAzure上のGPUサーパー群を日本マイクロソフトが提供。Deepspeedの活用により効率的に学習を進め、プロトタイプモデルによる性能確認を早期に実現しました。

コンタクトセンターのオペレーター支援や社内ヘルプデスクの問い合わせ対応業務を刷新

PKSHA Technologyは2012年創業当初より自然言語処理（NLP）の研究開発に注力し、コミュニケーション領域を中心にAIの社会実装を行っています。コンタクトセンターや社内ヘルプデスク領域等を中心に6,000件以上のAI活用の実績をもち、その領域において更なる高度化を実現するために本LLMの活用を推進。コンタクトセンターや社内ヘルプデスクの業務を刷新します。

コンタクトセンターでのリアルタイムのCRMを提供し顧客満足度の向上

コンタクトセンターにおいては、人員不足に加えて、サポート領域やチャネルの拡大、複数人員での複雑なサポート体制から、一人ひとりのお客様にとって満足度の高い対応をすることが難しくなっています。個別のお客様の登録情報や対話履歴、その時系列からLLMがアドバイスし、お客様をお待たせする事なく高度な回答をすることが可能になります。オペレーターが個別最適な回答を簡単にできたり、専門性や複数の参考情報を必要とする問合せに対して、大量の規約や社内ドキュメントからLLMが高速に回答を導き出します。

社内ヘルプデスク領域における従業員問合せの高度化

既に、AIヘルプデスクにより社内問合せを自動化する仕組みは存在していますが、社内マニュアルや、過去の議事録、労働規定等、多岐にわたる情報をLLMが読み取りアドバイスすることで、情報検索や問合せにかかる時間を効率化します。

企業内のコミュニケーションにおいては、社内システムやツールの増加、業務の複雑化・多様化を背景に、社内問合せや情報検索の効率化が求められています。今後はリアルタイムでの商談における、顧客のニーズを満たす商品をAIが即時に提案することや、営業資料から最適な情報を抽出するなどといったことも可能となり、営業職等のフロント業務での実用性が期待されます。

日本の先端技術で社会課題を解決へ

日本マイクロソフト株式会社執行役員常務最高技術責任者(CTO) 野嵜弘倫氏

日本マイクロソフトCTOの野弘倫氏は、今回のPKSHA Technologyとの取り組みにおいて、2つの支援を行ったとコメントしました。1つ目は、計算資源およびクラウドのAzure利用におけるクレジット支援、そして2つ目は、言語モデルの学習に必要な多くのGPUとインフラストラクチャーコストの支援です。

さらに、マイクロソフトの研究開発機関によって開発された「RetNet」と「DeepSpeed」の提供をすることで、低コスト推論、トレーニング並列化、パフォーマンスの3点を同時に実現しつつ、大規模でかつ高速なトレーニングが可能になったと述べました。