ニュース
KDDI、生成AIのELYZA子会社化 最高性能の日本語LLMを展開
2024年3月18日 20:10
ELYZAとKDDI、KDDI Digital Divergence Holdingsの3社は、業務資本提携を締結した。4月1日を目処にELYZAはKDDIの連結子会社になる。KDDIはスタートアップ支援の一環として、生成AIの大規模言語モデル(LLM)を手掛けるELYZAをグループに迎え、ELYZAはKDDIの資産を活用しながらIPOを目指す。
今回の資本業務提携では、KDDIが43.4%、KDDI Digital Divergence Holdingsは10%のELYZA株式を取得する。ELYZAはKDDIの連結子会社になる。KDDIは出資した金額について、数字は非公開ながら「数十億円規模の、後ろのほう」(KDDI 代表取締役社長CEOの高橋 誠氏)としている。
ELYZA(エライザ)は、東大・松尾研究室発の、LLMに特化した生成AIスタートアップ企業。2019年夏からLLMにフォーカスした研究を開始しており、すでに企業への導入実績もいくつかある。今回の発表に先立つ3月12日には、オープンモデルを活用する700億パラメータの日本語LLM「ELYZA-japanese-Llama-2-70b」を発表しており、国内向けの日本語LLMとしてはグローバルモデルに勝る最高精度と謳っている。
ELYZA、「GPT-3.5 TurboやGeminiに匹敵」の日本語LLM
2024年3月12日 18:59
その最大の特徴は、最もコストと時間がかかる事前学習部分はオープンモデルを導入してスキップし、効率化を図っていること。日本語データによる追加の事前学習と、ELYZA独自データによる事後学習に注力して開発し、ベンチマークテストではグローバルモデルに勝る日本語レベルを実現した、高性能なモデルに仕上げている。
「ELYZA-japanese-Llama-2-70b」はその名前にあるように、Metaがオープンモデルとして公開している700億パラメータの「Llama 2 70B」を利用しながら、高性能な日本語モデルになるよう、大規模な追加日本語データの事前学習に注力したもの(「Llama 2 70B」は日本語に非対応)。開発にあたっては、経産省の支援により産総研のスーパーコンピューター「ABCI」の計算処理能力の13%が独占的に割り当てられるなど、先端的で大規模な計算能力を用いて開発された。
国内ではNTTやソフトバンクも大規模言語モデルの開発を進めているが、どちらも独自の垂直統合型。KDDIは、生成AI関連の取り組みにおいて、当初からスタートアップを支援したいという意向で、ゼロから開発する方法には否定的な立場をとっていたほか、ELYZAの取り組み方のほうが、グローバルでスピーディに開発されるオープンモデルを柔軟に取り込めて、より素早く流行をキャッチアップできるという目論見もあるとする。
一方、KDDIはELYZAに計算処理能力を提供するため、1,000億円規模を投資して計算基盤を構築する計画。ELYZAによれば、事前学習にオープンモデルを使うとはいえ、日本語の追加事前学習や後段の部分の開発でも計算資源は圧倒的に不足しているといい、KDDIがGPUを中心とした計算基盤を構築・提供することで、性能に特化したり、領域特化型LLMを開発したりといった、幅広い種類の開発が行なえるようになる。また今後は4,000億パラメータのモデルを目指す計画もあるほか、700億パラメータのモデルの安定稼働なども検証していく。
こうした多方面への展開を含めると「1,000億円の投資でもリターンが得られるだろう」(KDDI高橋氏)としている。
2024年の春からは、KDDIとELYZAによる共同の取り組みが開始される予定。KDDIでも社長直轄組織としてAIの活用を推進する部隊を作り、組織を横断してAIの活用を進めていく。通信品質の制御やカスタマーサポートといった自社の業務への応用だけでなく、ほかの企業や自治体に向けて、生成AI関連サービスを提供していく。
グローバルモデルに一矢報いる第4の選択肢
ELYZA 代表取締役 CEOの曽根岡侑也氏は、KDDIとの資本業務提携の決め手について、KDDIの計算基盤の提供計画などを挙げる一方、「本当の決め手はカルチャー。スタートアップに親身になってくれて、IPOの手段も示してくれた」と、KDDIが「スイングバイIPO」と呼ぶ、KDDIの資産を活用しながらIPOを目指す方法などに共感したことを挙げている。
一般ユーザーが日常で使えるレベルの大規模言語モデルは、OpenAIの「ChatGPT」、Googleの「Gemini」、Anthropicの「Claude」という3つの製品に収斂しつつあり、いずれも外国製。曽根岡氏は「グローバルモデルに一矢報いる」として、第4の選択肢を目指す方針を語っている。
