OpenAI、軽量・安価な新モデル「GTP-4o mini」　「桁違いに安い」

OpenAIは19日、軽量でコスト効率に優れた新たなAIモデル「GPT-4o mini」を発表した。入力トークン100万個あたり15セント、出力トークン100万個あたり60セントと、従来モデルよりも「桁違いに安い」とし、GPT-3.5 Turboより60%以上安くなる。

GPT-4o miniは、テキストと画像(Vison)に対応しており、将来的にはビデオや音声の入出力に対応するマルチモーダルなAIモデルとなる。128Kトークンのコンテキスト・ウィンドウを持ち、最大16Kの出力トークンをサポート。2023年10月までの情報を持っている。また、改良されたトークナイザーにより、非英語テキストのコスト効率が向上しているという。

5月から展開しているGPT-4oの小型バージョンとなり、コスト効率に優れる点が特徴。OpenAIによれば、ベンチマークでは推論タスクにおいて、他の小型モデルを上回り、数学的推論を測定するMGSMでは、Gemini Flashの75.5%、Claude Haikuの71.7%に対し、GPT-4o miniは87.0%を記録したという。マルチモーダル推論のMMMUでもGemini FlashやClaude Haikuを上回っている。

GPT-4oは複数のモデル呼び出しを伴うアプリケーションや、大量のコンテキストをモデルに渡すアプリケーション、カスタマーサポートのチャットボットなど高速でリアルタイムのテキスト応答を行なうアプリケーションなど、低コストとレイテンシーが求められる用途に適しているという。

ChatGPTユーザーは19日から、無料版、Plus、Teamにおいて、GPT-3.5に変わりGPT-4o miniにアクセスできる。エンタープライズ版では、来週から利用可能となる。また、Azure AIにおいても利用可能となる。