2023年11月6日 (現地時間) サンフランシスコにて OpenAI 初となる Developer Day (通称: Dev Day)が開催されました。

目次に沿って、今回の発表を解説します。

発表内容

[重要]GPT-4 Turbo の導入

GPT-4 新しいモデルとして GPT-4Turbo が発表されました。

コンテキスト長が32Kから128Kと大幅に増加し、本１冊程度の入力が可能になりました。洋書であれば専門書１冊をを入力することも可能なサイズです。
※ 標準的な本300ページ分に相当
※ 競合 Anthropic が搭載する Claude2 は100K

現在提供されているGPT-4 8Kの料金と比較して
入力時は66% 出力時は50% 値下げされました。

GPT-3.5 Turbo 16Kのモデル及び料金の更新

従来提供されていた16Kモデルと比べ、
入力料金が66% 　出力料金が50% 値下げされました。
※ 4Kモデルと比べても、入力価格は 従来の33%相当となっており大変お得です。

ファインチューニングの料金が更新

従来と比べて、ファインチューニングされたGPT-3.5 Turbo 4Kモデルの入力は 75% 出力は 62.5% 値下げされました。

学習データの更新

学習データの最新の日付が、2021年9月から2023年4月へとアップデートされました。こちらは今後も継続的に更新予定とされているものの、明確な時期については言及されていません。

レートリミットの更新

GPT-4 の有料会員を対象に、1分あたりのトークンの上限が2倍に引き上げられました。新しい制限料金は、制限料金のページで確認することができます。またアカウント設定から利用限度額の引き上げをリクエストできるようになりました。

[重要] 提供APIのアップデート

1. Assistant API の発表
   スレッド機構が導入され、会話履歴をOpenAIのサーバーに保存できるようになり大幅にAPIコストが削減されました。
   さらに、従来ではブラウザでしか使用できなかったCode interpreter, Retrieval, Function calling を同時に使用可能になりました。
   ※ Streaming 機能が使えないなど、一部機能制限がある模様です。
   ※ 機能や挙動についてはplaygroundから確認可能です。 
   
   

2. DALL-E 3, GPT-4 with Vision, TTSのAPIを公開

このニュースのインパクトが最も大きいかもしれません。画像認識から画像生成、音声合成のモデルがAPIで全て利用可能になりました。
ユースケースがとても多いため、この場での説明は避けますが今後間違いなく様々なアプリケーションが現れると思われます。

※音声認識モデルWhisper V3を公開し近日中にAPIを公開予定

新サービスの発表

• GPTs が発表されました。
  ChatGPTを自然言語でカスタマイズすることができます。
  自然言語でChatGPTと対話しながら、個人やコミュニティに応じた最適なGPTを生成することが可能になりました。

• GPT Store 今月末 公開予定

カスタマイズしたChatGPTをユーザーが公開・共有できるプラットフォームが公開予定です。Revenue Sharing も導入予定であり、人気のあるChatGPTを作成したユーザーには相応の報酬が支払われる仕組みのようです。
現在の Apple Store のように様々なGPTが売買されることでしょう。

その他 (機能追加・アップデート)

• 乱数のシードを指定可能に

常に同じ出力を得られるようになり、デバッグやテストが容易に
※ OpenAI内部でもユニットテストで使用されている機能

• log probability (モデルの出力に対する確信度) を取得できるように (数週間以内にローンチ予定)

例えば、検索サービスにおける自動補完をChatGPTに行わせる際、確信度が高かった時のみ候補を表示する、といった使い方が可能

• 出力形式としてJSONを指定できるようになりました。

• Function callingの精度が向上し、更に1回のAPI呼び出しで複数回実行できるようになりました。

参考文献

DevDay
New models and developer products announced at DevDay
Assistants API
OpenAI Platform