生成AIを活用したアプリを作っている時に、 AIの回答に時間がかかりユーザー体験を損なってしまう事に気が付きました。そこで、ChatGPTに回答が完了するまでの時間を短くすること確認しました。

以下に、パフォーマンス向上に役立つヒントを示します。

1. 入力の簡潔化

• 入力する質問や指示を可能な限りシンプルかつ簡潔に保ちます。長大であったり、不必要に情報が多い質問は、解析に余分な時間を要します。

2. 明確な質問をする

• 曖昧またはあいまいな質問よりも、特定かつ具体的な質問をするようにしましょう。処理の必要があるコンテキストが少ないほど、応答までの時間も短縮されます。

3. 必要な情報を最初に伝える

• 質問の前文で必要なコンテキスト情報を伝え、APIが情報を予測するための余分なリソースを使うことなく、ダイレクトに応答できるよ うにサポートします。

4. 最適なトークン数を選択する

• レスポンスのトークン数は、必要最小限に設定しましょう。応答に求められるトークン数が多いほど、処理時間が長くなります。より短い応答でご回答が可能な場合は、レスポンスのトークン数を事前に絞り込むのが賢明です。

これらのTipsを意識してAPIリクエストを構成することで、レスポンスまでの待ち時間を有効に短縮できるはずです。