シュッと ChatGPT のトークンとコストを出してみる
ちゃっす(/・ω・)/
お仕事で ChatGPT 触ってると結局どのくらいコストかかりますのん?( ・ω・)
ってよくありますでございます(/・ω・)/
ので、なんかシュッと雑な見積もりできるスクリプト的なサムシングが欲しかったので書いてみた
という話(/・ω・)/
基本的には OpenAI Cookbook の内容を踏襲(/・ω・)/
tiktoken ってなパッケージでなんとなく入力、出力のトークンを確認
んで、入出力にかかるトークンかけることのコストを複数モデルでしゅっとだすのよ(/・ω・)/
Hugging Face Space にシュッと置いてみた
ここでアクセスできるぞ☆
System Prompt と User プロンプトと出力として帰ってきそうなテキストを入力~
んで、どれくらいリクエストするかの数字も入力~
ボタンぽち~
とりあえずよく使いそうな3モデルだけ出るようにしてみた(/・ω・)/
気が向いたらアプデするかも。
ちなみに、実際のリクエストでトークン確認したいときは
from openai import OpenAI
client = OpenAI(api_key = "sk-")
response = client.chat.completions.create(
model=model,
messages=messages,
temperature=0,
)
print(response.usage)
みたいにすればわかるぞ☆
ということでおしまい。
この記事が気に入ったらサポートをしてみませんか?