ChatGPTとChatGPT APIの違い、 料金モデル、データポリシー等の比較

ChatGPTとは？

ChatGPTはOpenAIが開発したGPT（Generative Pre-trained Transformer）シリーズのモデルを基にしたチャットボットやテキスト生成アプリケーションの一部です。具体的には、ユーザーからの質問やプロンプトに対してテキスト応答を生成する目的で使用されることが多いです。

GPTは大規模なテキストデータを元に訓練された深層学習モデルであり、様々なテキスト生成タスクに対して高い性能を発揮します。GPTのアーキテクチャは、特定のタスクに対して先に訓練する（pre-train）ことなく、大量のテキストデータで事前訓練され、その後特定のタスクに合わせて微調整（fine-tuning）されることが一般的です。

ChatGPTは、このGPTモデルをチャットのコンテキストに最適化したもので、ユーザーとの対話形式での情報提供や質問応答などに使用されます。OpenAIはGPTのバージョンアップに伴い、性能や応答の質も向上してきました。

ChatGPTのプラン

ChatGPTには無料プランと有料プランが存在します。

• ChatGPT無料プラン
• ChatGPT有料プラン（ChatGPT Plus）

GPT-3.5とGPT-4の違い

以下より抜粋させていただきました。

【7/24更新】ChatGPTとは？使い方、料金、できること、注意点、社会への影響まで徹底解説 – DXコラム – 株式会社エクサウィザーズ

2023年4月現在、ChatGPTで使えるGPT-3.5、GPT-4のモデルの違いについて説明します。

GPT-3.5とGPT-4の大きな違いとしては

• 画像も入力可能になったこと
• 日本語の精度が飛躍的に向上したこと
• 開発者・ユーザーが口調やスタイルを指定可能になったこと
• AIの幻覚（ハルシネーション）が大幅に低減したこと
• 危険な回答が低減したこと

などがあげられます。

特に画像が入力可能になったというのは興味深いことです。目次作成のプロジェクトでも利用可能か検証してみたいと思います。

ChatGPTのメッセージ送信回数の上限

ChatGPTはメッセージの送信回数に上限があります。メッセージ送信数の上限は 50回/3時間 です。（2023年7月19日）

無料プラン、有料プランでメッセージ送信回数の上限に違いはないようです。

また、メッセージ送信回数に応じて料金が変わることもありません。料金は月額固定です。

ChatGPT APIとは

ChatGPT APIはOpenAIが提供するAPIで、ChatGPTモデルを利用して、外部のアプリケーションやサービスからテキスト応答を生成するためのインターフェースです。APIを使用することで、開発者はChatGPTの能力を自分のアプリケーションやウェブサイト、その他のサービスに統合することができます。

ChatGPT APIを使用すると、以下のようなことが可能です：

1. 質問応答: ユーザーからの質問に応じて情報を提供する。
2. 文章生成: 与えられたプロンプトに基づいてテキストを生成する。
3. チャットボットの機能: ユーザーとの対話を通じて情報を提供やサポートを行う。
4. その他多岐にわたる応用: クリエイティブな書き込み、コード生成、言語翻訳など。

APIを利用するには、通常、APIキーが必要で、このキーを使用してリクエストを送信することで、ChatGPTモデルにアクセスできます。OpenAIのウェブサイトには、APIの使用方法や料金、利用制限などの詳細情報が提供されているはずです。

ChatGPTとChatGPT APIの違い

ChatGPTとChatGPT APIの違いを簡潔に表にまとめると以下のようになります。

注意が必要なのは、ChatGPTとChatGPT APIは異なる料金プランだということです。

• ChatGPT – 固定料金モデル – 無料プランまたは有料プラン(ChatGPT Plus)
• ChatGPT API – 従量課金モデル

ChatGPT APIの利用方法

以下でアカウントの作成方法を解説しています。

あわせて読みたい

ChatGPT Google Colabから利用する 【OpenAIのAPIキーを取得する】 以下からOpenAI platformのページにログインします。 View API keysをクリックします。 https://platform.openai.com/overview Create n...

ChatGPT APIの料金計算方法

ChatGPTの料金計算方法をまとめると以下のようになります。

ChatGPT APIの料金体系

• 課金方式: 従量課金制
• 月額固定料金: なし
• 請求タイミング: 月末にその月の利用分を請求
• 料金基準: トークン数と利用言語モデルに基づく

gpt-3.5-turboの料金 (4Kの場合)

• 料金計算式: 利用料金 = (入力トークン + 出力トークン) × 使用モデルの利用単価 

トークンの計算方法

• 注意: 日本語は英語に比べてトークン消費量が増える傾向にある。

トークンとは？

料金体系を理解する上でトークンの仕組みを理解しておいた方が良いでしょう。以下にトークンについて解説します。

トークンとは?

• トークンは、テキストを分解した最小の単位です。
• 通常、トークンは単語や記号を指しますが、言語や文脈によっては一単語が複数のトークンに分割されることもあります。

トークンの計算

• 英語では、大抵の単語や記号が1トークンとしてカウントされます。
• しかし、日本語のような言語では、トークンの計算が異なることが多い。例として、ひらがなやカタカナは通常、1文字が1トークンとしてカウントされますが、漢字は1文字で2〜3トークンとしてカウントされることがあります。

トークン数の制限の対象と注意事項

セッションのトークン数の制限の対象

• GPTモデルは、一度のセッションで扱えるトークンの数に制限があります（例: GPT-3では2048トークン）。
• 一度のセッションで扱うトークン数には、過去のメッセージ、質問、応答が含まれます。

トークン数の制限に関する注意点

ChatGPTのセッション内のトークン数が4096トークンを超えると、一部のテキストを削除する必要がありますが、その際にいくつかの注意点があります。

セッション内のトークン数が制限を超えた場合、古いテキストを削除する必要が生じます。通常、最も古いメッセージが削除されます。この場合、以下のことに注意してください：

1. コンテキストの一部が失われます: 最も古いメッセージが削除されるため、セッション内の過去のコンテキストの一部が失われます。これにより、モデルの理解力や応答の一貫性に影響が出る可能性があります。
2. 応答がコンテキストに依存する: ChatGPTは直前のテキストコンテキストに依存して応答を生成します。セッション内で削除された過去のメッセージは、モデルが応答を生成する際に考慮されなくなります。したがって、長い対話の途中でコンテキストが削除されると、モデルの応答がそれに合わせて変わる可能性があります。
3. トークン数に注意: 新しいメッセージを追加するたびに、セッション内のトークン数は増加します。セッションが4096トークンの制限に近づくと、さらなるトークンを追加できなくなり、その結果、応答を生成することが難しくなります。

したがって、セッション内のトークン数を管理し、必要に応じて古いコンテキストを削除することが重要です。セッションを維持しながらトークン数を適切に制御することで、スムーズな会話を続けることができます。

仮に長い文章を分割して送ったとしても、トークン数の上限を超えれば削除されるため、ChatGTPの応答のコンテクストに含まれなくなります。

履歴と質問、答えを合わせて、4096トークンが上限です。トークンはほぼ単語に相当するものです（後述）。トークン数を表示するには、次のようにします：

print(res["usage"]["prompt_tokens"],      # （履歴と）質問のトークン数
      res["usage"]["completion_tokens"],  # 答えのトークン数
      res["usage"]["total_tokens"])       # 合計

合計が4096を超えることはありません。延々と会話を続けるには、不要な履歴を削除する必要があります。削除も含めて、簡単な会話を続けるには、例えば次のようにすればいいでしょう：

import openai

msg = [{"role": "system", "content": "あなたは賢いAIです。"}]
while True:
    prompt = input("> ").strip()
    if prompt in ["quit", "exit"]:
        break
    msg.append({"role": "user", "content": prompt})
    res = openai.ChatCompletion.create(model="gpt-3.5-turbo", messages=msg)
    ans = res["choices"][0]["message"]["content"].strip()
    print(ans)
    msg.append({"role": "assistant", "content": ans})
    if res["usage"]["total_tokens"] > 3000:
        msg.pop(1)
        msg.pop(1)

ChatGPTのAPIを使う

トークン量の計算方法

トークン量の計算方法には主に以下の2種類が挙げられます。

トークン量の計算方法

• OpenAIが提供するTokenizerを使う: UIから計算出来ます。
  • OpenAI Platform
• Pythonのライブラリtiktokenを使う: ChatGPT APIを使ってPythonプログラムから計算出来ます。
  • openai/tiktoken: tiktoken is a fast BPE tokeniser for use with OpenAI’s models.

各言語モデルの金額

Pricingに各モデルの1Kトークンあたりの料金が掲載されています。4Kや8Kはコンテクスト（セッション内の会話の履歴、現在の入力、現在の出力）に含むことが出来るトークン数の上限です。以降、このことを「扱える」と書くことにします。ある言語モデルの中にも扱えるトークン数が異なるモデルがあり、モデルごとに料金が異なります。

GPT-4

GPT-3.5 Turbo

Fine-tuning models

具体的なやり取りのトークン数と料金の試算

例として、以下の文章の一回の送受信にかかるトークン数を計算してみます。

送信メッセージ

OpenAIについて教えてください。

返信メッセージ

もちろん、OpenAIについてお伝えします。

OpenAIは、2015年に設立された非営利団体で、AIの研究と開発を行っています。設立時の主な目的は、人類全体に利益をもたらす形で安全なAI技術を推進し、広めることです。

以下は、OpenAIに関する基本的な情報です：

ミッション: OpenAIのミッションは、人間のような能力を持つAIを安全に開発し、この技術の恩恵がすべての人々に行き渡るようにすることです。

原則: OpenAIはいくつかの重要な原則に基づいています。例えば、長期的な安全性を確保することや、他の研究グループが安全に関する価値を共有していれば協力すること、技術リーダーシップの維持などが挙げられます。

研究の公開: OpenAIは研究を公開することをコミットメントとして掲げていますが、安全性やセキュリティ上の懸念から、将来的にはすべての研究を公開できなくなる可能性も認識しています。

GPT: あなたが今対話しているこのモデル、ChatGPTを含む、Generative Pre-trained Transformer (GPT) シリーズは、OpenAIによって開発されました。GPTは自然言語処理のタスクにおいて高い性能を示しています。

協力と競争: OpenAIは他の研究機関や組織との協力を重視しています。特に、AIの安全性に関する研究においては、競争よりも協力の姿勢をとることを宣言しています。

資金: 初めは完全に非営利組織として活動していましたが、後に資金調達のためにOpenAI LPという有限責任企業を設立し、その企業を通じて研究を進める形になりました。しかし、その主な使命は変わっていません。

これはOpenAIに関する基本的な情報の概要です。もしご質問や詳細を知りたい点があれば、お気軽にお知らせください。

送信メッセージ：17トークン (18文字)

返信メッセージ：1010トークン (784文字)

返信メッセージを参考にすると、1文字あたりのトークン数は約1.30となりました。

ついでに適当な英語の文章についてもトークン数を調べてみます。

The GPT family of models process text using tokens, which are common sequences of characters found in text. The models understand the statistical relationships between these tokens, and excel at producing the next token in a sequence of tokens.

You can use the tool below to understand how a piece of text would be tokenized by the API, and the total count of tokens in that piece of text.

参考：英語のメッセージ：79トークン (390文字)

1文字あたりのトークン数は約0.20となりました。

GPT-3.5 Turboの4Kを使用する前提で料金を計算してみます。（参考として計算した英語のメッセージは含みません。）

上記の1回のメッセージの入出力にかかるトークン数

USD $1=147 JPYとして計算すると、上記の1回の入出力のやり取りは 約0.3円 となりました。

概算のため、1Kトークン=1000トークンとして計算しました。実際は1Kトークン=1024トークンとなるはずです。

4Kや16Kといったモデルの違いは？

以下を参考にさせていただきました。
超低価格で長文要約が可能に：GPT-3 「16k」が登場（簡単な使い方は？）｜Martin

各モデルについている ◯◯K は一度に扱えるトークン数の上限を指しています。

例として、4Kモデルと16Kモデルでは以下のようになります。

• 4Kモデルでは、4K=4096トークンまで扱える
• 16Kモデルでは、16K=16385トークンまで扱える

1Kトークン=1024トークンとなるようです。

モデルごとに送信出来る最大の文字数は？

モデルごとに送信出来る最大の文字数の概算を計算してみます。

上記の検証データに基づいた1文字あたりのトークン数

• 英語: 1文字あたり0.20トークン
• 日本語: 1文字あたり1.30トークン

これと各モデルでのトークン数の上限から上限の文字数を計算します。

モデル・言語ごとの最大文字数

英語と日本語を比べると、送信出来る文字数が約7倍となっており、英語の方が扱える文字数に関してかなり有利です。また、料金に関しても1文字あたりのトークン数が英語の方が日本語よりも小さいため、有利です。可能であれば英語を使うと料金・扱える最大文字数ともに優位でしょう。

モデルのK数が大きくなると、一度に送信できる文字数が多くて便利ですが、その分1トークンあたりの料金も上がります。このあたりは実際に扱うやり取りに応じてモデルを選択すると良いでしょう。

ChatGPT APIを使う前にChatGPTでやり取りしてプロンプトをチューニングしておくことで試行錯誤にかかる料金を抑える

ChatGPTは無料または有料でも月々の料金は定額です。一方でChatGPT APIは従量課金モデルとなっています。あるやり取りに関して試行錯誤しているタイミングにおいては、まずはChatGPTで固定料金の中で様々なプロンプトを試し、ある程度プロンプトの方針が固まった時点でChatGPT APIを利用することで試行錯誤にかかる料金を抑えることが出来るでしょう。

ChatGPTとChatGPTのデータポリシーの比較

以下はOpenAIのAPIと非APIにおけるデータ利用ポリシーを表形式で整理したものです。

学習に利用されて困るデータは非APIサービスであるChatGPTを利用すべきではないでしょう。そのため、そのようなセンシティブなデータを利用する場合は、APIを使ってメッセージを送信することが推奨されます。