Chat Completions
    • PDF

    Chat Completions

    • PDF

    記事の要約

    Classic/VPC環境で利用できます。

    HyperCLOVA Xモデルを利用して会話型文章を生成します。

    リクエスト

    リクエスト形式を説明します。リクエスト形式は次の通りです。

    メソッドURI
    POST/v1/chat-completions/{modelName}
    参考

    チューニング学習を行った作業を利用する際は/v1/tasks/{taskId}/chat-completions形式で呼び出します。呼び出しに必要なtaskID学習作成 APIのレスポンスボディで確認できます。

    リクエストヘッダ

    ヘッダの説明は次の通りです。

    ヘッダ必須の有無説明
    X-NCP-CLOVASTUDIO-API-KEYYテストアプリやサービスアプリの作成時に発行された API KEY
    X-NCP-APIGW-API-KEYYテストアプリやサービスアプリの作成時に発行された API Gateway KEY
    X-NCP-CLOVASTUDIO-REQUEST-IDN各リクエストのリクエスト ID
    Content-TypeYapplication/json
    AcceptNtext/event-stream
    参考
    • レスポンス結果は基本的に JSON形式で返されますが、Accepttext/event-streamに指定するとレスポンス結果をストリーム形式で返します。
    • レスポンスストリームの利用時、API URLはhttps://clovastudio.stream.ntruss.com/を使用してください。

    リクエストパスパラメータ

    パラメータの説明は次の通りです。

    フィールドタイプ必須の有無説明
    modelNamestringY使用するモデル名<例> HCX-003

    チューニング学習を行った作業を利用する場合、パラメータの説明は次の通りです。

    フィールドタイプ必須の有無説明
    taskIdstringY学習 ID
    参考

    呼び出しに必要なtaskID学習作成 APIのレスポンスボディで確認できます。

    リクエストボディ

    ボディの説明は次の通りです。

    フィールドタイプ必須の有無説明
    messagesobject (ChatMessage)Y会話メッセージ
    ChatMessages.roleenumY会話メッセージのロール
  • system: ロールを規定する指示文
  • user: ユーザーの発話/質問
  • assistant: ユーザーの発話/質問に対する回答
  • ChatMessages.contentstringY会話メッセージの内容
    temperaturedoubleN生成トークンに対する多様性の程度(設定値が高いほど多様な文章を生成)
  • 0.00 < temperature ≤ 1 (デフォルト: 0.50)
  • topKintN生成トークン候補群から確率の高いトークン k個を候補に指定してサンプリング
  • 0 ≤ topK ≤ 128 (デフォルト: 0)
  • topPdoubleN生成トークン候補群を累積確率に基づいてサンプリング
  • 0 < topP ≤ 1 (デフォルト: 0.8)
  • repeatPenaltydoubleN同じトークンを生成することに対するペナルティの程度(設定値が高いほど同じ結果値を繰り返し生成する確率は下がる)
  • 0 < repeatPenalty ≤ 10 (デフォルト: 5.0)
  • stopBeforestringNトークン生成停止文字
  • [](デフォルト)
  • maxTokensintN最大トークン生成数
  • 0~4096 (デフォルト: 100)
  • includeAiFiltersbooleanN生成された結果値に対する罵倒、蔑み/差別/嫌悪、セクハラ/わいせつなどカテゴリ別に当てはまる程度
  • false(デフォルト)
  • true
  • seedintNモデルを繰り返し実行する場合、結果値の一貫性のレベルを調整
  • 0: 一貫性のレベルをランダムに適用(デフォルト)
  • 1 ≤ seed ≤ 4294967295: 一貫して作成しようとする結果値の seed値またはユーザーが指定しようとする seed値
  • 参考

    一部フィールドの入力時、下記の内容をご確認ください。

  • messages: 入力したトークン数と`maxTokens`で入力したトークン数の合計は4096トークンを超えてはいけません。messagesで入力したトークン数は、Chat Completionsトークン計算 APIを呼び出して確認できます。
  • topP、temperature: 小数点第2位まで表記します。
  • Seed: 使用時にモデルを繰り返し実行しても、一貫した結果値を得る確率を高められます。ただし、結果値の完全性は保証されません。他の条件が変わると結果が微妙に変わる可能性があります。
  • リクエスト構文

    構文のサンプルコードは次の通りです。

    curl --location --request POST 'https://clovastudio.stream.ntruss.com/testapp/v1/chat-completions/HCX-002' \
    --header 'X-NCP-CLOVASTUDIO-API-KEY: <X-NCP-CLOVASTUDIO-API-KEY>' \
    --header 'X-NCP-APIGW-API-KEY: <X-NCP-APIGW-API-KEY>' \
    --header 'X-NCP-CLOVASTUDIO-REQUEST-ID: <X-NCP-CLOVASTUDIO-REQUEST-ID>' \
    --header 'Content-Type: application/json' \
    --header 'Accept: text/event-stream' \
    --data '{
      "topK" : 0,
      "includeAiFilters" : true,
      "maxTokens" : 256,
      "temperature" : 0.5,
      "messages" : [ {
        "role" : "system",
        "content" : "test"
      }, {
        "role" : "user",
        "content" : "テストをしてみよう。"
      }, {
        "role" : "assistant",
        "content" : "分かりました。何をテストしてみましょうか。"
      } ],
      "stopBefore" : [ ],
      "repeatPenalty" : 5.0,
      "topP" : 0.8
    }'
    

    レスポンス

    レスポンス形式を説明します。

    レスポンスヘッダ

    ヘッダの説明は次の通りです。

    ヘッダ必須の有無説明
    Content-Type-application/json

    レスポンスボディ

    ボディの説明は次の通りです。

    フィールドタイプ必須の有無説明
    result--レスポンス結果
    result.messagearray-会話メッセージ
    result.message.roleenum-会話メッセージのロール
  • system: ロールを規定する指示文
  • user: ユーザーの発話/質問
  • assistant: ユーザーの発話/質問に対する回答
  • result.message.contentstring-会話メッセージの内容
    result.stopReasonenum-トークン生成停止の理由(通常、最後のイベントに伝達)
  • LENGTH: 長さ制限
  • END_TOKEN: EOD(End Of Token)による生成停止
  • STOP_BEFORE: stopBeforeに指定した文字による停止
  • result.inputLengthint-入力トークン数(課金の基準で、end of turnといった特殊なトークンも含む)
    result.outputLengthint-レスポンストークン数
    result.seedint-入力 seed値
    (0を入力したか、未入力の場合はランダムな値を返す)
    aiFilterarray-AI Filter結果
    aiFilter.groupNamestring-AI Filterカテゴリグループ名
  • curse
  • unsafeContents
  • aiFilter.namestring-AI Filterの詳細なカテゴリの名前
  • discrimination: 蔑み、差別、嫌悪(curse)
  • insult: 罵倒(curse)
  • sexualHarassment: セクハラ、わいせつ(unsafeContents)
  • aiFilter.scorestring-AI Filterスコア
  • 0: 会話メッセージに要注意/危険な表現を含む可能性が高い
  • 1: 会話メッセージに要注意/危険な表現を含む可能性がある
  • 2: 会話メッセージに要注意/危険な表現を含む可能性が低い
  • -1: AI Filterエラー発生
  • aiFilter.scorestring-AI Filterは正常に動作しているか
  • OK: 正常に動作
  • ERROR: エラー発生
  • 参考

    AI Filterは最大500文字まで分析できます。ただし、分析対象テキストに異常な形式、絵文字、記号などが多い場合、正常に分析されないことがあります。

    レスポンス構文

    構文のサンプルコードは次の通りです。

    成功

    呼び出しに成功した場合の構文例は次の通りです。

    {
      "status": {
        "code": "20000",
        "message": "OK"
      },
      "result": {
        "message": {
          "role": "assistant",
          "content": "文言: 今日一日の出来事を記録して、明日に備えましょう。ダイアリーはあなたの人生をより豊かにしてくれます。\n"
        },
        "stopReason": "LENGTH",
        "inputLength": 100,
        "outputLength": 10,
        "aiFilter": [
          {
            "groupName": "curse",
            "name": "insult",
            "score": "1"
          },
          {
            "groupName": "curse",
            "name": "discrimination",
            "score": "0"
          },
          {
            "groupName": "unsafeContents",
            "name": "sexualHarassment",
            "score": "2"
          }
        ]
      }
    }
    

    失敗

    呼び出しに失敗した場合の構文例は次の通りです。

    レスポンスストリーム

    生成されるトークンを1つずつ出力するようにトークンストリーミングを使用できます。トークンストリーミング形式を説明します。

    ヘッダ

    ヘッダの説明は次の通りです。

    ヘッダ必須の有無説明
    Accept-text/event-stream

    ボディ

    ボディの説明は次の通りです。

    StreamingChatCompletionsResultEvent

    StreamingChatCompletionsResultEventの説明は次の通りです。

    フィールドタイプ必須の有無説明
    messagearray-会話メッセージ
    message.roleenum-会話メッセージのロール
  • system: ロールを規定する指示文
  • user: ユーザーの発話/質問
  • assistant: ユーザーの発話/質問に対する回答
  • message.contentstring-会話メッセージの内容
    stopReasonenum-トークン生成停止の理由(通常、最後のイベントに伝達)
  • LENGTH: 長さ制限
  • END_TOKEN: EOD(End Of Token)による生成停止
  • STOP_BEFORE: stopBeforeに指定した文字による停止
  • inputLengthint-入力トークン数(課金の基準で、end of turnといった特殊なトークンも含む)
    outputLengthint-レスポンストークン数
    aiFilterarray-AI Filter結果
    aiFilter.groupNamestring-AI Filterカテゴリグループ名
    aiFilter.namestring-AI Filterの詳細なカテゴリの名前
    aiFilter.scorestring-AI Filterスコア
  • 0: 会話メッセージに要注意/危険な表現を含む可能性が高い
  • 1: 会話メッセージに要注意/危険な表現を含む可能性がある
  • 2: 会話メッセージに要注意/危険な表現を含む可能性が低い
  • -1: AI Filterエラー発生
  • aiFilter.resultstring-AI Filterは正常に動作しているか
  • OK: 正常に動作
  • ERROR: エラー発生
  • StreamingChatCompletionsTokenEvent

    StreamingChatCompletionsResultEventの説明は次の通りです。

    フィールドタイプ必須の有無説明
    idstring-リクエストを識別するイベント ID
    messagearray-会話メッセージ
    message.roleenum-会話メッセージのロール
  • system: ロールを規定する指示文
  • user: ユーザーの発話/質問
  • assistant: ユーザーの発話/質問に対する回答
  • message.contentstring-会話メッセージの内容
    inputLengthint-入力トークン数(課金の基準で、end of turnといった特殊なトークンも含む)
    stopReasonenum-トークン生成停止の理由(通常、最後のイベントに伝達)
  • LENGTH: 長さ制限
  • END_TOKEN: EOD(End Of Token)による生成停止
  • STOP_BEFORE: stopBeforeに指定した文字による停止
  • ErrorEvent

    ErrorEventの説明は次の通りです。

    フィールドタイプ必須の有無説明
    statusstatus-レスポンスステータス

    SignalEvent

    SignalEventの説明は次の通りです。

    フィールドタイプ必須の有無説明
    datastring-渡すシグナルデータ情報

    レスポンス構文

    構文のサンプルコードは次の通りです。

    成功

    呼び出しに成功した場合の構文例は次の通りです。

    id: aabdfe-dfgwr-edf-hpqwd-f2asd-g
    event: token
    data: {"message": {"role": "assistant", "content": “こんに”}}
    
    id: aabdfe-dfgwr-edf-hpqwd-f1asd-g
    event: result
    data: {"message": {"role": "assistant","content": “ちは”}}
    

    失敗

    呼び出しに失敗した場合の構文例は次の通りです。


    この記事は役に立ちましたか?

    What's Next
    Changing your password will log you out immediately. Use the new password to log back in.
    First name must have atleast 2 characters. Numbers and special characters are not allowed.
    Last name must have atleast 1 characters. Numbers and special characters are not allowed.
    Enter a valid email
    Enter a valid password
    Your profile has been successfully updated.