跳转到正文
带概率的类型化答案: 一次调用包含两个问题,一个是/否概率和一个带置信度的选择。

来自一个模型 API 的带概率的类型化答案

, 阅读时间 3 分钟, By Jaber Jaber

工程

RightNow 决策模型 API 接受文本、JSON 状态(机器人状态)、图像、语音、PDF 和视频(预览),返回带概率的类型化答案。

RightNow 决策模型做结构化决策:发送一个状态和命名的问题,然后读取概率、置信度和类型化答案。每个答案以其问题的名称返回:一个 0 到 1 之间的是或否概率,或所选选项及其置信度和每个选项的概率。

什么是决策模型?

一个决策把你的状态与命名的问题配对,并以各自的名称返回每个结果。状态是文本、JSON 对象或 JSON 数组。

JSON 状态可以描述机器人状态,例如 {"battery_percent":80,"moving":false}。代码作为文本放在 state 里发送。

每个问题有一个名称、一个 type 和 instructions。见 Decisions,或读 Introducing the RightNow decision model。

能发送什么?

内联输入:文本、JSON 状态(机器人状态)、图像、语音、PDF、视频(预览)。只支持列出的格式。

文件作为 state 内的一个条目发送。图像以 PNG 或 JPEG 的 data URL 发送,PDF 以带名称的 data URL 发送,视频以 MP4 data URL 发送,音频以带格式的 base64 WAV 数据发送。见 Inputs。

返回什么?

answers 以问题的名称保存每个问题的一个答案。noul 答案是 0 到 1 之间的是或否概率。choice 答案是所选选项,带 0 到 1 的 confidence 和 probabilities 中每个选项的概率。usage.cost 是这次调用的费用。

一次调用带两个类型化问题。状态说订单 1234 在收货 45 天后申请退款,而政策允许 30 天。是或否问题 refund_allowed 返回一个 0 到 1 的概率。选项问题 next_step 返回 approve、deny 或 escalate,带它的置信度和每个选项的概率。
回复的形状。每个类型代表一个值。Call it with your key

怎么调用?

用 API keys 页上的 key,在与每个开放模型相同的基础 URL 上调用 RightNow 决策模型。用 API keys 页上的 key 调用 POST /v1/decisions。把 rightnow-decision 作为 model 发送。用别名跟随当前模型,或用固定 ID 选择某个版本。

Shell
curl https://api.rightnowai.co/v1/decisions \
  -H "Authorization: Bearer $RIGHTNOW_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "rightnow-decision",
    "state": "Order 1234: the customer asks for a refund 45 days after delivery. The policy allows 30 days.",
    "questions": {
      "refund_allowed": {"type": "noul", "instructions": "Is the refund allowed under the policy?"},
      "next_step": {"type": "choice", "instructions": "What should support do next?",
        "options": ["approve", "deny", "escalate"]}
    }
  }'
A call with your key. Call it with your key

在发起调用的进程里设置 RIGHTNOW_API_KEY。把 key 保存在你的服务器上,通过 HTTPS 调用。见 Quickstart。

费用多少?

使用 RightNow 决策模型,你为输入、已回答的问题和已回答的调用付费。

Uncached text input costs USD 0.19 per million input tokens, and cached text input USD 0.019. Each answered question costs USD 0.0001, and each answered call USD 0.00001. Output is free.

带文件的调用花费文本价格加上价格卡上每个文件的费用。被拒绝的问题不计费。见 Pricing。

限制在哪里?

标准文本状态最多支持 38,000 个 token。用 API keys 页上的 key,音频仅限 WAV,一次调用最多包含 32 个问题。

音频每请求限 60 秒。每请求最多发送 4 张图像。PDF 最多 500 页。最多发送一个不超过 10 秒的无声 H.264 MP4,不能带其他文件。

本版本中 calibrated 为 false。

API keys 页上的 key 有自己的每分钟限制:读取回复上的 X-RateLimit-Limit。见 Inputs 和 Rate limits。

简短回答

该用哪种问题类型?

noul 是一个是否概率。文本调用上,choice 接受 2 到 10 个 options,score 接受 2 到 4 个 levels。

能发送文件吗?

能。内联发送文件。只有列出的格式可用。

发送哪个模型 ID?

发送 rightnow-decision。要固定版本,用 rightnow-decision-3.0.0。

怎么获取 key?

在活跃工作区的 API keys 下创建一个命名 key。key 属于它的工作区,只显示一次。

被拒绝的问题计费吗?

不。全部被拒绝的请求没有文本、问题、文件或调用费用。