starcoder -奇异果体育app竞彩官网下载
更新时间:2023-11-14
starcoder由bigcode研发的15.5b参数模型,基于the stack (v1.2)的80 编程语言训练,训练语料来自github。本文介绍了相关api。
创建completion
调用本接口,发起一次文本续写请求。
请求说明
基本信息
请求地址: https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/completions/{申请发布时填写的api地址}
请求方式: post
api地址说明
申请发布时填写的api地址,相关内容请查看。
header参数
名称 | 值 |
---|---|
content-type | application/json |
query参数
名称 | 类型 | 必填 | 描述 |
---|---|---|---|
access_token | string | 是 | 通过api key和secret key获取的access_token,参考 |
body参数
名称 | 类型 | 必填 | 描述 |
---|---|---|---|
prompt | string | 是 | 请求信息 |
stream | bool | 否 | 是否以流式接口的形式返回数据,默认false |
temperature | float | 否 | 说明: (1)较高的数值会使输出更加随机,而较低的数值会使其更加集中和确定 (2)范围 (0, 1.0],不能为0 (3)建议该参数和top_p只设置1个 |
top_k | int | 否 | top-k 采样参数,在每轮token生成时,保留k个概率最高的token作为候选。说明: (1)影响输出文本的多样性,取值越大,生成文本的多样性越强 (2)取值范围:正整数 |
top_p | float | 否 | 说明: (1)影响输出文本的多样性,取值越大,生成文本的多样性越强 (2)取值范围 [0, 1.0] (3)建议该参数和temperature只设置1个 |
penalty_score | float | 否 | 通过对已生成的token增加惩罚,减少重复生成的现象。说明: (1)值越大表示惩罚越大 (2)取值范围:[1.0, 2.0] |
stop | list(string) | 否 | 生成停止标识。当模型生成结果以stop中某个元素结尾时,停止文本生成。说明: (1)每个元素长度不超过20字符。 (2)最多4个元素 |
user_id | string | 否 | 表示最终用户的唯一标识符,可以监视和检测滥用行为,防止接口恶意调用 |
响应说明
名称 | 类型 | 描述 |
---|---|---|
id | string | 本轮对话的id |
object | string | 回包类型。completion:文本生成返回 |
created | int | 时间戳 |
sentence_id | int | 表示当前子句的序号。只有在流式接口模式下会返回该字段 |
is_end | bool | 表示当前子句是否是最后一句。只有在流式接口模式下会返回该字段 |
result | string | 对话返回结果 |
is_safe | bool | 1:表示输入内容无安全风险 0:表示输入内容有安全风险 |
usage | usage | token统计信息,token数 = 汉字数 单词数*1.3 (仅为估算逻辑) |
usage说明
名称 | 类型 | 描述 |
---|---|---|
prompt_tokens | int | 问题tokens数 |
completion_tokens | int | 回答tokens数 |
total_tokens | int | tokens总数 |
示例
请求示例
# 步骤一,获取access_token,替换下列示例中的应用api key与应用secret key
curl 'https://aip.baidubce.com/oauth/2.0/token?grant_type=client_credentials&client_id=[应用api key]&client_secret=[应用secret key]'
# 步骤二,调用本文api,使用步骤一获取的access_token,替换下列示例中的“调用接口获取的access_token”;替换示例中的申请发布时填写的api名称
curl -x post 'https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/completions/[申请发布时填写的api名称]?access_token=[步骤一调用接口获取的access_token]' -d '{
"prompt":"python计算数组最大值最小值"}
]
}' | iconv -f utf-8 -t utf-8
import requests
import json
def get_access_token():
"""
使用 api key,secret key 获取access_token,替换下列示例中的应用api key、应用secret key
"""
url = "https://aip.baidubce.com/oauth/2.0/token?grant_type=client_credentials&client_id=[应用api key]&client_secret=[应用secret key]"
payload = json.dumps("")
headers = {
'content-type': 'application/json',
'accept': 'application/json'
}
response = requests.request("post", url, headers=headers, data=payload)
return response.json().get("access_token")
def main():
"""
替换下列示例中的申请发布时填写的api名称
"""
url = "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/completions/[申请发布时填写的api名称]?access_token=" get_access_token()
payload = json.dumps({
"prompt": "python计算数组最大值最小值"
})
headers = {
'content-type': 'application/json'
}
response = requests.request("post", url, headers=headers, data=payload)
print(response.text)
if __name__ == '__main__':
main()
响应示例
{
"id": "as-rq3wwusja8",
"object": "completion",
"created": 1693811110,
"result": "# python计算数组最大值和最小值的函数\ndef max_min(a):\n return a.max(), a.min()\n",
"is_safe": 1,
"usage": {
"prompt_tokens": 5,
"completion_tokens": 92,
"total_tokens": 97
}
}
错误码
如果请求错误,服务器返回的json文本包含以下参数。
名称 | 描述 |
---|---|
error_code | 错误码 |
error_msg | 错误描述信息,帮助理解和解决发生的错误 |
例如access token失效返回以下内容,需要重新获取新的access token再次请求。
{
"error_code": 110,
"error_msg": "access token invalid or no longer valid"
}
千帆大模型平台相关错误码,请查看。