AsyncOpenAI聊天接口参数介绍
·
AsyncOpenAI 中的 client.chat.completions.create 参数与同步版本一致,核心必填项为 model 和 messages,其余为可选控制参数。
必填参数
- model (str):模型名称,如
"gpt-4o"、"gpt-3.5-turbo"。 - messages (List[dict]):对话历史列表,每条消息包含
role(system/user/assistant/tool)和content。
常用可选参数
- temperature (float):采样温度,0~2,越高越随机,默认 1.0。
- top_p (float):核采样阈值,0~1,默认 1.0,建议与 temperature 二选一调整。
- max_completion_tokens (int):最大生成 token 数(推荐),替代已废弃的
max_tokens。 - stop (str/List[str]):停止生成序列,最多 4 个。
- stream (bool):是否开启流式输出,默认 False。
- n (int):每次请求生成的回复数量,默认 1。
- presence_penalty / frequency_penalty (float):分别惩罚重复主题和重复词汇,范围 -2.0~2.0。
- logprobs (bool):是否返回 token 对数概率,默认 False。
- top_logprobs (int):每个位置返回概率最高的前 N 个 token,需先开启 logprobs。
- seed (int):随机种子,用于复现结果。
- response_format (dict):指定输出格式,如
{"type": "json_object"}强制 JSON。 - tools (List[dict]):工具定义列表,用于 Function Calling。
- tool_choice (str/object):控制工具调用策略,如
"auto"、"none"或具体工具名。 - parallel_tool_calls (bool):是否允许并行调用工具,默认 True。
- stream_options (dict):流式响应选项,如
{"include_usage": true}。 - store (bool):是否存储消息用于后续分析,默认 False。
- metadata (dict):附加元数据键值对。
- service_tier (str):服务层级,如
"auto"、"flex"。 - user (str):最终用户唯一标识,用于监控和限流。
注:异步调用时方法签名相同,但需使用
await等待结果,例如await client.chat.completions.create(...)。
更多推荐

所有评论(0)