AsyncOpenAI 中的 client.chat.completions.create 参数与同步版本一致,核心必填项为 ‌model‌ 和 ‌messages‌,其余为可选控制参数。

必填参数

  • model‌ (str):模型名称,如 "gpt-4o""gpt-3.5-turbo"
  • messages‌ (List[dict]):对话历史列表,每条消息包含 role(system/user/assistant/tool)和 content

常用可选参数

  • temperature‌ (float):采样温度,0~2,越高越随机,默认 1.0。
  • top_p‌ (float):核采样阈值,0~1,默认 1.0,建议与 temperature 二选一调整。
  • max_completion_tokens‌ (int):最大生成 token 数(推荐),替代已废弃的 max_tokens
  • stop‌ (str/List[str]):停止生成序列,最多 4 个。
  • stream‌ (bool):是否开启流式输出,默认 False。
  • n‌ (int):每次请求生成的回复数量,默认 1。
  • presence_penalty‌ / ‌frequency_penalty‌ (float):分别惩罚重复主题和重复词汇,范围 -2.0~2.0。
  • logprobs‌ (bool):是否返回 token 对数概率,默认 False。
  • top_logprobs‌ (int):每个位置返回概率最高的前 N 个 token,需先开启 logprobs。
  • seed‌ (int):随机种子,用于复现结果。
  • response_format‌ (dict):指定输出格式,如 {"type": "json_object"} 强制 JSON。
  • tools‌ (List[dict]):工具定义列表,用于 Function Calling。
  • tool_choice‌ (str/object):控制工具调用策略,如 "auto""none" 或具体工具名。
  • parallel_tool_calls‌ (bool):是否允许并行调用工具,默认 True。
  • stream_options‌ (dict):流式响应选项,如 {"include_usage": true}
  • store‌ (bool):是否存储消息用于后续分析,默认 False。
  • metadata‌ (dict):附加元数据键值对。
  • service_tier‌ (str):服务层级,如 "auto""flex"
  • user‌ (str):最终用户唯一标识,用于监控和限流。

注:异步调用时方法签名相同,但需使用 await 等待结果,例如 await client.chat.completions.create(...)

Logo

智能硬件社区聚焦AI智能硬件技术生态,汇聚嵌入式AI、物联网硬件开发者,打造交流分享平台,同步全国赛事资讯、开展 OPC 核心人才招募,助力技术落地与开发者成长。

更多推荐