模型接口
ModelTracing
基础: Enum
源代码在 src/agents/models/interface.py
模型
基础: ABC
调用 LLM 的基本接口。
源代码在 src/agents/models/interface.py
获取响应 抽象方法 异步
get_response(
system_instructions: str | None,
input: str | list[TResponseInputItem],
model_settings: ModelSettings,
tools: list[Tool],
output_schema: AgentOutputSchemaBase | None,
handoffs: list[Handoff],
tracing: ModelTracing,
*,
previous_response_id: str | None,
conversation_id: str | None,
prompt: ResponsePromptParam | None,
) -> ModelResponse
从模型获取响应。
参数
| 名称 | 类型 | 描述 | 默认 |
|---|---|---|---|
系统指令
|
str | None
|
要使用的系统指令。 |
required |
input
|
字符串 | 列表[TResponseInputItem]
|
以 OpenAI Responses 格式呈现的模型输入项。 |
required |
模型设置
|
ModelSettings
|
要使用的模型设置。 |
required |
工具
|
列表[工具]
|
模型可用的工具。 |
required |
输出模式
|
AgentOutputSchemaBase | None
|
要使用的输出模式。 |
required |
handoffs
|
列表[Handoff]
|
模型可用的交接。 |
required |
追踪
|
ModelTracing
|
追踪配置。 |
required |
先前的响应 ID
|
str | None
|
先前的响应的 ID。通常情况下,模型不使用它,除非是 OpenAI Responses API。 |
required |
会话 ID
|
str | None
|
存储会话的 ID(如果有)。 |
required |
prompt
|
ResponsePromptParam | None
|
要用于模型的提示配置。 |
required |
返回值
| 类型 | 描述 |
|---|---|
ModelResponse
|
完整的模型响应。 |
源代码在 src/agents/models/interface.py
流式响应 抽象方法
stream_response(
system_instructions: str | None,
input: str | list[TResponseInputItem],
model_settings: ModelSettings,
tools: list[Tool],
output_schema: AgentOutputSchemaBase | None,
handoffs: list[Handoff],
tracing: ModelTracing,
*,
previous_response_id: str | None,
conversation_id: str | None,
prompt: ResponsePromptParam | None,
) -> AsyncIterator[TResponseStreamEvent]
从模型流式传输响应。
参数
| 名称 | 类型 | 描述 | 默认 |
|---|---|---|---|
系统指令
|
str | None
|
要使用的系统指令。 |
required |
input
|
字符串 | 列表[TResponseInputItem]
|
以 OpenAI Responses 格式呈现的模型输入项。 |
required |
模型设置
|
ModelSettings
|
要使用的模型设置。 |
required |
工具
|
列表[工具]
|
模型可用的工具。 |
required |
输出模式
|
AgentOutputSchemaBase | None
|
要使用的输出模式。 |
required |
handoffs
|
列表[Handoff]
|
模型可用的交接。 |
required |
追踪
|
ModelTracing
|
追踪配置。 |
required |
先前的响应 ID
|
str | None
|
先前的响应的 ID。通常情况下,模型不使用它,除非是 OpenAI Responses API。 |
required |
会话 ID
|
str | None
|
存储会话的 ID(如果有)。 |
required |
prompt
|
ResponsePromptParam | None
|
要用于模型的提示配置。 |
required |
返回值
| 类型 | 描述 |
|---|---|
AsyncIterator[TResponseStreamEvent]
|
以 OpenAI Responses 格式呈现的响应流事件的迭代器。 |
源代码在 src/agents/models/interface.py
ModelProvider
基础: ABC
The base interface for a model provider.
模型提供者负责按名称查找模型。