☰
LangChain 结构化输出下获取 token logprobs 的配置
2026/10/21 3:11:42 网站建设 项目流程

用 LangChain 调用大模型的聊天接口时,如果既想要结构化输出(Pydantic 模型约束的 JSON),又想拿到每个 token 的 logprobs 做置信度分析或拒绝采样,很容易发现response_metadata里根本没有logprobs字段,即使在链上.bind(logprobs=True)也毫无效果。

问题现象

fromlangchain_openaiimportChatOpenAIfrompydanticimportBaseModelclassResponseFormat(BaseModel):question_index:

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询