在langserve中,如何使用curl将可配置参数传递给langchain LLM链?

问题描述 投票:0回答:1
我有一个 langchain LLM 链链接到 FastAPI 服务器的路由。我使用 langserve add_route() 方法。因为我已将 session_id 作为“可配置”参数传递,并且当我直接调用链时一切正常,如下所示:

chain.invoke({"question":user_input},config={"configurable": {"session_id": SESSIONID}})


但是如果我想使用curl或RemoteRunnable我尝试过:

curl --no-buffer -X 'POST' 'http://0.0.0.0:8000/chainroute/invoke' -H 'accept: text/plain' -H 'Content-Type: application/json' -d '{"input":{"question": "....", "session_id": "1234567890" }}'


curl --no-buffer -X 'POST' 'http://0.0.0.0:8000/chainroute/invoke' -H 'accept: text/plain' -H 'Content-Type: application/json' -d '{"input":{"question": "....",{"configurable":{"session_id":"1234567890"}}}}'


curl --no-buffer -X 'POST' 'http://0.0.0.0:8000/chainroute/stream' -H 'accept: text/plain' -H 'Content-Type: application/json' -d '{"input":{"question":"...."},"config":{"configurable":{"session_id":"1234567890"}}}'


chat = RemoteRunnable("http://0.0.0.0:8000/chainroute") chat.invoke({"question":"......"},config={"configurable": {"session_id": 1234567890}})


但是没有一个起作用,它永远无法识别 session_id 参数。有没有办法做到这一点?我在网上搜索过但没有找到任何东西。

curl parameters langchain large-language-model configurable
1个回答
0
投票
我也遇到了同样的问题,请问你最后是怎么解决的?

© www.soinside.com 2019 - 2024. All rights reserved.