如何本地部署 deepseek 请参考(windows 部署安装 大模型 DeepSeek-R1)
LangChain 就是一个 LLM 编程框架,你想开发一个基于 LLM 应用,需要什么组件它都有,直接使用就行;
下面是langchain 调用 本地部署 deepseek-r1 模型:
import os
os.environ["OPENAI_API_BASE"]='http://localhost:11434/v1/'
os.environ["OPENAI_API_KEY"]='xxx'
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(model_name="deepseek-r1:1.5b", temperature=0)
from langchain.schema import HumanMessage
result = llm([HumanMessage(content="土拨鼠原产地")])
print(result)
输出