1.智谱大模型的API调用方法:(python示例)

API申请网址:智谱AI开放平台

1.ChatOpenAI调用案例(不支持glm-9b)

from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
model = ChatOpenAI(
        temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
        model='glm-4-plus', #自定义智谱平台支持的大模型(glm_9b模型不能使用)
        openai_api_key="Api_key",  # 填入智谱平台申请的API_KEY 
        openai_api_base="https://open.bigmodel.cn/api/paas/v4/"
     )
#模型回答模板
message = """
使用提供的上下文仅回答这个问题:
{question}
上下文:
{context}
"""
#内容,提示模板模板
content=""   #内容可以根据需求(可以是解析好的pdf文本)
prompt_temp = ChatPromptTemplate.from_messages([('human', message)]) #提示模板
docs_runnable = RunnableLambda(lambda input: content)    #信息内容导入

#langchain链,问题:query, context:docs_runnable,提示模板:prompt_temp,大模型:model
chain = {'question': RunnablePassthrough(), 'context': docs_runnable} | prompt_temp | model
resp = chain.invoke(query)   #模型问题回答

2. OpenAI调用案例(不支持glm-9b)

from openai import OpenAI
client = OpenAI(
    base_url='https://open.bigmodel.cn/api/paas/v4/',
    api_key='Api_key',  # 填入智谱平台申请的API_KEY 
)
messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
    model =("glm-4-plus"),  #
    messages=messages,
    stream=True,            #True表示可以流式输出               
    temperature=0.2  #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)

3. ZhipuAI调用案例(支持glm-9b)

from zhipuai import ZhipuAI
client = ZhipuAI(
    base_url='https://open.bigmodel.cn/api/paas/v4/',
    api_key='Api_key',  # 填入智谱平台申请的API_KEY 
)
messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
    model =("glm-4-plus"),  #
    messages=messages,
    stream=True,            #True表示可以流式输出               
    temperature=0.2  #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)

2. 千问大模型的API调用方法:(python示例)

1.API申请网址1(每天免费额度1000次):魔搭社区

2. API申请网址2:百炼控制台

1.ChatOpenAI调用案例:

from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
#百炼平台
model = ChatOpenAI(
        temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
        model="qwen-plus" #自定义模型
        api_key="Api_key",  # 填入百炼平台申请的API_KEY 
        openai_api_base="https://dashscope.aliyuncs.com/compatible-mode/v1"   # 百炼URL
     )
#魔塔社区
#model = ChatOpenAI(
#       temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
#       model="Qwen2.5-7B-Instruct" #自定义模型
#       api_key="Api_key",  魔塔社区申请的API_KEY 
#       openai_api_base="https://api-inference.modelscope.cn/v1/"   #魔塔url
#    )

#模型回答模板
message = """
使用提供的上下文仅回答这个问题:
{question}
上下文:
{context}
"""
#内容,提示模板模板
content=""   #内容可以根据需求(可以是解析好的pdf文本)
prompt_temp = ChatPromptTemplate.from_messages([('human', message)]) #提示模板
docs_runnable = RunnableLambda(lambda input: content)    #信息内容导入

#langchain链,问题:query, context:docs_runnable,提示模板:prompt_temp,大模型:model
chain = {'question': RunnablePassthrough(), 'context': docs_runnable} | prompt_temp | model
resp = chain.invoke(query)   #模型问题回答

2.OpenAI调用案例

from openai import OpenAI
#百炼平台
client = OpenAI(
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
    api_key='Api_key',  # 填入百炼平台申请的API_KEY 
)
#魔塔社区
#client = OpenAI(
#    base_url="https://api-inference.modelscope.cn/v1/",
#    api_key='Api_key',  # 填入模塔平台申请的API_KEY 
#)


messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
    model ="qwen-plus",  #填入模型
    messages=messages,
    stream=True,            #True表示可以流式输出               
    temperature=0.2  #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)

3.豆包大模型的API调用方法:(python示例)

API申请网址:账号登录-火山引擎

1.ChatOpenAI调用案例:(火山填入的是模型ID号,不是模型名称)

from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
model = ChatOpenAI(
        temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
        model='',       #自定义豆包平台支持的大模型ID
        openai_api_key="Api_key",  # 填入豆包平台申请的API_KEY 
        openai_api_base="https://ark.cn-beijing.volces.com/api/v3"
     )
#模型回答模板
message = """
使用提供的上下文仅回答这个问题:
{question}
上下文:
{context}
"""
#内容,提示模板模板
content=""   #内容可以根据需求(可以是解析好的pdf文本)
prompt_temp = ChatPromptTemplate.from_messages([('human', message)]) #提示模板
docs_runnable = RunnableLambda(lambda input: content)    #信息内容导入

#langchain链,问题:query, context:docs_runnable,提示模板:prompt_temp,大模型:model
chain = {'question': RunnablePassthrough(), 'context': docs_runnable} | prompt_temp | model
resp = chain.invoke(query)   #模型问题回答

2.OpenAI调用案例:(火山填入的是模型ID号,不是模型名称)

from openai import OpenAI

client = OpenAI(
    base_url="https://ark.cn-beijing.volces.com/api/v3",
    api_key='Api_key',  # 填入豆包平台申请的API_KEY 
)



messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
    model ="",             #填入模型ID
    messages=messages,
    stream=True,            #True表示可以流式输出               
    temperature=0.2  #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)

4.Deepseek大模型的API调用方法:(python示例)

1.API申请网址1(每天免费1000次):魔搭社区

2.API申请网址2:DeepSeek

1.ChatOpenAI调用案例:

from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
#deepseek平台
model = ChatOpenAI(
        temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
        model="" #自定义模型
        api_key="Api_key",  # 填入deepseek平台申请的API_KEY 
        openai_api_base="https://api.deepseek.com"   # URL
     )
#魔塔社区
#model = ChatOpenAI(
#       temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
#       model="" #自定义模型
#       api_key="Api_key",  魔塔社区申请的API_KEY 
#       openai_api_base="https://api-inference.modelscope.cn/v1/"   #魔塔url
#    )

#模型回答模板
message = """
使用提供的上下文仅回答这个问题:
{question}
上下文:
{context}
"""
#内容,提示模板模板
content=""   #内容可以根据需求(可以是解析好的pdf文本)
prompt_temp = ChatPromptTemplate.from_messages([('human', message)]) #提示模板
docs_runnable = RunnableLambda(lambda input: content)    #信息内容导入

#langchain链,问题:query, context:docs_runnable,提示模板:prompt_temp,大模型:model
chain = {'question': RunnablePassthrough(), 'context': docs_runnable} | prompt_temp | model
resp = chain.invoke(query)   #模型问题回答

2.OpenAI调用案例:

from openai import OpenAI
#deepseek官方平台
client = OpenAI(
    base_url="https://api.deepseek.com",
    api_key='Api_key',  # 填入deepseek平台申请的API_KEY 
)
#魔塔平台
#client = OpenAI(
#    base_url="https://api-inference.modelscope.cn/v1/",
#    api_key='Api_key',  # 填入魔塔平台申请的API_KEY 
#)


messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
    model ="",             #填入模型名称
    messages=messages,
    stream=True,            #True表示可以流式输出               
    temperature=0.2  #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)

5.Llama大模型的API调用方法:(python示例)

API申请网址:llama-3.3-nemotron-super-49b-v1 Model by NVIDIA | NVIDIA NIM

1.ChatOpenAI调用案例:

from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
#deepseek平台
model = ChatOpenAI(
        temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
        model="meta/llama-3.3-70b-instruct" #自定义模型
        api_key="Api_key",  # 填入llama平台申请的API_KEY 
        openai_api_base="https://integrate.api.nvidia.com/v1"   # URL
     )


#模型回答模板
message = """
使用提供的上下文仅回答这个问题:
{question}
上下文:
{context}
"""
#内容,提示模板模板
content=""   #内容可以根据需求(可以是解析好的pdf文本)
prompt_temp = ChatPromptTemplate.from_messages([('human', message)]) #提示模板
docs_runnable = RunnableLambda(lambda input: content)    #信息内容导入

#langchain链,问题:query, context:docs_runnable,提示模板:prompt_temp,大模型:model
chain = {'question': RunnablePassthrough(), 'context': docs_runnable} | prompt_temp | model
resp = chain.invoke(query)   #模型问题回答

2.OpenAI调用案例:

from openai import OpenAI

client = OpenAI(
    base_url="https://integrate.api.nvidia.com/v1",
    api_key='Api_key',  # 填入llama平台申请的API_KEY 
)



messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
    model ="meta/llama-3.3-70b-instruct",             #填入模型名称
    messages=messages,
    stream=True,            #True表示可以流式输出               
    temperature=0.2  #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)

6.月之暗面(Kimi)大模型的API调用方法:(python示例)

API申请网址:Moonshot AI - 开放平台

1.ChatOpenAI调用案例:

from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
#deepseek平台
model = ChatOpenAI(
        temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
        model="moonshot-v1-128k" #自定义模型
        api_key="Api_key",  # 填入平台申请的API_KEY 
        openai_api_base="https://api.moonshot.cn/v1"   # URL
     )


#模型回答模板
message = """
使用提供的上下文仅回答这个问题:
{question}
上下文:
{context}
"""
#内容,提示模板模板
content=""   #内容可以根据需求(可以是解析好的pdf文本)
prompt_temp = ChatPromptTemplate.from_messages([('human', message)]) #提示模板
docs_runnable = RunnableLambda(lambda input: content)    #信息内容导入

#langchain链,问题:query, context:docs_runnable,提示模板:prompt_temp,大模型:model
chain = {'question': RunnablePassthrough(), 'context': docs_runnable} | prompt_temp | model
resp = chain.invoke(query)   #模型问题回答

2.OpenAI调用案例:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.moonshot.cn/v1",
    api_key='Api_key',  # 填入平台申请的API_KEY 
)



messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
    model ="moonshot-v1-128k",             #填入模型名称
    messages=messages,
    stream=True,            #True表示可以流式输出               
    temperature=0.2  #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)

7.ChatGPT大模型的API调用方法:(python示例)

 1.官方API申请网址1:https://platform.openai.com/docs/api-reference/admin-api-keys

2.转接API申请网址2:DrWeb

1.ChatOpenAI调用案例:

from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
#deepseek平台
model = ChatOpenAI(
        temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
        model="gpt4" #自定义模型
        api_key="Api_key",  # 填入平台申请的API_KEY 
        openai_api_base="https://api.openai.com/v1"   # URL
     )

#转接api直接修改url为:https://api.openai-hk.com/v1  


#模型回答模板
message = """
使用提供的上下文仅回答这个问题:
{question}
上下文:
{context}
"""
#内容,提示模板模板
content=""   #内容可以根据需求(可以是解析好的pdf文本)
prompt_temp = ChatPromptTemplate.from_messages([('human', message)]) #提示模板
docs_runnable = RunnableLambda(lambda input: content)    #信息内容导入

#langchain链,问题:query, context:docs_runnable,提示模板:prompt_temp,大模型:model
chain = {'question': RunnablePassthrough(), 'context': docs_runnable} | prompt_temp | model
resp = chain.invoke(query)   #模型问题回答

2.OpenAI调用案例:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.openai.com/v1",
    api_key='Api_key',  # 填入平台申请的API_KEY 
)

#转接api直接修改url为:https://api.openai-hk.com/v1  

messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
    model ="gpt4",             #填入模型名称
    messages=messages,
    stream=True,            #True表示可以流式输出               
    temperature=0.2  #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)

8.书生浦语大模型的API调用方法:(python示例)

API申请网址:书生

1.ChatOpenAI调用案例:

from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
#deepseek平台
model = ChatOpenAI(
        temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
        model="internlm3-latest" #自定义模型
        api_key="Api_key",  # 填入平台申请的API_KEY 
        openai_api_base="https://chat.intern-ai.org.cn/api/v1/"   # URL
     )



#模型回答模板
message = """
使用提供的上下文仅回答这个问题:
{question}
上下文:
{context}
"""
#内容,提示模板模板
content=""   #内容可以根据需求(可以是解析好的pdf文本)
prompt_temp = ChatPromptTemplate.from_messages([('human', message)]) #提示模板
docs_runnable = RunnableLambda(lambda input: content)    #信息内容导入

#langchain链,问题:query, context:docs_runnable,提示模板:prompt_temp,大模型:model
chain = {'question': RunnablePassthrough(), 'context': docs_runnable} | prompt_temp | model
resp = chain.invoke(query)   #模型问题回答

2.OpenAI调用案例:

from openai import OpenAI

client = OpenAI(
    base_url="https://chat.intern-ai.org.cn/api/v1/",
    api_key='Api_key',  # 填入平台申请的API_KEY 
)


messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
    model ="internlm3-latest",             #填入模型名称
    messages=messages,
    stream=True,            #True表示可以流式输出               
    temperature=0.2  #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)

Logo

腾讯云面向开发者汇聚海量精品云计算使用和开发经验,营造开放的云计算技术生态圈。

更多推荐