langchain调用星火大模型API构建私有LLM
如果您对讯飞AI能力接入感到无从下手,现在您可以通过阅读这些文档获得帮助。星火认知大模型服务说明 | 讯飞开放平台文档中心。目前langchain支持的星火版本为。(ultra等版本目前还不支持)Spark Max版本。控制台-讯飞开放平台。
·
import os
from langchain_community.llms import SparkLLM
from langchain_core.messages import SystemMessage, HumanMessage
os.environ["LANGCHAIN_TRACING_V2"] = "true" # langsmith的版本
os.environ["LANGCHAIN_API_KEY"] ='langsmith的api key' # langsmith的API_KEY
os.environ['IFLYTEK_SPARK_APP_ID'] = "星火的APP_ID"
os.environ['IFLYTEK_SPARK_API_SECRET']="星火的API_SECRE"
os.environ['IFLYTEK_SPARK_API_KEY'] = "星火API_KEY"
model = SparkLLM()
msg = [
SystemMessage(content = '请将以下内容翻译成英语'),
HumanMessage(content = '你好,很高兴认识你')
]
result = model.invoke(msg)
print(result)
具体代码如上
网上视频教程(可以参考,但可能和本文的代码不同)
目前langchain支持的星火版本为Spark Max版本(ultra等版本目前还不支持)
星火控制台: 控制台-讯飞开放平台
https://console.xfyun.cn/services/bm35
一些可能遇到的错误:

星火的服务说明:

langsmith的监测结果:

更多推荐
所有评论(0)