Dify如何接入自己的大模型(openai类型接口)
如果我们公司或者本地有部署大模型,输入公司大模型的名称和url即可,api-key如果有就输入,没有的话直接忽视就好,其他的一些选择如:function call 大家按需选择即可。(如果公司的url较长,我们选择路径到v1即可)然后点击安装,如果安装之后没有出现这个供应商,建议多刷新几次或者多点几次安装。我们点击这个模型右侧的添加模型按钮。随后就跳转到了添加模型的界面。
·
大家在使用dify接入大模型的时候,有的时候需要使用公司内部的大模型,或者自己定义的大模型,可能不需要直接使用网上这些模型供应商提供的大模型,这个时候我们在设置自己的大模型的时候,就需要选择OpenAI-API-compatible.具体流程如下:
1.在右上角自己头像下找到设置:

然后接入选择模型供应商界面:
找到模型供应商:

然后点击安装,如果安装之后没有出现这个供应商,建议多刷新几次或者多点几次安装。
随后效果如下:
我们点击这个模型右侧的添加模型按钮
随后就跳转到了添加模型的界面
如果我们公司或者本地有部署大模型,输入公司大模型的名称和url即可,api-key如果有就输入,没有的话直接忽视就好,其他的一些选择如:function call 大家按需选择即可。(如果公司的url较长,我们选择路径到v1即可)

如果添加之后显示修改成功,但是找不到模型,建议多等等,或者在插件页面删除
重新添加。
我在新项目下添加模型之后,大概等了有5分钟之后才显示。
更多推荐
所有评论(0)