大家在使用dify接入大模型的时候,有的时候需要使用公司内部的大模型,或者自己定义的大模型,可能不需要直接使用网上这些模型供应商提供的大模型,这个时候我们在设置自己的大模型的时候,就需要选择OpenAI-API-compatible.具体流程如下:

1.在右上角自己头像下找到设置:

然后接入选择模型供应商界面:

找到模型供应商:

然后点击安装,如果安装之后没有出现这个供应商,建议多刷新几次或者多点几次安装。

随后效果如下:

我们点击这个模型右侧的添加模型按钮

随后就跳转到了添加模型的界面

如果我们公司或者本地有部署大模型,输入公司大模型的名称和url即可,api-key如果有就输入,没有的话直接忽视就好,其他的一些选择如:function call 大家按需选择即可。(如果公司的url较长,我们选择路径到v1即可)

如果添加之后显示修改成功,但是找不到模型,建议多等等,或者在插件页面删除重新添加。

我在新项目下添加模型之后,大概等了有5分钟之后才显示。

Logo

腾讯云面向开发者汇聚海量精品云计算使用和开发经验,营造开放的云计算技术生态圈。

更多推荐