在进行azure的配置时,涉及到几个重要的概念:
学生认证之后会送100USD
部署(deployment)是自定义名称的,每个部署可以选择不同的模型
模型(model)是针对一个部署来讲,通常可选gpt-4,gpt-3.5turbo等

1.注意!上述的“model”与在项目中调用时所填内容不一样,用azure所提供的接口时,

项目中的model一般只写部署名,因为部署与所用的模型是一一对应的

2.有时会有报错说:xml.etree.ElementTree.ParseError: no element found: line 90, column 32

经测试,大概率是因为azure的接口限速所导致的,因为限速1000

而原来的代码里设置的max_token为4096,会导致模型的输出不完整,从而使xml格式错误

如何解决:azure好像只能给学生用户1000的速率,不知道怎么改

那么是否可以改用deepseek的接口?这样效果可能会更好

或者本地部署LLM??

Logo

腾讯云面向开发者汇聚海量精品云计算使用和开发经验,营造开放的云计算技术生态圈。

更多推荐