模块介绍
文本大模型
中主要功能是配置项目中所有文本类型的大模型,使用其文本推理功能。
OpenAI
Kimi
DeepSeek
Qwen
Spark
Glm
Ollama集成的大模型
- ...
前置准备
- 使用在线文本大模型时,需要保持网络畅通。
- 使用本地大模型时。需要注意本地机器是否服务对应模型的运行要求(显存、内存等)。
配置步骤
项目启动后,左侧菜单栏进入
模型
页面,选择二级菜单文本大模型
。点击
添加文本大模型
选择合适的模板,更改模型(如需调整)。
填入对应的apiKey,apiKey在各产品官网获取,切记不要泄露,如有泄露,请立即去官网删除或失效apiKey。
如需更改maxToken参数,请在更多配置中更改,更改是请注意需要选择模型支持填写的参数值,否则调用会失败。
注意!
在添加完成后,还需要将对应的文本大模型设置为默认
状态