ollama 安装向量模型

ollama pull nomic-embed-text

Open WebUI设置

进入“管理员设置” ==> “文档”

  1. 语义向量模型引擎,选择ollama。
  2. 地址填入ollama访问地址, key没有则不填。
  3. 语义向量模型,填写nomic-embed-text。

其它默认。

创建知识库

“工作空间” ==> “知识库”, 点击右侧"+"新建知识库。
进入新建的知识库,在右侧上传知识文档,上传中会自动向量化。

chat对话中应用知识库

选择一个llm模型,例如qwen2.5或llama3
chat对话中输入"#"就可以选择对应的知识库了,
然后继续提问即可。

其他问题

知识库上传的的向量化过程,如果文件大了会非常慢,建议小文件一个一个的上传。

标签: ollama

添加新评论