u0u0 发布的文章

AUTOMATIC1111 默认不支持amd显卡,需要有nVidia的独立显卡。

安装Anaconda

由于AUTOMATIC1111限定python3.10,为了隔离环境避免冲突,使用Anaconda来完成python多版本管理。
有别去docker,Anaconda能直接访问主机设备,更适合ai访问硬件驱动。
官方网站:https://www.anaconda.com/

安装完毕,点击"Environments" => "Create", 选3.10.xx,创建一个env。
运行新创建的python310环境,输入下面的命令安装git到虚拟机,stable-diffusion-webui的启动需要git

阅读剩余部分

ollama 安装向量模型

ollama pull nomic-embed-text

Open WebUI设置

进入“管理员设置” ==> “文档”

  1. 语义向量模型引擎,选择ollama。
  2. 地址填入ollama访问地址, key没有则不填。
  3. 语义向量模型,填写nomic-embed-text。

其它默认。

创建知识库

“工作空间” ==> “知识库”, 点击右侧"+"新建知识库。
进入新建的知识库,在右侧上传知识文档,上传中会自动向量化。

chat对话中应用知识库

选择一个llm模型,例如qwen2.5或llama3
chat对话中输入"#"就可以选择对应的知识库了,
然后继续提问即可。

其他问题

知识库上传的的向量化过程,如果文件大了会非常慢,建议小文件一个一个的上传。

    location / {
            proxy_redirect off;
            proxy_set_header Host $http_host;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            # below three lines are for websocket.
            proxy_http_version 1.1;
            proxy_set_header Upgrade $http_upgrade;
            proxy_set_header Connection "upgrade"; # must be "upgrade"
            proxy_pass http://localhost:3000;
    }

傻叉的微软apps目录,默认删不掉,重启还自动创建。

  1. 先删除设置,应用管理里面的“游戏服务”
  2. 修改文件夹权限,然后就可以删除了。
takeown /F "D:\WindowsApps" /A /R /D Y
icacls "D:\WindowsApps" /T /grant administrators:F

装好vim-go插件后,本可以在vim中使用:GoInstallBinaries来安装各种依赖。
但可能网络不好使,需要go设置好7牛的代理来命令行安装包.

go install github.com/nsf/gocode@latest
go install github.com/bradfitz/goimports@latest
go install golang.org/x/tools/cmd/guru@latest
go install golang.org/x/tools/cmd/gorename@latest
go install github.com/rogpeppe/godef@latest
go install github.com/kisielk/errcheck@latest
go install github.com/jstemmer/gotags@latest
go install github.com/klauspost/asmfmt/cmd/asmfmt@latest
go install github.com/fatih/motion@latest
go install github.com/zmb3/gogetdoc@latest
go install github.com/josharian/impl@latest
go install github.com/golangci/golangci-lint/cmd/golangci-lint@latest
go install github.com/fatih/gomodifytags@latest
go install honnef.co/go/tools/cmd/keyify@latest
go install golang.org/x/lint/golint@latest
go install github.com/davidrjenni/reftools/cmd/fillstruct@master
go install github.com/go-delve/delve/cmd/dlv@master
go install github.com/koron/iferr@master
go install golang.org/x/tools/gopls@latest

vim 插件代码使用python需满足几点

  1. vim编译支持了python
  2. vim编译是的python版本,那就装那个版本
  3. Vim版本的位数和python版本的位数一致。

查询vim支持和版本

:version
:py2 import sys
:py2 print(sys.version)

:py3 import sys
:py3 print(sys.version)

python3在window上已安装,命令行也能正确识别到。
但cmake工程中的find就是找不到python3。

cmake生成工程加了-A win32参数,导致cmake只会去找32位的python。
错误信息:

_python3_executable-notfound

卸载64位的python,重新安装32位的python,问题得以解决.