AUTOMATIC1111 默认不支持amd显卡，需要有nVidia的独立显卡。

安装Anaconda

由于AUTOMATIC1111限定python3.10，为了隔离环境避免冲突，使用Anaconda来完成python多版本管理。
有别去docker，Anaconda能直接访问主机设备，更适合ai访问硬件驱动。
官方网站：https://www.anaconda.com/

安装完毕，点击"Environments" => "Create", 选3.10.xx，创建一个env。
运行新创建的python310环境,输入下面的命令安装git到虚拟机，stable-diffusion-webui的启动需要git

阅读剩余部分

ollama 安装向量模型

ollama pull nomic-embed-text

Open WebUI设置

进入“管理员设置” ==> “文档”

1. 语义向量模型引擎，选择ollama。
2. 地址填入ollama访问地址, key没有则不填。
3. 语义向量模型，填写nomic-embed-text。

其它默认。

创建知识库

“工作空间” ==> “知识库”， 点击右侧"+"新建知识库。
进入新建的知识库，在右侧上传知识文档，上传中会自动向量化。

chat对话中应用知识库

选择一个llm模型，例如qwen2.5或llama3
chat对话中输入"#"就可以选择对应的知识库了，
然后继续提问即可。

其他问题

知识库上传的的向量化过程，如果文件大了会非常慢，建议小文件一个一个的上传。

    location / {
            proxy_redirect off;
            proxy_set_header Host $http_host;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            # below three lines are for websocket.
            proxy_http_version 1.1;
            proxy_set_header Upgrade $http_upgrade;
            proxy_set_header Connection "upgrade"; # must be "upgrade"
            proxy_pass http://localhost:3000;
    }

前置条件：公网固定ip的服务器一台
frp下载地址: https://github.com/fatedier/frp/releases
frp是golang开发的项目，release里面有预编译好的二进制，可直接部署。
当前版本为frp_0.61.0

阅读剩余部分

鉴于真香的新版M4 mini，小玩了一下ai推理环境的搭建。
鉴于ollama类似docker的用法，选择了它作为推理后台部署，mac的ollama需要用app才能访问硬件设备，不能使用docker方式安装。
而Open webUI为了避免污染Mac自带python环境，使用了docker部署方案。

阅读剩余部分

傻叉的微软apps目录，默认删不掉，重启还自动创建。

1. 先删除设置，应用管理里面的“游戏服务”
2. 修改文件夹权限，然后就可以删除了。

takeown /F "D:\WindowsApps" /A /R /D Y
icacls "D:\WindowsApps" /T /grant administrators:F

python3在window上已安装，命令行也能正确识别到。
但cmake工程中的find就是找不到python3。

cmake生成工程加了-A win32参数，导致cmake只会去找32位的python。
错误信息：

_python3_executable-notfound

卸载64位的python，重新安装32位的python，问题得以解决.

大部分文章都是

$ cat /proc/cpuinfo
$ cat /proc/meminfo

但是对于arm系统非常不友好，看不到什么信息。用下面的新命令吧.

$ lscpu
$ lsmem

安装dos2unix

$ sudo port -v selfupdate
$ sudo port upgrade outdated
$ sudo port install dos2unix

批量转换

$ cd /xxx/xxx/textFileRootDir
$ find ./ -type f -exec dos2unix {} \;

local function encodeHtmlSpecialChars(str)
    local html = {
        ["<"] = "&lt;",
        [">"] = "&gt;",
        ["&"] = "&amp;",
    }
    local decstr, _ = string.gsub(tostring(str), "[<>&]", function(char)
        return html[char] or char
    end)
    return decstr
end

local function decodeHtmlSpecialChars(str)
    local html = {
        ["&lt;"] = "<",
        ["&gt;"] = ">",
        ["&amp;"] = "&",
    }
    local rawstr, _ = string.gsub(tostring(str), "%b&;", function(char)
        return html[char] or char
    end)
    return rawstr
end