RAGFlow
Mac M4芯片安装有很多坑,此处直接上步骤:
安装:https://ragflow.io/docs/dev/ 直接按官网最新版本来,github上的全是坑
如果本地端口被占用,例如 9000 可以改成:
sed -i '' 's/9000/9001/g' *.*
问题1:es 容器一直循环启动,修改 docker-compose-base.yml 配置文件(增加红色部分):
environment:
node.name=es01
ELASTIC_PASSWORD=${ELASTIC_PASSWORD}
bootstrap.memory_lock=false
discovery.type=single-node
xpack.security.enabled=true
xpack.security.http.ssl.enabled=false
xpack.security.transport.ssl.enabled=false
cluster.routing.allocation.disk.watermark.low=5gb
cluster.routing.allocation.disk.watermark.high=3gb
cluster.routing.allocation.disk.watermark.flood_stage=2gb
TZ=${TIMEZONE}
“ES_JAVA_OPTS=-XX:UseSVE=0”
“CLI_JAVA_OPTS=-XX:UseSVE=0”
- “ES_JAVA_OPTS=-XX:UseSVE=0”
- “CLI_JAVA_OPTS=-XX:UseSVE=0”
然后重新 docker compose -f docker-compose.yml up -d
添加 Ollama 的本地模型,发现系统设置里竟然没有!!!,一顿搜索,有人说,添加的时候,api_key 随便写一个值就行,草@!!!!
另外,基础URL那里,如果你的 ragflow 是基于docker 安装的,则这里一定要用:http://host.docker.internal:11434 ,否则无法正常通信
注意:ragflow v0.17.0 以后,agent 里的智能客服,搜索组件有bug,无法正常搜索。一定要用 v0.17.0 这个版本!
将 minio 的默认端口修改为:9100 :
sed -i ‘’ ‘s/9000/9100/g’ .*
另外自行决定是否要修改 .env 里的80和443端口
AnythingLLM
安装:https://github.com/Mintplex-Labs/anything-llm/blob/master/docker/HOW_TO_USE_DOCKER.md
Mount the storage locally and run AnythingLLM in Docker
Linux/MacOs
export STORAGE_LOCATION=$HOME/anythingllm && \
mkdir -p $STORAGE_LOCATION && \
touch "$STORAGE_LOCATION/.env" && \
docker run -d -p 3001:3001 \
--cap-add SYS_ADMIN \
-v ${STORAGE_LOCATION}:/app/server/storage \
-v ${STORAGE_LOCATION}/.env:/app/server/.env \
-e STORAGE_DIR="/app/server/storage" \
mintplexlabs/anythingllm
Windows
端口可以自己指定,安装完后做 nginx 代理,使用域名访问更方便。
然后就是设置了,anythingllm 的设置相对简单,可以用本地ollama模型,也可以指定远程模型