参考:【AI】10分钟学会如何用RAG投喂数据给你的deepseek本地模型?_哔哩哔哩_bilibili
方法一:Ollama + page Assist 本地知识库
***下方操作比较精简,详情参考:Ollama 部署本地大语言模型-CSDN博客
1.下载Ollama
2.Ollama安装两个模型
deepseek:人工智能模型
nomic-embed-text:文本嵌入模型
ollama pull deepseek-r1:7b
ollama pull nomic-embed-text
3.下载 page Assist
4.配置 page Assist
5.上传知识库
喂数据
6.对话框提问
略
方法二:Ollama + AnythingLLM 本地知识库
Ollama的操作参考方法一的1、2步
1.下载AnythingLLM
https://anythingllm.com/
下载速度慢,可以去github下载(加上下载器)
2.安装AnythingLLM
如果在安装窗口上再弹出一个窗口,显示下载ollama的库1.8G左右,点×。
进入界面,下一步(右箭头)
3.配置AnythingLLM
①设置中文
②设置工作区的聊天模型![](https://i-blog.csdnimg.cn/direct/e0b3a2f2adbc43c38d6c5666d80e98fd.png)
③设置代理配置 聊天模型
④设置整体的嵌入引擎
4.喂数据
5.测试
14B的模型及以上,结果会好一些,更准确一些,但是需要更高的电脑配置。