结合Deepseek如何喂养你自己的本地知识库.docx
本地知识库!
结合Deepseek,喂养你自己的本地知识库!
一、写在前面
可能对大家来说,这个本地部署的意义并不是很大,上篇文章已经写完了,但是有部分数据可能缺失,这里先给补充一下,毕竞两篇文章是互补的关系。
评论区有人问到各个模型量级所对应的系统配置需求,这里统一回复一下:
ollamarundeepseek-r1:5b(建议4G-8G显存)ollamarundeepseek-r1:7b(建议8G显存)
ollamarundeepseek-r1:8b(建议8G显存)
ollamarundeepseek-r1:14b(建议12G显存)ollamarundeepseek-r1:32b(建议24G显存)
ollamarundeepseek-r1:70b(建议32G以上显存)大家可以根据自己的实际情况进行配置啦!
二、本地部署的意义
以目前Al发展的程度,以我纯主观的判断,对于个人来说,最最重要的功能就属你的私人知识库了,
因为确实有些数据是无法上传公网投喂给AI的,里面可能涉及到一些私人信息或者说你的个人风格,Al的模仿能力我相信但凡你看到这儿的应该都能清楚。
没有人希望互联网上出现第二个你吧L
听起来是不是挺恐怖的?所以保护好私人数据啊!话不多说,直接上干货!
三、利用AnythingLLM搭建本地Al知识库
首先打开AnythingLLM的官网下载安装包,很多人推荐Docker的安装方式,这个其实看个人需求了,本次教程为Windows下的安装与使用。
Theall-in-oneAl
application
D
网站是纯英文的,没有中文界面,但是也没有复杂的信息,直接点击Downloadfordesktop即可,受限于网络原因,下载可能会比较慢,静静等待即可。
下载完成后点击安装包进行安装,一路下一步即可,无需复杂配置。安装完成后双击打开
配置新工作区
-iiiuhes
新工作区nws*
S
命名随意
点击工作区齿轮旁边的上传按钮,将你自己的知识文档进行上传
IN
80
HDocumentCtaicon
atopbdd
fh
直接将文档拖放至此,上传完成后勾选文档,并点击MovetoWorkspace
INIuMtn
LN
Doeumentatoaichtrdovnen
Oon
f
oatowee6O
oatowee6O
0*0100
Feithwbusehmp//ncom
Feithwbuse
之后点击下方的SaveandEmbed即可
错误
你可能会看到如下错误信息
Forbiddenaccesstofile:
/support/models/Xenova/all-MiniLM-L6-v2/tokenizer.json
~
-
HyDoeumensasichorhabnm
HyDoeumens
hq~
h
P9
Cob*de
hp/naREmo:1doonenstokdto
hp/naR
sdd
htps//dnusesyt
htps//dnusesythingcomV
wpporvmodstwimow
不要着急,这里需要联网获取分词数据,就意味着你需要链接国际互联网,局域网是不行的
连好之后,就会出现如下成功提示
w
00AN
腻MyDocumentsaaichtordoosmem十
腻
Dw
C*osbudwddop
ehha/ncom
eh
M
Wohprepdated
这时候,你的知识库信息就被记录完成了
问答
关闭上传页面,回到工作区,点击齿轮按钮,将聊天设置中的聊天模式设置为查询。
口uh
向
向代
道用设置
道用设置口跃设
+新工n区
工ngWH
知TCInnmu,后uHt
知
TCInnmu,
#腻
t
t
功E
TEI.u
天
默
假Nnn上下文的
天历
鸡
nxa
Gheretohprocowenutoatoloeto
w