LLM RAG知识库工具对比
很久之前家里就弄了台NAS,使用unRaid的系统,一直想弄个RAG知识库工具在里面,对比了好几个市面上常见的大模型知识库系统,最后还是比较喜欢MaxKB,基本能满足自己的要求,支持简单模式和工作流编排,在加上可以使用python自己写插件,加上界面也还不错。
anythingLLM,功能基本能满足,但是没有工作流,插件也比较麻烦,再加上是英文版为主,有些功能自己实现,还是有点麻烦。
fastgpt、dify这些呢,功能更强大,效果也更好一些,特别是知识库匹配上,确实要好很多,但是配置要求也高了点。
综合以上几点选择了maxKB来做自己本地的知识库系统,不过中间有一点一直有点为难我,就是社区版(免费版本)对应用、知识库以及用户数都有限制,不过好在是开源的,就尝试自己来修改一下限制。
在网络上进行搜索,以确定是否存在现成的方案
不知道是不是用的人并不多的原因,还是其他的什么原因,网上找了很久,都没有怎么找到修改的docker镜像,不过好在在CSDN上找到了一篇相关的文章,然后开始了自己的尝试之旅。
首先在网络附加存储(NAS)上进行操作。由于起初未直接修改 Vue 代码并进行编译生成,而是直接修改了已生成好的原始 JavaScript 代码,但不知为何一直未能成功。在此过程中,也尝试过替换、重启 Docker等一系列操作,就是没有成功。实话说,当时处于周末,耗费了小半天时间仍未解决问题,甚至有放弃的念头。
后续尝试重新打包 Vue 代码,重新生成前端代码,而后替换 Docker 容器中的文件,便取得成功。
接下来我将说说具体的操作步骤:
- 从github上下载源码:1panel/MaxKB
找到文件清单,并搜索关键词“社区版最多”
- apps/setting/serializers/valid_serializers.py
- apps/users/serializers/user_serializers.py
- apps/dataset/serializers/dataset_serializers.py
- apps/application/serializers/application_serializers.py
- ui/src/views/user-manage/index.vue
- ui/src/views/application/component/CopyApplicationDialog.vue
- ui/src/views/dataset/index.vue
- ui/src/views/application/index.vue
逐一修改涉及限制的代码部分
- py文件,直接修改上面的数量限制,一般为
count=
后面的数字,直接修改,并修改后面的message=
的说明文字 - vue文件,则一般是在
if else
条件函数里面,则直接将上面的处理过程复制到被限制的部分,来跳过限制提示
- py文件,直接修改上面的数量限制,一般为
使用 nodejs npm 重新打包前端代码
修改完所有
ui/src/view/
下的vue文件之后,使用命令npm i
安装所需要的node依赖,使用命令npm run build
重新打包文件,打包之后的文件会在dist/ui
目录下,可以将文件夹拷贝出来,以备后用。替换 docker 中的文件,并重启 docker 镜像,以便生效
- 将
ui
文件夹以及第一步中的4个已经修改了的py文件,放置在同一个目录下 运行CMD或者Powershell,运行如下代码:
docker cp ./ui maxkb:/opt/maxkb/app/ui/dist
docker cp ./valid_serializers.py maxkb:/opt/maxkb/app/apps/setting/serializers
docker cp ./dataset_serializers.py maxkb:/opt/maxkb/app/apps/dataset/serializers
docker cp ./user_serializers.py maxkb:/opt/maxkb/app/apps/users/serializers
docker cp ./application_serializers.py maxkb:/opt/maxkb/app/apps/application/serializers
- 将
在完成上述所有步骤之后,您将会获得一个数量不受限制的 MaxKB 系统。
最后,如果您确实不知如何进行修改,可以在文章结尾处留言,我会将修改后的文件进行打包并发送给您。(由于 BLOG 的服务器容量和流量都比较小,故无法直接提供下载文件,望予以理解。)
另外附上免费的大语言模型可供使用,注册可以访问:SiliconCloud,Qwen、GLM、零一万物、META的llama、deepseek等都可以免费使用,快来试试吧。
1028530975@qq.com 谢谢博主
( ๑´•ω•) "(ㆆᴗㆆ)厉害厉害,搞定了
@yxj 搞定了吗?还说发给你来着,刚刚更新最新版的|´・ω・)ノ
大佬大佬我想要一份修改的文件,方便发邮箱519576613@qq.com吗
@architto 发你邮箱了,是1.6.1版本
16007500@qq.com 谢谢分享
@测试 发你邮箱了,是1.6.1版本
方便把修改后的文件发我一份吗?我邮箱是alan_sudo@yeah.net
@alansudo 发了,注意查收。
742799101@qq.com 谢谢博主
@lon 发了,注意查收。
dayue12168@163.com 谢谢博主
@dayue 发你邮箱了。
大佬,麻烦分享一下文件 1505568587@qq.com
@moyao 已经发了,注意查收。
感谢分享,forytb01@outlook.com
@yy 已经发了,不过你邮箱好像收不了大附件,被退信了,可以换个邮箱。
nixitao@163.com ,谢谢
@nxt 已经发了
大佬大佬我想要一份修改的文件,方便发邮箱1182727158@qq.com吗
@xiaocai 注意查收邮件
大佬大佬,可以麻烦发邮箱1468849427@qq.com吗,我还是没搞定
@二狗子 已经发送了,注意查收。
@白小怒 谢谢大佬
能发我一份吗?谢谢
@yyy 邮箱地址2356707074@qq.com