阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

基于开源MaxKB构建大语言模型的本地知识库系统

46次阅读
没有评论

共计 1608 个字符,预计需要花费 5 分钟才能阅读完成。

基于开源 MaxKB 构建大语言模型的本地知识库系统

什么是 MaxKB

MaxKB 是一款基于 LLM(Large Language Model)大语言模型的知识库问答系统。MaxKB 的产品命名内涵为“Max Knowledge Base”,为用户提供强大的学习能力和问答响应速度,致力于成为企业的最强大脑。

开源:https://github.com/1Panel-dev/MaxKB

文档:https://maxkb.cn/docs/

基于开源 MaxKB 构建大语言模型的本地知识库系统

安装 MaxKB

1. 系统介绍

 系统:ubuntu 22.04
docker:Docker version 26.1.3, build b72abbb
IP:192.168.1.23

需要安装 docker

2. 基于 Docker 安装 MaxKB

# mkdir -p /data/docker/maxkb
# docker run -itd --restart always --name=maxkb -p 8080:8080 -v /data/docker/maxkb:/var/lib/postgresql/data 1panel/maxkb

3. 浏览器访问

IP+ 端口访问

输入默认的用户名和密码

# 用户名: admin
# 密码: MaxKB@123..

基于开源 MaxKB 构建大语言模型的本地知识库系统

使用 MaxKB

如下图,进入后台之后有“应用”,“知识库”,“系统管理”三大主要功能。

基于开源 MaxKB 构建大语言模型的本地知识库系统

创建应用

基于开源 MaxKB 构建大语言模型的本地知识库系统

主要选择 AI 模型,添加模型

基于开源 MaxKB 构建大语言模型的本地知识库系统

除了基于 OpenAI、Ollama、百度千帆大模型等在线大模型快速搭建知识库问答系统,这里可以添加第三方的大模型。

基于开源 MaxKB 构建大语言模型的本地知识库系统

本地安装 Olloma

MaxKB 还支持与以 Ollama 为代表的本地私有大模型相结合,快速部署本地的知识库问答系统。

可以参考之前的:https://mp.weixin.qq.com/s/TVC_XKC1ZdVggNdas–Mhg

root@star-ai:~# ollama list
NAME                    ID              SIZE    MODIFIED     
llama3-cn:latest        8adc5a8a5c36    6.6 GB  11 days ago 
qwen:0.5b               b5dc5e784f2a    394 MB  2 months ago
llama2:latest           78e26419b446    3.8 GB  2 months ago
qwen:32b                26e7e8447f5d    18 GB   2 months ago
gemma:latest            a72c7f4d0a15    5.0 GB  2 months ago
phi3:latest             a2c89ceaed85    2.3 GB  2 months ago
llama3:latest           a6990ed6be41    4.7 GB  2 months ago
qwen:14b                80362ced6553    8.2 GB  2 months ago
qwen:latest             d53d04290064    2.3 GB  2 months ago

配置本地的 Olloma 模型

后台,点击 Olloma 再点击添加模型

基于开源 MaxKB 构建大语言模型的本地知识库系统

API 域名 填入本机的安装 ollama

api key,没有则可以随便填

基于开源 MaxKB 构建大语言模型的本地知识库系统

使用

点击演示会在新页面打开

嵌入第三方可以内嵌页

基于开源 MaxKB 构建大语言模型的本地知识库系统

演示:

基于开源 MaxKB 构建大语言模型的本地知识库系统

嵌入第三方

基于开源 MaxKB 构建大语言模型的本地知识库系统

MaxKB 创建知识库

1. 创建知识库

在 MaxKB 应用界面中,点击“知识库”菜单,选择创建知识库,填写相关信息后创建并导入知识库。在“知识库类型”选项中,离线文档选择“通用型”类型,在线文档选择“Web 站点”类型。知识库创建界面如下:

基于开源 MaxKB 构建大语言模型的本地知识库系统

MaxKB 支持用户使用文档列表查看导入的文本数据。系统会自动爬取根地址及子地址的文本数据,按照 URL 地址生成文档,并自动拆分和进行向量化处理。

基于开源 MaxKB 构建大语言模型的本地知识库系统

2. 创建应用

关联知识库

基于开源 MaxKB 构建大语言模型的本地知识库系统

选择刚才的知识库

基于开源 MaxKB 构建大语言模型的本地知识库系统

在知识库中看到关键字“linux 教程”

基于开源 MaxKB 构建大语言模型的本地知识库系统

在应用对话中“linux 教程”

基于开源 MaxKB 构建大语言模型的本地知识库系统

结尾

MaxKB 社区版的一些限制

知识库数量: 最多支持创建 50 个

应用数量:最多支持创建 5 个

用户管理:最多支持创建 2 个

把它用作网站或者 APP 的机器人客服也是不错的选择。

正文完
星哥说事-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2024-08-14发表,共计1608字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中